Разкриха неочакван начин за разобличаване на AI гласова измама

Ето за какво трябва да внимавате

Ръководител във Ferrari вероятно неволно е разкрил един от най-простите и ефективни начини за предотвратяване на измами с глас, генериран от изкуствен интелект. Вместо да се довери на гласа на събеседника, той задава конкретен въпрос, свързан с информация, която не е публично достъпна.

През юли 2024 г. служител на ръководна позиция във Ferrari получава съобщения в WhatsApp, последвани от телефонно обаждане. От другата страна на линията се представя човек, който твърди, че е изпълнителният директор на компанията Бенедето Виня.

Гласът и акцентът на обаждащия се са били имитирани чрез технология за клониране на глас. Целта на комуникацията е била да бъде изискан паричен превод.

Сам Алтман: OpenAI няма да излезе на борсата тази година

ChatGPT даде начало на масовия интерес към технологиите с изкуствен интелект преди няколко години

Вместо да изпълни нареждането, служителят задава въпрос, свързан с книга, която Виня е препоръчал само няколко дни по-рано. Измамникът не успява да отговори и прекратява разговора. Този прост ход се оказва достатъчен, за да предизвика съмнение и да предотврати потенциална финансова загуба, пише Unilad.

Случаят показва защо експертите съветват хората да не разчитат единствено на това дали гласът по телефона звучи познато или автентично.

Според Валерия Контрерас, маркетинг мениджър в Zepo Intelligence, днес глас може да бъде клониран въз основа на аудиозапис с продължителност едва три секунди.

Технологията позволява на измамниците да създават убедителни имитации на ръководители, близки и колеги. В някои случаи те могат да провеждат разговори в реално време, което прави разпознаването на измамата още по-трудно.

Данните, цитирани от Zepo Intelligence, показват значителен ръст на подобни атаки:

• случаите на гласови дийпфейк измами са нараснали с 680% на годишна база;
• опитите за измама с тази технология са се увеличили с 2137% за три години – от 0,1% до 6,5% от всички опити за измама;
• през 2024 г. честотата на инцидентите е нараснала от средно един случай месечно до седем на ден.

Как работят измамите с клониран глас?

Измамниците използват няколко основни сценария:

• представят се за ръководители по време на гласови или видеоконферентни разговори, за да поискат или одобрят преводи;
• имитират близък човек, който твърди, че се намира в спешна ситуация;
• започват комуникация чрез WhatsApp или SMS, преди да преминат към разговор с клониран глас;
• използват публични видеоклипове, интервюта, публикации в социалните мрежи или дори записи от гласова поща, за да създадат убедителна имитация.

Мишените вече не са само знаменитости и висши корпоративни ръководители. Според Контрерас все по-често в обсега на измамниците попадат обикновени семейства и служители на средно управленско ниво.

Способността на хората да различават истински от генериран глас или образ остава ограничена.

Анализ от 2024 г., обхващащ 56 проучвания и около 86 000 участници, установява, че хората постигат точност от приблизително 55% при разпознаването на дийпфейк съдържание чрез слух или зрение.

Търговските инструменти за засичане могат да достигнат до 96% точност в лабораторни условия, но в реална среда този показател може да спадне до между 50% и 65%.

Това означава, че дори технологичните решения не са безпогрешни. Допълнителен проблем е, че измамите вече могат да се случват в реално време, без жертвата да има възможност да анализира разговора спокойно.

Когато ИИ поеме контрола: Четири чатбота разкриват най-страшните сценарии за края на човечеството

Ето какво отговориха те на въпроси за човечеството

Как да се предпазим от AI гласова измама?

Експертите препоръчват да не се разчита на самия звук. Възможно е да има неестествен темп на речта, странни паузи или леки аудио дефекти, но тези признаци не са достатъчно надеждни.

Най-добрата защита остава независимата проверка.

При обаждане от близък човек

Ако роднина или приятел внезапно поиска пари:

1. Прекратете разговора.
2. Обадете се обратно на номер, който вече знаете и сте използвали.
3. Не използвайте номер, предоставен от самия обаждащ се.
4. Проверете ситуацията чрез друг близък човек.

При обаждане от ръководител или бизнес партньор

При искане за превод, промяна на банкови данни или предоставяне на поверителна информация:

• потвърдете нареждането чрез отделен комуникационен канал;
• използвайте вътрешна процедура за одобрение;
• не допускайте спешността да замени проверката;
• задайте конкретен въпрос, свързан с актуална или лична информация, която не е достъпна онлайн;
• при съмнение поискайте писмено потвърждение от официален служебен адрес.

Именно такъв подход използва служителят на Ferrari, който задава въпрос за наскоро препоръчана книга. Информацията е достатъчно конкретна, за да затрудни измамника, но естествена за реален разговор между хора, които се познават.

Според данни на Zepo Intelligence глобалните загуби от измами, свързани с генеративния изкуствен интелект, се очаква да нараснат от 12,3 млрд. долара през 2024 г. до 40 млрд. долара през 2027 г.

Тенденцията показва, че с развитието на технологиите измамите ще стават все по-убедителни. Затова най-сигурната реакция при необичайно обаждане не е да се вслушваме по-внимателно, а да проверим самоличността на събеседника по независим начин.

Ако гласът по телефона звучи точно като този на човек, на когото се доверявате, това вече не е достатъчно. Понякога един-единствен конкретен въпрос може да се окаже разликата между убедителна измама и навреме разкрита манипулация.