Клониране на детски гласове и други deepfake измами

Компютърно генерираните гласове на децата са толкова реалистични, че успяват да заблудят самите родители. Изкусно направени маски, създадени с помощта на снимки от социалните мрежи, които могат успешно да послужат за вход в система, защитена с лицева идентификация. Звучи като нещо от научната фантастика, но тези техники вече са на разположение на престъпниците, които се възползват от обикновените потребители.

Разпространението на такива (fake) технологии разтревожи регулаторните органи, полицията и служителите от най-високите етажи на финансовата индустрия. Председателят на Федералната търговска комисия на САЩ Лина Хан предупреди през юни, че изкуственият интелект (AI) помага за „ускоряване“ на измамите и призова за повишена бдителност от страна на правоприлагащите органи.

Още преди AI да се разгърне до сегашната масова употреба в интернет, светът вече се бореше да овладее експлозията на финансовите измами. Само в САЩ потребителите са загубили почти 8.8 млрд. долара през миналата година, което е ръст от 44% спрямо 2021 г. – и се случва въпреки рекордните инвестиции в разкриването и предотвратяването им.

Експертите по финансови престъпления в големите банки като Wells Fargo & Co. и Deutsche Bank AG казват, че задаващият се бум на измамите е една от най-големите заплахи пред тяхната индустрия. Освен че плаща разходите за борба с тях, финансовата индустрия рискува да загуби доверието на опарените клиенти.

Това е надпревара във въоръжаването“, казва пред Bloomberg Джеймс Робъртс, който ръководи управлението на измамите в Commonwealth Bank of Australia, най-голямата банка в страната. „Би било пресилено да се каже, че печелим.“

Историята на измамите със сигурност е толкова стара, колкото и историята на търговията и бизнеса. Един от най-ранните известни случаи, преди повече от 2000 години, е свързан с гръцки морски търговец, който се опитал да потопи кораба си, за да получи по нечестен път плащане по застрахователна полица. Историята помни безброй подобни опити.

Но тъмната икономика на измамите – също като икономиката изобщо – периодично получава иновационен тласък. Новите технологии намаляват разходите за извършване на престъпни дейности и позволяват на престъпника да достигне до по-голям брой потенциални жертви. Кой например не е получавал имейл за закъсал арабски шейх, който търси помощ и обещава примамлива финансова отплата в замяна? Криптовалутите пък доведоха до разцвет на Понци схемите благодарение и на социалните мрежи.

AI бумът предлага не само нови инструменти, но и заплашва да с финансови загуби, които могат ад преобърнат животи. По-голямата сложност и това, че все още е непозната, правят технологията опасна не само за лековерните потребители. Жертва може да се окаже всеки.

На този фон е налице – особено след COVID-19 – бум на онлайн банкирането по целия свят. Телефоните и лаптопите замениха живия контакт в банковите клонове, което е добре дошло за клиентите, но и за измамниците.

„Започваме да наблюдаваме много по-голямо усъвършенстване на киберпрестъпленията“, казва Ейми Хоган-Бърни, генерален мениджър на политиката за киберсигурност и защита в Microsoft Corp.

В световен мащаб разходите за киберпрестъпления, включително измами, ще достигнат 8 трилиона долара тази година – сума, която надхвърля икономическата продукция на Япония, третата по големина икономика в света. До 2025 г. те ще достигнат 10.5 трилиона долара, според изследователската компания Cybersecurity Ventures.

AI разбива правилата

Фалшивата молба за пари от близък човек не е нещо ново. Но сега родителите са изправени пред опасна иновация – получават обаждания, които клонират гласа на детето им с помощта на изкуствен интелект, за да звучи неразличимо от истинския. Тези трикове, известни като измами със социално инженерство, обикновено имат най-висока степен на успеваемост и генерират едни от най-бързите печалби за измамниците.

Клонирането на гласа на човек става все по-лесно. След като измамникът изтегли откъс от аудиоклип от нечия социална медия или съобщение на гласова поща – при това с много кратка дължина, от порядъка на до 30 секунди – той може да използва лесно достъпни онлайн инструменти за синтез на глас с изкуствен интелект, за да създаде необходимото му съдържание.

Публичните акаунти в социалните мрежи позволяват лесно да се разбере кои са роднините и приятелите на даден човек, както и къде живее и работи, наред с друга важна информация. Експертите подчертават, че измамниците, които са превърнали това в бизнес, са готови да проявят търпение и понякога планират атаките в продължение на месеци.

Според Роб Поуп, директор на новозеландската правителствена агенция за киберсигурност CERT NZ, това, което екипите за борба с измамите са забелязали досега, е само прелюдия към онова, което изкуственият интелект ще направи възможно. По думите му AI също така помага за увеличаването на обема на атаките и за тяхното персонализиране.

Може да се обзаложим, че през следващите две-три години ще станем свидетели на повече криминални атаки,

генерирани от изкуствен интелект“, казва Поуп, бивш заместник-комисар в новозеландската полиция, който е ръководил някои от най-известните криминални дела в страната. „Това, което AI прави, е да ускорява нивото на сложност и способността на тези лоши хора да се променят много бързо. AI ги улеснява.“

За да се добие представа за предизвикателството пред банките, Робъртс казва, че в момента Commonwealth Bank of Australia (CBA) проследява около 85 милиона събития на ден чрез мрежа от инструменти за наблюдение. Това е в страна с население от едва 26 милиона души.

Индустрията се надява да даде отпор, като информира потребителите за рисковете и увеличи инвестициите в защитни технологии. CBA например е внедрила нов софтуер, който позволява засичането на необичайни движения на компютърната мишка на клиентите по време на транзакция – червен флаг за възможна измама. Всичко подозрително, включително дестинацията на поръчката и начинът на обработка на покупката, може да предупреди служителите само за 30 милисекунди, което им позволява да блокират транзакцията.

Според Томас Граф, старши инженер по машинно обучение в Deutsche Bank, компютърните инженери наскоро са преустроили своята система за откриване на подозрителни транзакции, наречена Black Forest, като са използвали най-новите модели за обработка на естествен език. Инструментът разглежда критерии за транзакциите, като например обем, валута и дестинация, и автоматично научава от масиви от данни кои модели предполагат измама. Моделът може да се използва както за транзакции на дребно, така и за корпоративни транзакции, и вече е разкрил няколко случая, включително такива, свързани с организирана престъпност, пране на пари и укриване на данъци.

Wells Fargo е преработила технологичните системи, за да противодейства на риска от генерирани от изкуствен интелект видеоклипове и гласове. „Обучаваме софтуера и служителите си, за да могат да разпознават тези фалшификати“, казва Чинтан Мехта, ръководител на отдела за цифрови технологии на Wells Fargo. Изискването е системата да продължи да се развива, за да е в крак с престъпниците. А откриването на измами, разбира се, струва пари.

Всеки път, когато бизнесът затегне мерките обаче, престъпниците веднага търсят как да ги заобиколят. Например, някои американски банки изискват от клиентите да качват снимка на документ за самоличност при регистрация на сметка. Отговорът на измамниците – купуват откраднати данни в тъмната мрежа, намират снимки на жертвите си от социалните медии и отпечатват 3D маски, за да създадат фалшиви документи за самоличност с откраднатата информация.

Качеството на изработката им може да достигне тези на изключително реалистична силиконова маска по холивудските стандарти, отбелязва Ален Майер, ръководител на отдела за идентификация в Plaid Inc, който помага на банките, финтех компании и други предприятия да се борят с измамите чрез нейния софтуер за проверка на самоличността. Plaid анализира текстурата и прозрачността на кожата, за да се увери, че лицето на снимката изглежда истинско.

Майер, който е посветил кариерата си на откриването на измами, казва, че най-добрите измамници, които управляват схемите си като бизнес, създават софтуер за измами и го продават в тъмната мрежа. Цените могат да варират от 20 до няколко хиляди долара.

Например, това може да бъде разширение за Chrome, което да ви помогне да заобиколите пръстовите отпечатъци, или инструменти, които могат да ви помогнат да генерирате синтетични изображения.“

Тъй като измамите стават все по-сложни, въпросът за това кой носи отговорност за загубите става все по-спорен. В Обединеното кралство например жертвите на неизвестни транзакции – да речем, някой копира и използва кредитната ви карта – са защитени от закона. Но ако някой ви подмами да извършите плащане, отговорността не е толкова ясна.

През юли най-висшият съд в страната постанови, че двойка, която е била измамена да изпрати пари в чужбина, не може да държи банката си отговорна само за това, че е следвала инструкции. Но законодателите и регулаторите имат свобода на действие да променят правилата: Правителството се готви да изиска от банките да възстановяват разходите на жертвите на измами, когато парите са преведени чрез системата за бързи плащания, която е предназначена за изпращане на пари между банките в Обединеното кралство. Политици и защитници на потребителите в други страни настояват за подобни промени, като твърдят, че е неразумно да се очаква хората да разпознават тези все по-сложни измами.

Банките се опасяват, че промяната на правилата просто ще улесни измамниците. Лидерите на финансовата индустрия по света също се опитват да прехвърлят част от отговорността върху технологичните фирми.

През юни група от 30 кредитори в Обединеното кралство изпрати писмо до министър-председателя Риши Сунак с искане технологичните компании да допринесат за възстановяването на средства на жертвите на измами, произтичащи от техните платформи. Правителството заявява, че планира ново законодателство и други мерки за борба с онлайн финансовите измами.

Банковата индустрия лобира за по-широко разпределение на отговорността, отчасти защото разходите изглежда се увеличават.

Крис Шийн прекарва почти три десетилетия в полицията, преди да се присъедини към National Australia Bank Ltd., където ръководи отдел за разследвания и измами. През последната година наел допълнително около 40 души към екипа си. Когато сумира всички разходи за персонал и техника, „ме плаши колко голяма е цифрата“, казва той.

„Никога не можеш да решиш проблема напълно“, казва той. Това му напомня за времето му в полицията, когато се е борил с наркобанди. По думите му формулировката „война срещу наркотиците“ е грешна и затова сега, борейки с хай-тек измами, е категоричен, че няма да я повтори.

Никога няма да го формулирам в тази рамка – на война срещу измамите – защото намекът е, че войната може да се спечели“, коментира той. „А тази война не може да бъде спечелена“, обобщава Шийн.