Изкуственият интелект е напът да превърне интернет в кошмар

Вероятно интернет потребителите напоследък са забелязали, че редица платформи използват все по-креативни начини, чрез които ги карат да доказват, че не са роботи – от поставяне на точки на изображения на зарове през решаването на сложни загадки и избирането на повтарящи се аудио клипове до идентифицирането на предмети, които не съществуват, като кон, направен от облаци.

Причината за всичките тези промени е усъвършенстваният изкуствен интелект (AI). Тъй като технологичните компании са обучили ботовете си на по-старите тестове за сигурност от типа “captcha“, тези програми сега са толкова способни, че лесно могат да се справят с обикновените предизвикателства. В резултат на това ние хората трябва да влагаме повече усилия, за да доказваме, че сме такива само за да ползваме дадена онлайн услуга. Подобни загадки обаче са само върхът на айсберга на това как AI пренаписва начина, по който се случват нещата в интернет.

След появата на ChatGPT през миналата година технологичните компании се надпреварват да внедряват AI технологията, която стои зад него. В много случаи компаниите изкореняват свои дългогодишни основни продукти, за да постигнат това. Лекотата, с която с натискането на бутон се създават на пръв поглед авторитетен текст и изображения, заплашва да подкопае крехките устои на интернет и да направи навигирането в мрежата много объркващо.

Докато треската по изкуствения интелект превзема мрежата, учени установяват как той може да бъде „въоръжен“, за да задълбочи някои от най-сериозните опасения около интернет, като в същото време превърне обикновеното ежедневно използване на мрежата (от триенето на спам до логването в сайтове) по-дразнещо, отколкото е в момента.

Не мога да кажа, че нашата неспосодбност да контролираме AI ще доведе до разпада на обществото, но смятам, че определено има потенциала да повлияе сериозно на интернет", каза Крисчън Селиг, автор на популярното приложение Apollo в Reddit.

А засега AI превръща интернет в кошмар. В продължение на близо 20 години Reddit бе неофициалната заглавна страница на интернет и това дълголетие се дължеше до голяма степен на доброволците, които модерират различните общности на сайта. По някои оценки модераторите в Reddit вършат неплатена работа на стойност 3.4 млн. долара годишно.

За да вършат тази работа, те разчитат на инструменти като Apollo – приложение с близо 10-годишна история, което предлага усъвършенствани инструменти за модерация. През юни обаче потребителите бяха посрещнати от необичайно съобщение – Apollo преустановява работа. На фона на опитите на Reddit да се включи в златната треска около AI, компанията трябваше да се откаже от приложенията на трети страни.

Apollo и други програми като нея разчитат на приложно-програмния интерефейс (API) на Reddit, който им помага да обменят данни. В миналото от Reddit позволяваха това да се случва безплатно и колкото повече инструменти имаха разрешение, толкова повече потребители биваха привличани. Сега обаче AI компании започнаха да използват Reddit и огромните ѝ масиви от онлайн комуникация, за да обучават своите модели.

В опит да осребри този внезапен интерес, Reddit обяви нови, по-високи цени за достъп до нейните данни. Apollo и други приложения станаха косвени жертви, което предизвика недоволство и протести от страна на общността в Reddit. Компанията отказа да отстъпи, дори и това да означава отчуждаване на общностите от хора, които съставляват душата ѝ.

Компанията NewsGuard, която следи за дезинформация в интернет и оценява надеждността на информационни уебсайтове, е установила близо 350 новинарски сайта, чието съдържание почти изцяло се генерира от AI без почти никакъв човешки контрол. Сайтове като Biz Breaking News и Market News Reports бълват публикации по най-различни теми, в това число политика, технологии, икономика и туризъм.

Много от тези статии изобилстват от непроверени твърдения, конспиративни теории и измами. Когато от NewsGuard тестват AI модела, който стои зад ChatGPT, за да оценят склонноста му да разпространява неверни наративи, той се проваля 100 пъти от 100 опита.

Изкуственият интелект често си измисля отговори на въпросите, и освен ако AI моделите не бъдат фино настроени и не разполага със защитни механизми,

те ще бъдат най-големият източник на убедителна дезинформация в историята на интернет", казва Гордън Кровиц, главен изпълнителен директор на NewsGuard.

В свой доклат от Европол прогнозират, че в рамките на няколко години умопомрачителните 90% от съдържанието в интернет може да бъде генерирано от AI.

Макар тези генерирани от AI новинарски сайтове да все още да нямат значителна аудитория, техният светкавичен възход е предшественик на това колко лесно генерираното от изкуствения интелект съдържание ще изкривява информацията в социалните медии.

В свое проучване Филипо Менцер, преподавател по компютърни науки в Университета на Индиана, вече е установил мрежи от ботове, които публикуват огромни количества генерирано от ChatGPT съдържание в социални медии, като X (известна преди това като Twitter) и Facebook. И макар AI ботовете все още да имат издайнически признаци, експерти твърдят, че те скоро ще станат по-добри в имитирането на хората и избягването на системите за засичането им.

Интернет потребителите губят още едно място, което използват за проверка на информацията -онлайн търсачките. Microsoft и Google скоро ще заменят традиционните резултати от търсенията с резюмета от ботове, които са слабо подготвени да различават фактите от измислиците.

Синтетичното съдържание залива и платформите за електронна търговия, като Amazon и Etsy. Две седмици преди да публикува технически учебник, Кристофър Кауъл, инженер от Портланд, Орегон, открива нова книга със същото заглавие в Amazon. Кауъл скоро осъзнава, че тя е генерирана от AI, а издателят зад нея вероятно е взел заглавието от каталога с предстоящи книга на Amazon и го е пуснал в софтуер като ChatGPT.

Etsy е платформа, която е известна с ръчно изработените, занаятчийски предложения, но генерираните от AI предмети на изкуството, чаши и книги вече са често срещани и там. С други думи скоро ще бъде много трудно човек да различни истинските неща онлайн.

Рай за измамите

В краткосрочен план, възходът на AI ще ни сблъска с редица осеаземи предизвикателства по отношение на сигурността и поверителността. Онлайн измамите, които се увеличава от ноември, ще бъдат по-трудни за засичане, защото AI ще ги направи по-лесни за приспособяване към всяка мишена.

Данни на компанията в сферата на киберсигурността Darktrace засичат 135% увеличение на зловредните киберкампании от началото на 2023 г. и разкриват, че престъпниците прибягват все повече до ботове, които да изготвят фишинг имейли, които е все по-малко вероятно да бъдат засечени от филтрите за спам.

В скоро време на хакерите може да не им се налага да полагат много усилия, за да се сдобият с вашата чувствителна информация. В момента те често прибягват до индиректни методи, за да следят интернет потребителите, в това число и чрез скрити тракери в уебсйтове и чрез закупуването на големи масиви от компрометирани данни в тъмната мрежа.

Специалисти по сигурността обаче са открили, че AI ботове в приложенията и устройствата могат да крадат чувствителна информация в полза на хакерите. Тъй като AI моделите на OpenAI и Google обикалят активно из мрежата, хакери биха могли да скрият зловредни кодове в уебсайтове и да накарат ботовете да ги активират без човешка намеса.

Мъртвият интернет

Докато AI продължава да сее хаос в сайтове като Wikipedia и Reddit, все повече ще имаме усещането, че интернет е проектиран за машините и от машините.

Това може да сложи край на мрежата, с която сме свикнали сега”, казва Тоби Уолш, преподавател по изкуствен интелект в Университета на Нов Южен Уелс.

Това ще направи нещата трудни и за създателите на AI. Тъй като генерираното от AI съдържание ще заглушава все повече човешката работа, технологини компании, като Microsoft и Googlе, ще разполагат с по-малко оригинални данни за усъвършенстването на своите модели.

"AI работи днес, защото е обучен с потта и изобретателността на хората. Ако второто поколение генеративен AI е обучаван върху работата на първото, тогава качеството ще падне драстично", допълва Уолш.

Проучване на Оксфордския университет от тази година установи, че обучаването на AI с данни, генерирани от други AI системи, води до деградация и в крайна сметка до срив. С това ще падне и качесатвото на информацията онлайн.

Джон Ликато, преподавател по компютурни науки в Университета на Флорида, оприличава настоящото състояние на използването на онлайн мрежата на теорията за "мъртвия интернет". Тъй като най-посещаваните сайтове в интернет, като Reddit, изобилстват от писани от ботове статии и коментари, компаниите ще моблизират допълнителни системи за филтриране на автоматизираното съдържание. Съгласно теорията, в крайна сметка по-голяма част от създаването и потребяването на съдържание в интернет вече няма да се извършва от хора.

Това е странно нещо, като си го представим, но изглежда все по-вероятно на фона на начина, по който се развиват нещата", казва Ликато.