„Кръстникът“ на изкуствения интелект предупреждава за опасности

75-годишният д-р Джефри Хинтън обяви оставката си от Google в изявление за New York Times, като каза, че сега съжалява за работата си. Той обясни пред BBC, че някои от опасностите от чатботовете с изкуствен интелект (AI) са „доста страшни“.

В момента те не са по-интелигентни от нас, доколкото мога да преценя. Но мисля, че скоро може да са.“

Д-р Хинтън също призна, че възрастта му е повлияла на решението му да напусне технологичния гигант, като каза пред BBC: „Аз съм на 75, така че е време да се пенсионирам“.

Неговите пионерски изследвания върху невронните мрежи и дълбокото обучение проправиха пътя за настоящите AI системи, като ChatGPT.

В областта на изкуствения интелект невронните мрежи са системи, които са подобни на човешкия мозък по начина, по който учат и обработват информация. Те позволяват на AI да се учат от опита, както би направил човек. Това се нарича дълбоко обучение.

Британско-канадският когнитивен психолог и компютърен учен каза пред BBC, че чатботовете скоро могат да надминат нивото на информация, което човешкият мозък притежава.

В момента това, което виждаме, е, че неща като GPT-4 засенчват човек по отношение на общите познания, които има, и го засенчват много. От гледна точка на разсъждаването обаче не е толкова добър, но вече прави прости разсъждения“, каза той.

„И като се има предвид темпът на напредък, очакваме нещата да се подобрят доста бързо. Така че трябва да се тревожим за това.“

Подготвен ли е светът за предстоящата AI буря?

В статията на New York Times д-р Хинтън говори за „лоши актьори“, които биха се опитали да използват AI за „лоши неща“.

Когато е помолен от BBC да разясни това свое твърдение, той отговаря: „Това е просто един вид най-лош сценарий, един вид кошмарен сценарий.“

Можете да си представите, например, някой лош актьор, като руския президент Владимир Путин, реши да даде на роботите способността да създават свои собствени подцели.“

Ученият предупреждава, че това в крайна сметка може „да създаде подцели като например: „Трябва да получа повече сила“.

Стигнах до извода, че видът интелект, който развиваме, е много различен от интелекта, който имаме“, добави той.

„Ние сме биологични системи, а това са цифрови системи. И голямата разлика е, че с цифровите системи имате много копия на един и същи набор от тежести, един и същ модел на света.“

И всички тези копия могат да учат поотделно, но да споделят знанията си незабавно. Така че все едно имате 10 000 души и всеки път, когато един човек научи нещо, всички автоматично го знаят. И това е начинът, по който тези чатботове могат да знаят много повече от всеки един човек.“

Мат Клифърд, председател на Агенцията за напреднали изследвания и изобретения на Обединеното кралство, говорейки в лично качество, каза пред BBC, че предупреждението на д-р Хинтън „подчертава скоростта, с която възможностите на AI се ускоряват“.

„Има огромна полза от тази технология, но е от съществено значение светът да инвестира сериозно и спешно в безопасността и контрола на изкуствения интелект“, каза той.

Д-р Хинтън се присъединява към нарастващ брой експерти, които изразяват загриженост относно AI – както скоростта, с която се развива, така и посоката, в която върви.

„Трябва да направим крачка назад“

През март отворено писмо, подписано от десетки хора в областта на изкуствения интелект, включително технологичния милиардер Илон Мъск, призова за спиране на всички разработки, които са по-напреднали от текущата версия на чатбота ChatGPT, така че да могат да бъдат проектирани стабилни мерки за безопасност и да бъдат изпълнени.

Йошуа Бенгио, друг така наречен кръстник на AI, който заедно с д-р Хинтън и Ян Лекун спечелиха наградата „Тюринг“ през 2018 г. за работата си по задълбочено обучение, също подписа писмото.

Бенгио написа, че именно поради „неочакваното ускорение“ в системите с изкуствен интелект „трябва да направим крачка назад“.

Но д-р Хинтън каза пред BBC, че „в по-краткосрочен план“ смята, че AI ще донесе много повече ползи, отколкото рискове. „Така че не мисля, че трябва да спираме да разработваме тези неща“, добави той.

Той също така каза, че международната конкуренция би означавала, че паузата ще бъде трудна. „Дори ако всички в САЩ спрат да го разработват, Китай просто ще получи голяма преднина“, каза той.

Д-р Хинтън също каза, че е експерт по науката, а не по политиката, и че е отговорност на правителството да гарантира, че AI е разработен „с много мисъл за това как да го спре да стане измамник“.

„Отговорен подход“

Д-р Хинтън подчерта, че не иска да критикува Google и че технологичният гигант е бил „много отговорен“.

Всъщност искам да кажа някои добри неща за Google. И те са по-достоверни, ако не работя за Google.“

В изявление главният учен на Google Джеф Дийн каза: „Ние оставаме ангажирани с отговорен подход към AI. Непрекъснато се учим да разбираме възникващите рискове, като същевременно въвеждаме смело иновации.“

Важно е да запомните, че AI чатботовете са само един аспект на изкуствения интелект, дори и да са най-популярните в момента.

AI стои зад алгоритмите, които диктуват какво платформите за поточно видео решават, че трябва да гледате след това. Може да се използва при набиране на персонал за филтриране на кандидатури за работа, от застрахователи за изчисляване на премии, може да диагностицира медицински състояния (въпреки че лекарите все още имат последната дума).

Това, което виждаме сега обаче, е възходът на AGI – изкуствен общ интелект, който може да бъде обучен да прави редица неща в рамките на компетенциите си. Така например ChatGPT може да предложи само текстови отговори на заявка, но възможностите в него, както виждаме, са безкрайни.

Но темпът на ускоряване на AI изненада дори създателите му. Той се разви драматично, откакто д-р Хинтън изгради пионерската невронна мрежа за анализ на изображения през 2012 г.

Дори директорът на Google Сундар Пичай каза в скорошно интервю, че дори той не разбира напълно всичко, което прави неговият чатбот Bard.

Не се заблуждавайте, в момента сме в бърз влак и се тревожим, че един ден той ще започне да строи свои собствени релси.