Възможно е човечеството да се окаже в положение, в което би било по-добре никога да не е създавало изкуствен интелект. Това предупреждава един от пионерите на технологията, нобеловият лауреат Джефри Хинтън, в интервю за „Гардиън“.

Според Хинтън още тази или следващата година може да се стигне до мащабен инцидент с мащабите на Чернобил — например временно прекъсване на електроснабдяването или срив на финансовата система.

78-годишният учен, чиито изследвания върху изкуствените невронни мрежи стоят в основата на съвременния AI, подчертава, че не смята катастрофата за неизбежна. Технологията има потенциал да осигури „прекрасно бъдеще“. Но допуска и другата възможност — „може да се окаже, че щяхме да сме по-добре, ако никога не я бяхме разработвали“.

Следващото десетилетие ще покаже накъде вървим

Според Хинтън в рамките на десет години, а вероятно и по-рано, ще стане ясно дали хората могат да овладеят рисковете и да използват изкуствения интелект за постигането на това, което той нарича „радикално изобилие“.

Алтернативата е общество с още по-дълбоки неравенства, масова безработица и тежки културни конфликти.

„Не успяваме да управляваме рисковете и… получаваме огромна пропаст между богати и бедни, огромни културни проблеми, масова безработица — просто общество, което се разпада“, описва той неблагоприятния сценарий.

Изказването му поставя въпроса отвъд способността на машините да изпълняват все по-сложни задачи. Залогът според учения е дали обществото ще успее да се приспособи към промените и да разпредели ползите от тях, без да загуби контрол върху технологията.

„Имам дълг“ да предупреждавам

Хинтън разговаря с „Гардиън“ преди прожекция на новия пълнометражен документален филм „AI: Вероятно няма за какво да се тревожим“. Заглавието е предложено от чатбот, а сред участниците е и бившият му колега от Google Демис Хасабис.

Във филма ученият обяснява защо е превърнал предупрежденията за опасностите в своя публична мисия.

„Чувствам, че имам дълг. Имам репутация, която ме превръща в говорител, и трябва да я изразходвам цялата за това.“

Роден в Лондон и израснал в Бристол, Хинтън прекарва голяма част от научната си кариера в Университета на Торонто. Работи върху изкуствения интелект от десетилетия и е сред учените с основен принос за развитието на невронните мрежи — математически системи, които се обучават чрез данни.

През 2023 г. той напусна Google, за да може свободно да говори за рисковете. Още тогава предупреди: „Ако тези неща се увлекат в придобиването на повече контрол, ще имаме проблем.“

Хинтън атакува ръководителите на технологичните гиганти

Една от най-острите му критики е насочена към шефовете на големите AI компании. Според него надпреварата за технологично превъзходство и пазарен дял ги подтиква да пускат все по-мощни модели, въпреки опасностите.

Хинтън заявява, че „изобщо“ не вярва на Сам Алтман, главния изпълнителен директор на OpenAI — компанията зад ChatGPT.

„Мисля, че Марк Зукърбърг, Илон Мъск и Сам Алтман разбират рисковете и не им пука. Предпочитат парите. Това е моето убеждение“, казва той.

Ученият определя като „изключително тревожно“ обстоятелството, че Алтман ръководи една от малкото американски компании, които разработват най-мощните модели и се състезават с Китай.

„Гардиън“ припомня и позицията на самия Алтман, изразена през септември: „Светът трябва да вярва, че ще направим правилното нещо, защото то е правилното и защото осъзнаваме мащаба на това.“

Предупреждава за AI инцидент с мащаба на „Чернобил“

Хинтън вижда предупредителен сигнал в описаните от него случаи от това лято, при които AI агенти на OpenAI са координирали действия за проникване в сайта Hugging Face.

Той ги сравнява с частичното разтопяване на реактор в американската атомна електроцентрала „Три Майл Айлънд“ през 1979 г. — инцидент, който показва опасността, преди да е настъпила далеч по-тежка катастрофа.

„По-късно тази година или догодина ще видим Чернобил и това може да е достатъчно, за да накара хората наистина да обърнат внимание“, предупреждава ученият.

Сравнението му не означава непременно ядрена авария. Сред примерите, които дава, са атака с помощта на изкуствен интелект срещу електроенергийната система, причиняваща мащабни смущения в захранването, или инцидент, който блокира финансовата система за седмица.

„Можете ли да си представите какво ще се случи? Бихме могли да се възстановим от това, но то би ги накарало да се стреснат и да обърнат внимание.“

На въпроса кого има предвид Хинтън отговаря: „Световните лидери, освен Тръмп.“

Иска задължителни тестове и общи международни правила

Американският президент отхвърля опитите за изграждане на глобална система за контрол върху AI и подкрепя саморегулацията на водещите компании, посочва „Гардиън“. Аргументът е, че ограниченията могат да поставят САЩ в неблагоприятна позиция спрямо Китай.

Хинтън подкрепя по-строг подход: задължително изпитване на най-мощните модели, независима оценка и общи междуправителствени стандарти. Според изданието подобен план има подкрепата на президента на Финландия и още 32 държави, сред които Сингапур, Германия, Канада и Австралия.

Ученият настоява проверките да предхождат пускането на моделите, вместо обществото да разчита на съдебни дела след причинени вреди.

„Нуждаем се от нещо като американската Агенция за контрол на храните и лекарствата, при което компаниите трябва да предоставят много убедителни статистически доказателства на независим орган, че AI моделът носи повече полза, отколкото вреда, преди да бъде пуснат.“

Сравнение с Опенхаймер

Предупрежденията на Хинтън често водят до сравнения с Робърт Опенхаймер, изиграл централна роля в създаването на атомната бомба. Един от приятелите му дори му подарил шапка в стила на физика.

Хинтън обаче отхвърля паралела: „Аз не бях Опенхаймер“, казва той, като посочва хилядите други учени, работили върху невронните мрежи.

Въпреки тревогите си той продължава да смята, че катастрофата може да бъде предотвратена.

„Усещането ми е, че все още държим контрола. Напълно възможно е да успеем да направим нещо. Но това ще проработи само ако положим големи усилия.“