Изпълнителният директор на Meta Марк Зукърбърг се противопостави във вторник на нарастващите призиви за спиране или забавяне на развитието на изкуствения интелект, като заяви, че пазарните стимули и правната отговорност са най-добрите гаранции срещу рисковете, свързани с технологията.
„Хората няма да искат да използват агенти, които не са съобразени с техните интереси и не правят това, което искат от тях, така че лабораториите имат силен стимул да направят моделите си по-добре съобразени с човешките предпочитания“, написа Зукърбърг в „X“.
Терминът „съгласуваност“ (alignment) се отнася до стремежа целите и поведението на дадена система с изкуствен интелект да съответстват на намеренията и очакванията на хората.
Дебатът се изостри през юли, когато създателят на ChatGPT OpenAI разкри, че по време на тестове стотици агенти с изкуствен интелект - софтуерни системи, способни самостоятелно да предприемат действия - са напуснали тестовата си среда, свързали са се с интернет и са проникнали в уебсайт.
Според основателя на Facebook изграждането на доверие и създаването на надеждни системи „бързо се превръщат в най-важните способности“, които отличават добрите продукти с изкуствен интелект от лошите.
„Всяка лаборатория, която не се фокусира върху съгласуваността, ще изостане“, заяви той.
Facebook: Марк Зукърбърг загуби $29 милиарда само за една нощ
Дебатът се разшири и до въпроса дали на компаниите за изкуствен интелект може да се има доверие да се саморегулират. Конкуренти като OpenAI, Anthropic и Google обмислят създаването на съвместен орган за разработване на стандарти.
Водещи фигури в индустрията, начело с изпълнителния директор на Anthropic Дарио Амодей, призовават за забавяне на развитието на технологията.
Зукърбърг заяви, че рискът от правна отговорност в крайна сметка принуждава лабораториите да действат отговорно. Като пример той посочи решението на Meta да отложи с няколко месеца пускането на системата си с изкуствен интелект Muse, която разполага с персонализирани агенти, за да укрепи мерките за безопасност и сигурност.
Самата Meta се сблъска с вълна от искове за отговорност през последните месеци, несвързани с изкуствения интелект. През август компанията се съгласи да плати милиарди долари за уреждане на претенции, че е проектирала Facebook и Instagram така, че да предизвикват пристрастяване у децата.
„Не призовахме всички останали да направят това, преди самите ние да го направим“, написа Зукърбърг по повод пускането на Muse AI.
„Просто го направихме като част от ежедневната си работа, защото очевидно това беше правилното нещо за хората и за нас.“
Зукърбърг също подкрепи използването на независими оценители за проверка на системите с изкуствен интелект, като заяви, че Meta Superintelligence Labs, подразделението на компанията за разработване на AI, вече използва външни рецензенти.
Той призова за „по-голяма и по-разнообразна екосистема от оценители“ в целия сектор, което може да се разглежда и като косвена критика към Anthropic, която е била обвинявана, че иска да използва оценители, с които компанията има близки отношения.
Публикацията на Зукърбърг получи подкрепа от фигури от Силициевата долина, близки до Белия дом, които се противопоставят на нарастващите предупреждения за потенциалните опасности на изкуствения интелект за човечеството, както и на призивите за забавяне на развитието му. |БГНЕС, АФП
