OpenAI се е съгласила да внедри свои модели за изкуствен интелект в класифицираната мрежа на Пентагона, след като отношенията на конкурента Anthropic PBC с Министерството на отбраната на САЩ се влошават рязко заради опасения, свързани с наблюдение и автономни оръжия.
Позицията на Алтман и принципите на OpenAI
Главният изпълнителен директор на OpenAI Сам Алтман заяви късно в петък, че е постигнал споразумение с ведомството, което отразява принципите на компанията за забрана на масово вътрешно наблюдение и за гарантиране на човешка отговорност при използването на сила, включително при автономни оръжейни системи.
Стартъпът е изградил и защитни механизми, които да гарантират, че моделите му се държат коректно при внедряването, написа Алтман в X.
OpenAI отказа да коментира дали услугите, които предоставя на ведомството, ще заменят работата, извършвана преди това от Anthropic. Министерството на отбраната не отговори веднага на искане за коментар късно в петък, пише Блумбърг.
Само часове по-рано Пентагонът обяви Anthropic за риск във веригата на доставки, ход, който може да има сериозни последици за бизнеса на компанията и да изостри конфликта между стартъпа и военните заради мерките за безопасност на неговата технология.
Ескалация между Пентагона и Anthropic
В публикация в X министърът на отбраната Пийт Хегсет очерта шестмесечен срок, в който Anthropic трябва да предаде услугите си по изкуствен интелект на друг доставчик.
„Американските бойци никога няма да бъдат държани като заложници на идеологическите прищевки на Големите технологични компании“, написа Хегсет. „Това решение е окончателно.“
Публикацията му се появи малко след като президентът Доналд Тръмп написа в социалните мрежи, че нарежда на федералните агенции да прекратят работа с Anthropic.
Anthropic, която изисква продуктите й да не се използват за наблюдение на американци или за нанасяне на удари без човешко участие, заяви в петък, че „никакво сплашване или наказание от Министерството на войната няма да промени позицията ни относно масовото вътрешно наблюдение или напълно автономните оръжия“.
По-рано тази седмица Пентагонът е предложил на Anthropic условия, които включват част от езика, предложен от компанията относно наблюдението и автономията, казва човек, запознат със ситуацията, пожелал анонимност, тъй като разговорите не са публични.
Но според Anthropic те не са били достатъчни, за да гарантират, че ведомството няма да може да заобикаля ограниченията, когато прецени, че е необходимо.
Споразумението на OpenAI с Пентагона заплашва да задълбочи разрива между администрацията на Тръмп и Anthropic, която получи силна подкрепа в Силициевата долина.
Технологични работници застанаха на страната на компанията и призоваха други големи технологични фирми, включително Amazon и Microsoft, да последват примера й.
Разривът се задълбочава в технологичния сектор
Алтман засегна въпросите за наблюдението и автономните оръжия в публикацията си, като заяви, че Министерството на отбраната се е съгласило с принципите на OpenAI и ги е отразило в споразумението.
Той призова ведомството да предложи същите условия на всички компании за изкуствен интелект, защото според него всеки би трябвало да е готов да ги приеме.
Дарио Амодей, главен изпълнителен директор на Anthropic, преди е работил в OpenAI и напуска през 2020 г., отчасти заради опасения, че стартъпът поставя комерсиализацията и скоростта над безопасността.
OpenAI започва като неправителствена организация, но миналата година се преобразува в традиционно търговско дружество.
Макар първоначално компанията да забранява използването на технологията си за военни цели, през 2024 г. OpenAI актуализира политиката си и позволи такива приложения.
Компанията също премахна думата „безопасно“ от мисията си, която сега гласи, че целта й е „да гарантира, че изкуственият общ интелект, системи по-умни от хората, носи полза за цялото човечество“.
И Anthropic, и OpenAI все повече насочват вниманието си към печалби, докато се подготвят за първични публични предлагания още тази година, възползвайки се от огромния инвеститорски интерес към AI.
Финансовият контекст и надпреварата за IPO
По-рано в петък OpenAI обяви, че е набрала 110 милиарда долара при оценка от 730 милиарда долара, най-големият й рунд досега, който подкрепя скъпите усилия за осигуряване на повече изчислителна мощ и таланти за AI разработка.
Anthropic набра 30 милиарда долара по-рано този месец от някои от същите инвеститори, които подкрепят OpenAI.
Амодей и Алтман са влизали в публични конфликти през годините. Най-скоро, по време на AI форум в Ню Делхи този месец, двамата се оказаха един до друг до премиера Нарендра Моди и демонстративно не се хванаха за ръце, докато всички останали на сцената го направиха.
