Тази пролет корабите в Близкия изток бяха отклонени след получаване на разузнавателен доклад, съдържащ невярна информация, генерирана от изкуствен интелект. Това съобщи CNN, позовавайки се на четири източника, запознати със ситуацията. 

Инцидентът е станал на фона на войната с Иран. Доклад, разпространен сред американските военни, твърди, че китайски кораб превозва компоненти за ядрени оръжия. Докладът веднага е вдигнал тревога, което е накарало военните да се подготвят за прехващане на кораба. Според източници на CNN, въоръжени американски войски са се готвели да се качат на борда на кораба, а военни самолети вече са били във въздуха. Ситуацията се е променила едва малко преди началото на операцията, когато служителите по-щателно са проверили произхода на информацията. Оказа се, че докладът е генериран от анализатор на Командването за специални операции, използващ чатбот, задвижван от изкуствен интелект. Именно изкуственият интелект е идентифицирал неправилно естеството на товара на китайския кораб. 

CNN не е успяла да определи точния товар, който е бил погрешно идентифициран. Един източник нарече подготвения документ „напълно неверен“, но последствията е можело да бъдат далеч по-сериозни. Според източника на изданието, грешката „почти е довела до война“. Всяка американска операция срещу китайския кораб би могла да доведе до по-нататъшна ескалация между Вашингтон и Пекин. 

Според CNN, анализаторът първо е помолил чатбота да анализира разузнавателна информация за товарния манифест на кораба, получен от Командването за специални операции на САЩ в Тихия океан. Чатботът е сравнил отворени източници със сигнално разузнаване, получено чрез електронно разузнаване, и след това е стигнал до погрешно заключение относно товара. След това анализаторът отново е използвал изкуствен интелект, този път за да формализира констатациите си в стандартен разузнавателен доклад. Документът е разпространен сред военни служители, които биха могли да го възприемат като стандартен, проверен аналитичен материал. 

Инцидентът е станал на фона на широкото внедряване на изкуствен интелект в американските военни. Технологията е планирана за използване при анализ на големи количества разузнавателни данни, избор на цели за удари, логистика и други задачи. 

През януари министърът на отбраната на САЩ Пийт Хагсет представи стратегия за ускорено внедряване на изкуствен интелект. В същото време, според CNN, използването на изкуствен интелект във военната и разузнавателната сфера остава децентрализирано: различните подразделения използват различни системи и следват различни правила за сигурност. Няма единен стандарт за проверка на информацията, генерирана от подобни инструменти. 

Според източници на CNN, случаи на така наречените „халюцинации“ на изкуствения интелект, при които системата генерира невярна информация, вече са се случвали в американската разузнавателна общност. Някои служители се опасяват, че бързането за ускоряване на производството на разузнавателна информация може да увеличи броя на грешките. „Изкуственият интелект ви позволява да стигнете до лоша идея по-бързо“, каза един от източниците на изданието. / БГНЕС