Само през първите 24 часа от военната операция „Епична ярост“ американските сили са поразили над 1000 цели в Иран, като ключова роля в избора на обектите е изиграл изкуствен интелект.
Темпото на атаките – 42 предложени цели на час – предизвика сериозни въпроси сред военни анализатори. Според тях подобна скорост трудно може да бъде обработена изцяло от хора и поставя тревожния въпрос: дали алгоритмите вече не контролират бойното поле.
Съмненията се засилиха след трагичен инцидент в град Минаб, където при ракетен удар е било разрушено началното училище „Шаджаре Тайебех“. Според местни източници загинали са 110 деца и десетки други хора. Все повече доказателства сочат, че сградата е била поразена с американска крилата ракета „Томахоук“.
Експертите се питат дали алгоритъмът не е използвал остарели данни. Исторически сателитни снимки показват, че училището някога е било част от комплекс на Корпуса на гвардейците на ислямската революция, включващ военноморска казарма. През последните години обаче мястото функционирало изцяло като учебно заведение – с цветни стенописи и детско игрище.
„Ако бомбардировката е била грешка, трябва да разберем дали става дума за човешка грешка или за проблем в автоматизираната система“, казва анализаторът Ноа Силвия от Кралския институт за обединени служби пред The Times. Според него мащабът на ударите подсказва, че част от целите може да са генерирани почти автономно.
Подобни опасения изразява и д-р Крейг Джоунс от университета в Нюкасъл. По думите му не може да се изключи възможността изкуственият интелект да е идентифицирал училището като военна цел.
„Независимо каква е причината, това е катастрофален провал на разузнаването“, подчертава той.
Пентагонът заяви, че разследването продължава. Президентът Доналд Тръмп предположи без доказателства, че ударът може да е извършен от Иран или „друга страна“, но анализ на мястото сочи, че са използвани американски оръжия.
Войната на алгоритмите
Изкуственият интелект вече играе ключова роля във военните операции на САЩ. Пентагонът разработва системата Project Maven от 2018 г. съвместно с компанията Palantir. Софтуерът анализира огромни обеми данни – от сателитни снимки до разузнавателна информация – и предлага потенциални цели.
Експертите често сравняват системата с „военна версия на Uber“, която съчетава информация от множество източници, за да насочи ударите.
В платформата е интегриран и чатботът Claude на компанията Anthropic, използван за разузнавателен анализ. Според създателите му обаче крайното решение за атака трябва да остане в ръцете на хората.
Рисковете
Мащабът на операциите в Иран е безпрецедентен. Според анализаторите обработката на огромните масиви от данни изисква все по-мощни алгоритми, което увеличава риска от грешки.
Проф. Елке Шварц от Лондонския университет „Кралица Мери“ предупреждава за явление, известно като „пристрастие към автоматизация“ – когато решенията на машината започват да се приемат като окончателни.
„Човешкият мозък има ограничен капацитет да оспори алгоритъм, който генерира десетки цели на час“, казва тя.
Според нея 42 предложени цели на час правят почти невъзможна пълната проверка на всяка от тях.
Експертите се опасяват, че бъдещите системи могат да започнат не само да определят цели, но и да идентифицират „подозрително поведение“, което да доведе до превантивни удари.
„Трябва да приемем, че изкуственият интелект ще играе все по-голяма роля в решенията за използване на сила. И това е ужасяваща перспектива“, предупреждава Шварц.
