Машини, които сами откриват, проследяват и убиват хора, без човек да взема окончателното решение. Доскоро подобни оръжия изглеждаха като сюжет от научнофантастичен филм. Днес технологиите, които ги правят възможни, вече се използват във войните, макар напълно автономните бойни системи все още да не са навлезли масово.

На този фон генералният секретар на ООН Антонио Гутериш призова международната общност да приеме юридически обвързващи ограничения върху автономните оръжия. Предупреждението му беше отправено към представители на 128 държави на среща в Женева, съобщи БТА.

„Новите технологии, включително автономните оръжейни системи, ни изправят пред нови хуманитарни, правни, етични и свързани със сигурността проблеми. Призовавам ви да използвате момента. Предприемете мерки, за да предотвратите употребата и разпространението на тези безпощадни оръжия“, заяви Гутериш.

От дроновете до алгоритмите, които избират мишени

Автономните оръжия не са непременно хуманоидни роботи. Те могат да бъдат дронове, които сами разпознават и атакуват цели, или компютърни системи, които анализират разузнавателни данни и посочват кого да порази армията.

Според доклад на „Аутономъс уепънс уоч“ изкуственият интелект вече навлиза във всички етапи на военните операции: от откриването и проследяването на цели до планирането на атаки и насочването на оръжията.

В Украйна например се използват дронове с автоматизирано насочване, които могат да продължат атаката дори когато връзката с оператора е прекъсната от електронно заглушаване.

Още по-спорен е случаят с израелската система „Лавендър“. Според разследване на изданието „+972“ и публикации на „Гардиън“ тя е използвана за идентифициране на хиляди предполагаеми членове на „Хамас“ в Газа. Разследването повдигна въпроси за недостатъчния човешки контрол и опасността от цивилни жертви. Израелските военни оспориха тези твърдения и заявиха, че системата служи единствено като помощен инструмент за анализаторите.

Засега няма убедителни доказателства, че напълно автономни оръжия, които самостоятелно извършват целия процес от откриването до поразяването на човешка цел, се използват рутинно. Има обаче съобщения за отделни експериментални случаи, включително в Украйна.

Кой носи отговорност, когато машината убие невинен

Това е един от най-трудните въпроси пред международното право.

Ако автономен дрон погрешно убие цивилни, кой трябва да отговаря? Командирът, който го е изпратил, производителят, програмистът или военните, одобрили използването му?

Алгоритъмът не може да бъде изправен пред съд. А когато решенията се вземат чрез сложни автоматизирани процеси, установяването на човешката отговорност става значително по-трудно.

Съществува и друг проблем. Международното хуманитарно право изисква военните да различават бойци от цивилни и да преценяват дали очакваните странични жертви са прекомерни спрямо конкретното военно предимство.

Подобна преценка невинаги може да бъде сведена до алгоритъм. Компютърното зрение може да бъде подведено от необичайно облекло, маскировка или граждански автомобили, използвани за военни цели.

Защо големите сили не искат забрана

Въпреки широката международна подкрепа за ограниченията, най-напредналите във военно отношение държави се противопоставят на строг обвързващ договор.

През октомври 2026 г. резолюция в комитет на Общото събрание на ООН получи подкрепата на 163 държави. Против гласуваха САЩ, Русия, Израел, Беларус и Северна Корея, докато Китай беше сред въздържалите се.

Противниците на новите забрани изтъкват, че автономните системи могат да бъдат по-прецизни от хората, защото не изпитват страх, паника или умора и обработват огромни количества информация за части от секундата.

Според тях съществуващото международно хуманитарно право вече обхваща тези оръжия. Допълнителните ограничения биха могли да възпрепятстват развитието на отбранителни технологии, включително системите за противовъздушна отбрана.

Има и стратегически аргумент: ако една държава се откаже от разработването на автономни оръжия, нейните противници могат да продължат тайно. За разлика от ядрените оръжия, необходимият софтуер е сравнително евтин, лесен за копиране и труден за международен контрол.

Надпреварата изпреварва правилата

ООН и Международният комитет на Червения кръст настояват за забрана на оръжията, които действат без достатъчен човешки контрол, и за строги правила за останалите автономни системи.

Постигането на съгласие обаче остава трудно. В преговорите по Конвенцията за определени конвенционални оръжия решенията се вземат с консенсус, което позволява дори на една държава да блокира напредъка.

Междувременно технологиите продължават да се развиват, а военните конфликти ускоряват внедряването им.

Основният въпрос вече не е дали изкуственият интелект ще участва във вземането на решения на бойното поле. Това се случва и днес. Въпросът е дали международната общност ще успее да определи границата, отвъд която машината не бива да получава правото сама да решава кой да живее и кой да умре.