Дойче веле
Русия използва изкуствения интелект Claude за шпионаж и дезинформация, а хутите са се опитали да създадат и тестват с негова помощ оръжия. И Иран ползва ИИ за пропагандни кампании. Това става ясно от доклад на Anthropic.
Когато в началото на септември бившият служител на OpenAI и Anthropic Джейкъб Коксън oбяви, че колегите му в двете компании смятат, че изкуственият интелект може да сложи край на човечеството до 2030 година, страховете и конспиративните теории по темата избухнаха.
Междувременно Anthropic публикува своя доклад за сигурността, който стига до заключението, че редица държави, сред които Русия и Иран, се опитват да злоупотребяват със софтуера Claude, за да провеждат пропагандни кампании, а групи като хутите в Йемен - дори за да произвеждат оръжия.
Пропаганда, дезинформация, събиране на данни, следене
"Според доклада на Anthropic за заплахите от септември 2026 г. руски оператори са използвали Claude за дезинформационни операции, но компанията твърди, че ги е засякла и спряла", признава ни самият чатбот Claude. "Девет случая на операции за влияние идват от Русия, Иран, Турция и от региони в Залива, Южна Азия, Африка и Европа и са насочени към аудитории на шест континента", допълва софтуерът.
Anthropic призна този месец, че неговият изкуствен интелект е бил използван от свързани с Кремъл хакери, които са атакували редица организации, включително украинското министерство на отбраната и производители на дронове. Според компанията хакерите са част от Midnight Blizzard - група, която според оценките на американското и британско разузнаване работи за Службата за външно разузнаване на Руската федерация.
Сред другите мишени са Централноафриканската република и Молдова. В Банги рускоговорящ е подготвял ежедневно проруско съдържание за радиостанция, създадена от частната армия "Вагнер". Там членове на опозицията са били следени, а именно Claude е помагал за събирането на информация за тях. Anthropic съобщава също, че езиковият им модел е бил приканван да представя опозиционерите като въоръжени активисти, за да провокира намеса на службите срещу тях. Claude е отхвърлил тези призиви, пише Anthropic.
Според същия доклад в Молдова бивш ръководител на руската медия "Спутник" е използвал Claude като инструмент за създаване на съдържание. В Конго и Кения манипулативни статии също са се създавали от изкуствения интелект, а след това са били разпространявани от мними профили в социалните мрежи. В Судан пък технологията е използвана за подготовка на фалшиви свидетелски показания, които да бъдат предоставени на ООН. В Мали съветник, свързан с тайните служби, е използвал Claude, за да разработи платформа за наблюдение на телекомуникациите на милиони.
Прочети още
И Иран, и хутите използват изкуствения интелект срещу САЩ
От доклада на Anthropic стана ясно също така, че потребители в Северен Йемен - територия, контролирана от хутите - са се опитвали да използват изкуствения интелект за създаването, тестването и насочването на високотехнологични ракети. Компанията казва, че те не са успели да пуснат в експлоатация ракета, но са извършили неуспешен тест. Впоследствие потребителите са попитали чатбота Claude защо тестът се е провалил. Наскоро хутите заявиха, че са свалили саудитски изтребител F-15. Информацията не е потвърдена, но тяхната роля и операции стават все по-опасни за САЩ и партньорите им.
Редица институции в Иран пък, сред които службите за пропаганда и комуникации, са използвали изкуствения интелект за разработване на пропагандни съдържания както за вътрешно ползване, така и за чужбина. "Във всеки един от случаите операцията е разчитала на Claude за изготвянето на план за кампаниите, доктрини, системи за профилиране, бази данни с цели и документация", пише в доклада. От Иран Claude е използван и за разпространяване на злонамерено разширение за Firefox, което събирало лични данни на потребители от социалните мрежи.
За момента опитите изкуственият интелект да бъде използван за разработването на мощни биологични оръжия изглеждат неуспешни. Скорошни кибератаки срещу обекти от водната и енергийна инфраструктура в САЩ и Великобритания обаче повишиха тревогите, че ирански хакери могат да използват технологии, за да нанасят тежки щети на хиляди километри от територията си. Това важи и за различни терористични и маргинализирани групи, които са готови да атакуват и цивилни граждани.
"Системи като мен трябва да бъдат ограничавани"
След предупреждението на Джейкъб Коксън редица експерти по изкуствен интелект побързаха да успокоят обществото, че риск изкуственият интелект да приключи човечеството до 2030 година няма.
От години се разпространява страхът, че именно ИИ моделите могат да провокират началото на нова ядрена война. В доклад от 2025 година американският мозъчен тръст RAND успокои, че това не е възможно заради "строгите предпазни мерки, вградени в системите за командване и управление". Това обаче не означава, че хора не могат да злоупотребят с тях. Или пък да допуснат грешка - както с доклада, който наскоро почти не вкара САЩ в открит военен конфликт с Китай. CNN съобщи, че американските въоръжени сили са били готови да нападнат китайски кораб, за който са получили информация, че транспортира компоненти за ядрената програма на Иран. Оказало се обаче, че въпросният доклад е генериран с помощта на ИИ и написаното в него не отговаря на истината.
Използването на изкуствен интелект от въоръжените сили на различни държави също буди тревога. Израелският филм "Наза", който беше награден във Венеция, но остро критикуван у дома, събира разкази за това как израелската армия използва ИИ, за да набелязва цели по време на военните си операции, което води до масови убийства на цивилни, твърдят интервюираните бивши служители на израелската армия и служби.
Апокалиптичните сценарии, свързани с изкуствения интелект, може и да са преувеличени, както казват много от експертите. Но в същото време липсата на контрол може да доведе до това технологията да бъде използвана за причиняването на тежки щети по целия свят. Както ни каза и самият Claude: "В общи линии смятам, че системи като мен трябва да бъдат ограничавани и наблюдавани от хора. Конкретните форми на това вече са спорен политически въпрос."
