Надзорният съвет на Meta нареди на компанията да премахне от Facebook две видеа, генерирани или манипулирани с помощта на изкуствен интелект, и призова за значително затягане на мерките срещу разпространението на подвеждащо AI съдържание.

Единият от случаите е свързан с британска общинска съветничка от Шотландия, чийто образ и глас са били използвани в очевидно генерирано от изкуствен интелект видео. В него тя е представена като автор на провокативни и обидни твърдения за бежанците, включително като ги свързва с престъпно поведение.

Според Надзорния съвет видеото изглежда синтетично генерирано, като сред признаците е несъответствието между звука и движенията на лицето. Самата съветничка определя използването на репликирания ѝ глас като „доста травматично“.

Видеото е било публикувано във Facebook през ноември 2025 г. и е получило повече от 5000 гледания, над 50 коментара и повече от 10 споделяния. То е било докладвано от двама души, включително от самата съветничка, но не е било насочено към човешка проверка и е останало на платформата.

Meta първоначално е решила да не премахва публикацията. Според компанията съдържанието не е било маркирано от нейни „доверени партньори“, нито е изглеждало свързано с избори или друг изборен процес. Видеото не е получило и етикет, че е генерирано с изкуствен интелект.

Надзорният съвет обаче отмени решението на Meta и постанови видеото да бъде премахнато заради нарушение на правилата на платформата за реч на омразата. В същото време мнозинството в Съвета посочи, че случаят разкрива сериозни недостатъци в правилата на компанията за обозначаване на AI съдържание.

Според Съвета съществуващите предпазни мерки на Meta срещу вредни дийпфейкове са „последователно и фундаментално недостатъчни“. Органът призова компанията да промени политиките си, така че етикетът „High Risk AI“ да може да се прилага в по-широк кръг от случаи, а не основно при кризи или избори.

Сред препоръките са още ограничаване на разпространението на съдържание, обозначено като високорисково, включително чрез понижаване на позицията му в препоръките и демонетизация. Съветът предлага и по-сериозни санкции за акаунти, които многократно споделят подобно съдържание, както и предупредителни екрани, през които потребителите трябва да преминат, преди да видят определени AI-генерирани материали.

Надзорният съвет настоява Meta ежегодно да публикува и повече информация за използването на етикетите „High Risk“ и „High Risk AI“, включително колко често те се прилагат към съдържание от или за политици.

В отделен случай Съветът разпореди премахването и на друго AI-генерирано видео, в което е използван образът на млада мюсюлманка, като посочи, че политиките на Meta срещу тормоза и преследването също не са достатъчни за справяне с подобни манипулации.

Председателят и съпредседателите на Надзорния съвет подчертават, че дийпфейковете все по-често се използват за тормоз и за представяне на публични личности като автори на изказвания, които никога не са правили. Според Съвета особено често обект на подобни атаки са жени, които участват в обществения живот.

Надзорният съвет е създаден от Meta през 2020 г. и разглежда спорни решения за модериране на съдържание във Facebook, Instagram и Threads. Решенията му по конкретни случаи са задължителни за компанията, докато препоръките за промени в политиките не са. Meta трябва да отговори публично на препоръките в рамките на 60 дни.