Изкуственият интелект се нуждае от спешно глобално регулиране, като независими оценители трябва да могат да проверяват новите разработки. Това заяви президентът на Microsoft Брад Смит, цитиран от "Ройтерс";.
Той предупреди, че в момента към изкуствения интелект (ИИ) се прилагат по-малко изисквания за безопасност, отколкото към млякото.
Смит посочи, че трябва да бъдат въведени общи международни правила за безопасност. Те трябва да предвиждат засегнатото лице да бъде уведомявано, ако системата му бъде компрометирана от неконтролиран ИИ агент, както и да има на разположение механизъм за аварийно спиране.
По думите му трябва да бъде въведено и законово задължение компаниите да изготвят "доклади за инциденти".
"Знаем как да правим това при други продукти", заяви Смит. "Трябва да надградим тези знания и да помислим как да ги приложим към изкуствения интелект".
"В момента пералната ви машина е подчинена на повече правила за безопасност, отколкото изкуственият интелект. Всяка опаковка мляко, която виждате в магазина за хранителни стоки, подлежи на правила за безопасност и проверки".
Технологични компании като Antrophic и OpenAI започнаха да разкриват случаи на неконтролирано или нежелано поведение на ИИ агенти. Това се случва на фона на глобалния дебат за бързо развиващата се технология, в рамките на който изследователи предупреждават, че в крайна сметка тя може да представлява екзистенциална заплаха за човечеството.
Някои компании призоваха развитието на изкуствения интелект да се забави. Това обаче породи спорове дали ръководителите им нямат скрити мотиви — например да прокарат правила, които да запазят преднината на собствените им компании, да предотвратят по-мащабна негативна реакция от страна на правителствата или просто да ограничат главоломно нарастващите разходи.
Смит заяви, че Великобритания е най-добре позиционираната държава да поведе усилията за регулиране на изкуствения интелект благодарение на Института за сигурност на изкуствения интелект, създаден при управлението на бившия премиер Риши Сунак.
По думите му представителите на властите във Вашингтон гледат на Лондон по съвсем различен начин, отколкото на Брюксел, където изкуственият интелект се регулира според нивото на риск чрез европейския Законодателен акт за изкуствения интелект.
Британският институт получава достъп до моделите преди пускането им на пазара въз основа на доброволни споразумения с водещите разработчици на ИИ. Това му позволява да оценява техните възможности и рискове.
Министърът на Великобритания по въпросите на изкуствения интелект Канишка Нараян заяви, че страната би обмислила регулиране на усъвършенстваните модели, ако настоящата система се окаже недостатъчна.
