Компанията за изкуствен интелект Anthropic съобщи, че е осуетила няколко потенциални опита на учени да използват нейния модел „Клод“ за изследвания, които биха могли да подпомогнат разработването на биологични оръжия, пише "Ню Йорк таймс".
Компанията посочва в свой доклад, че в някои случаи не е могла да установи дали изследванията са били с легитимна научна цел или са били част от злонамерени действия. Причината е, че редица биологични изследвания с двойна употреба могат да доведат както до медицински пробиви, така и до създаването на опасни патогени. Поради сериозните потенциални последици Anthropic е избрала да действа предпазливо и е блокирала свързаните профили.
Един от случаите е от месец май, когато учен е потърсил помощ от „Клод“ за подготовката на заявление за финансиране на изследване върху вируса чикунгуня. Проектът е включвал създаване на мутации, които биха могли да направят вируса по-вреден при многократно заразяване на живи животни. Подобни изследвания могат да имат легитимно приложение, включително при разработването на ваксини, но същевременно носят риск от създаване на по-опасни разновидности на вируси.
Според Anthropic допълнителен повод за безпокойство е фактът, че се е планирало изследването да се проведе във военен научноизследователски институт. Компанията обаче подчертава, че не е успяла да установи със сигурност дали целта е била разработване на биологично оръжие.
Учените, свързани с тези случаи, са се опитали да заобиколят защитните механизми на компанията, включително ограниченията за достъп от определени региони, и са прикривали истинската цел на изследванията си. В резултат Anthropic е прекратила достъпа до свързаните акаунти.
Докладът описва и други случаи на злоупотреба с „Клод“. Сред тях са предполагаеми действия на лица, свързани с китайското и с иранското правителство - става дума за следене на дисиденти и представители на диаспори.
Посочени са и случаи, при които руски държавни медии са използвали модела за създаване на онлайн пропаганда, представяна като независимо журналистическо съдържание, включително измислени твърдения за избори в Молдова.
За първи път Anthropic съобщава и за опити „Клод“ да бъде използван за разработване на софтуер, свързан с проектирането на конвенционални оръжия, включително ракети, щурмови дронове и бомби. Компанията е установила такива случаи в Китай, Русия и Йемен.
Експерти предупреждават, че бързото развитие на генеративния ИИ увеличава риска от злоупотреби в биологичната сфера. Според тях същите възможности, които могат да ускорят разработването на ваксини и медицински терапии, може да бъдат използвани и от злонамерени лица за създаването на опасни патогени.
От Anthropic отбелязват, че по-старите им модели не са били способни да подпомагат съществено подобни опасни изследвания, но сегашните системи могат да извършват значително по-сложна научна работа. Именно поради това компанията е въвела по-строги ограничения за достъпа до биологични изследвания с потенциална двойна употреба. /БГНЕС
