Изкуственият интелект все по-често взема решения, които пряко засягат живота на хората – от одобряването на кредити и подбора на кандидати за работа до използването на технологии в сферата на сигурността и отбраната. Това поставя сериозни въпроси за справедливостта, отговорността и контрола върху системи, които все повече влияят върху обществото, пише уебсайтът “The Conversation”.

Крис Ола, съосновател на компанията за изкуствен интелект „Антропик“, наскоро заяви във Ватикана, че индустрията не може да бъде оставена да се саморегулира.
„Някои може да смятат, че въпросите, свързани с ИИ, е най-добре да бъдат решавани от компютърни учени като мен. Те грешат.“ - каза той.

Изказването му кореспондира с посланието на първата енциклика на папа Лъв XIV „Magnifica Humanitas“, която предупреждава, че изкуственият интелект трябва да служи на хората, а не да концентрира власт в ръцете на малък брой компании.

Авторите на анализа подчертават, че е необходим независим регулатор с правомощия да ограничава или забранява определени приложения на ИИ, подобно на начина, по който държавните органи контролират новите лекарства или ядрените технологии. Според тях моралните стандарти не бива да се определят единствено от разработчиците на технологии, а от обществото като цяло.

Макар много специалисти в сферата на ИИ да осъзнават етичните рискове, те често работят в компании, подложени на силен натиск за бързо развитие и пазарен успех. Това създава риск етичните принципи да останат на заден план. Някои учени дори предупреждават, че корпоративната етика може да се превърне в инструмент за подобряване на имиджа на компаниите и за избягване на по-строги регулации.

През последните години бяха направени опити обществото да бъде включено в дискусиите за управлението на ИИ. Сред тях е проект на „Антропик“, в който около 1000 американци са участвали в изработването на правила за чатбота Claude. Специалистите обаче отбелязват, че подобни инициативи рядко дават реална власт на гражданите. В повечето случаи окончателните решения остават в ръцете на компаниите или държавните институции.

Авторите сравняват ситуацията с други технологии, които могат да имат сериозни последици за обществото. Както фармацевтичните компании не решават сами дали дадено лекарство е безопасно, така и разработчиците на ИИ не бива еднолично да определят границите на допустимото. Въпроси като това колко риск е приемлив и кой ще понесе евентуалните негативни последици са морални, а не само технически.

Въпреки че изкуственият интелект се развива много по-бързо от традиционните технологии и е трудно да бъде регулиран като единна система, обществото може да участва в решенията за конкретните му приложения – например в полицията, съдилищата, здравеопазването или публичната администрация. Поради глобалния характер на технологията авторите подкрепят и идеята за международен надзор и координация.
Изводът е, че демократичното управление на изкуствения интелект изисква не само обществено обсъждане, но и реално участие на гражданите във вземането на решения. Според авторите компаниите не трябва сами да определят как ИИ ще влияе върху живота на хората, а обществото трябва да има правото да задава правилата и границите на неговото развитие. /БГНЕС