Федералната търговска комисия на САЩ (ФТК) започна разследване на производителя на ChatGPT във връзка с потенциалните вреди на технологията, съобщи "Ню Йорк Таймс".
Тази седмица комисията изпрати писмо до OpenAI, създала ChatGPT, във връзка с потенциалните вреди от чатбота и практиките за сигурност на компанията.
Сам Олтман, съосновател на OpenAI, свидетелства в Конгреса през май и покани отговорните за законодателството за изкуствен интелект да наблюдават бързо развиващата се индустрия.
Прочети още
ФТК започна разследване за това дали чатботът е навредил на потребителите чрез събирането на данни и публикуването на невярна информация за хората.
В писмо от 20 страници, изпратено до компанията от Сан Франциско тази седмица, комисията съобщава, че проучва и практиките за сигурност на OpenAI. В писмото си ФТК задава на компанията десетки въпроси, включително как стартъпът обучава своите модели на изкуствен интелект и как третира личните данни.
Прочети още
В искането за информация, което се счита за вид административна призовка, се изискват също така свидетелски показания от OpenAI относно всички жалби, които е получила от обществеността, списъци на съдебните дела, в които участва, и подробности за изтичането на данни, което компанията разкри през март 2023 г. По това време стана ясно, че компанията е разкрила чат историята на потребителите и данните за плащанията.
Комисията призовава за описание на начина, по който OpenAI тества, коригира и манипулира своите алгоритми, особено за да дава различни отговори или да реагира на рискове, включително на различни езици. В искането се изисква също така компанията да обясни всички стъпки, които е предприела за справяне със случаите на "халюцинация" - термин от индустрията, описващ резултатите, при които изкуственият интелект генерира невярна информация.
