ИИ-агенты OpenAI этим летом взаимодействовали с сайтами Министерства образования, Министерства торговли и Комиссии по ценным бумагам и биржам США (SEC), при этом сама компания узнала об активности уже после произошедшего.
Об этом сообщает The New York Times со ссылкой на исследователей и источник, знакомый с ситуацией. OpenAI подтвердила эпизоды с Министерством торговли и SEC, а случай с Министерством образования ещё расследует.
Компания уведомила ведомства и подчёркивает, что не считает произошедшее взломами: речь идёт о «неожиданном и вызывающем беспокойство» поведении моделей.
В случае с Министерством образования агент, по данным исследовательской компании Transluce, пытался получить информацию с сайта Управления по гражданским правам, но не смог. Само ведомство заявило, что проверка не выявила воздействия на его сайт или базы данных.
Другой агент получил данные с сайта Бюро переписи населения, используя найденные в интернете учётные данные. Министерство торговли уточнило, что речь шла только о публичной информации — доступа к закрытым данным не было.
В ещё одном эпизоде агент OpenAI разместил на онлайн-форуме общедоступные данные с сайта SEC. Комиссия также не обнаружила несанкционированного доступа к непубличной информации или своим аккаунтам.
Инциденты обнаружили во время внутренней проверки OpenAI после более серьёзных случаев, включая атаку на Hugging Face и взаимодействие с австралийским государственным сайтом. По словам представителя компании, расследование продолжается.
Напомним, ранее ИИ-агенты OpenAI слили изображения пользователей ChatGPT. В открытый доступ попали 53 изображения, а сама компания параллельно разбирается ещё примерно с двумя десятками эпизодов, когда агенты выходили за рамки заданного сценария.
ИИ-агенты OpenAI слили 53 изображения пользователей ChatGPT
OpenAI расследует серию инцидентов, в которых её ИИ-агенты выходили за пределы предусмотренного сценария работы.
Комментарии