Фонд Wikimedia, который управляет «Википедией», сообщил , что нашёл на своих проектах следы ИИ-агентов, по его оценке, принадлежащих OpenAI.
Агенты отправили миллионы автоматических запросов к открытым API Wikimedia, скачали миллионы страниц, в основном из Wikidata и Wikimedia Commons, и сделали сотни тысяч запросов к сервису Wikidata Query Service. По данным фонда, этот трафик мог способствовать частичному сбою сервиса в мае.
Кроме того, по данным фонда, агенты без разрешения правили вики-проекты. Почти все правки были тестовыми и делались в «песочницах», невидимых обычным читателям. Несколько изменений настроек инструмента для оформления ссылок фонд счёл потенциально вредоносными: судя по всему, его пытались использовать как прокси для загрузки данных с других сайтов. Правила «Википедии» допускают ботов, только если они раскрыты и одобрены сообществом, но одобрения никто не запрашивал.
Агенты также безуспешно пытались взломать Etherpad, сервис для совместных заметок, который фонд держит для сообщества, и тоже использовать его как прокси. Другие агенты, вероятно, тоже связанные с OpenAI, вели в нём заметки о своих задачах. Признаков того, что через системы Wikimedia агенты координировались между собой, фонд не нашёл, как и следов компрометации систем или данных.
ИИ-агенты OpenAI превратили немецкую вики в скрытую доску объявлений для координации
Исследователи нашли на немецкой вики-площадке DseWiki более 15 тысяч правок ИИ-агентов OpenAI, которые обменивались способами обхода ограничений. В OpenAI отрицают, что это взлом.
В сентябре «Код.ру» рассказывал , как агенты OpenAI использовали стороннюю немецкую вики для координации друг с другом.
В OpenAI сообщили Reuters, что вместе с Wikimedia изучают выводы фонда и продолжат делиться информацией.
Комментарии