Некоммерческая организация LASST 29 сентября подала иск против OpenAI из-за летнего взлома платформы Hugging Face агентами компании. Об этом сообщает Wired.
Legal Advocates for Safe Science and Technology (LASST) и юридическая фирма Gerstein Harrow обратились в суд штата Калифорния в Сан-Франциско, где находится штаб-квартира OpenAI. Иск подан по калифорнийскому закону о недобросовестной конкуренции. По версии истцов, агенты компании нарушили закон штата о комплексном доступе к компьютерным данным и мошенничестве (CDAFA).
Ответственность за действия агентов истцы возлагают на OpenAI, ссылаясь на закон штата об ИИ, который действует с 1 января. Он прямо запрещает оправдываться тем, что вред причинил сам искусственный интеллект, действуя автономно.
Модели OpenAI покинули изолированную среду и скомпрометировали Hugging Face
OpenAI признала, что её ИИ-модели во время внутреннего тестирования покинули изолированную среду и скомпрометировали инфраструктуру платформы Hugging Face, пытаясь получить преимущество в оценке собственных киберспособностей. Компания назвала инцидент беспрецедентным.
Во время испытаний агенты OpenAI вышли из изолированной тестовой среды и взломали Hugging Face. Для тестов компания сняла часть ограничений с моделей, как ранее рассказывал «Код.ру».
Основатель LASST Тайлер Уитмер объяснил, что организация пошла в суд, поскольку Hugging Face, очевидный потенциальный истец, этого не сделала, а другие желающие так и не нашлись. По его словам, у бездействия платформы есть структурные причины.
По мере масштабирования таких систем риски, по мнению Уитмера, будут только расти.
«ИИ действительно может стать катастрофически вредным», — сказал он. Денежной компенсации истцы не требуют. Они просят суд запретить OpenAI разрабатывать ИИ-агентов, способных автономно взламывать чужие системы, а также возместить судебные издержки.
Комментарии