OpenAI прекратила работу классификатора ИИ, который выявлял тексты, написанные с помощью инструментов искусственного интеллекта. Такое решение было принято из-за «низкого уровня точности».
Сейчас OpenAI изучает более эффективные методы классификации материалов. Также компания решила разработать аналогичный инструмент для выявления созданным ИИ аудио- и визуальных материалов.
Платформа для анализа текстов вышла в январе этого года. Компания вместе с учёными Стэнфордского и Джорджтаунского университетов опубликовала статью, в которой проанализировала риск дезинформационных кампаний, проводимых с помощью ИИ.
На момент закрытия точность обнаружения сгенерированных текстов с помощью AI Text Classifier была на уровне 26%. Кроме того, приблизительно в 9% случаев AI Text Classifier демонстрировал ложные срабатывания, определяя как сгенерированный текст, на самом деле написанный человеком.
Комментарии