Jun 01, 2024 • 06:16

Google заявила, что в странных ответах поискового ИИ виноваты сами пользователи

Jun 01, 2024 • 06:16

Данная страница содержит «вставки» с других сайтов, скрипты которых могут собирать ваши личные данные для аналитики и своих внутренних потребностей. Редакция рекомендует использовать браузеры с блокировкой трекеров для просмотра таких страниц. Подробнее →

Компания Google объяснила причины странных ответов своей нейросети Gemini, которая порой предлагала пользователям вредные рекомендации, такие как использование клея для пиццы или поедание камней.

В официальном блоге компании уточняется, что нейросеть AI Overview не генерирует собственные ответы и не «галлюцинирует», а лишь ошибочно интерпретирует информацию в сети. Это происходит из-за недостатка качественных обучающих данных и сложностей с пониманием контекста и иронии.

AI Overview, построенная на основе языковой модели, задействована в системах веб-рейтинга Google и должна была помогать в нахождении релевантных ответов на запросы. Однако иногда нейросеть считала наиболее подходящими решениями абсурдные идеи, такие как склеивание пиццы.

Google также обвинила пользователей в искажении результатов выдачи Gemini, утверждая, что распространённые скриншоты с советами оставлять собак в машинах или курить во время беременности были сфабрикованы. При этом компания признала, что некоторые ответы действительно были абсурдны и бесполезны, так как основывались на данных с пародийных сайтов.

В ответ на возникшие проблемы Google обновила свои алгоритмы, чтобы улучшить фильтрацию информации и ограничить использование потенциально вводящего в заблуждение контента. Также был разработан механизм для распознавания сатиры и иронии и фильтрации «бессмысленных запросов». Теперь компания стремится предотвратить повторение подобных инцидентов и улучшить качество ответов своего поискового ИИ.