Sep 04, 2021 • 12:40

ИИ Facebook перепутал темнокожих с приматами

Sep 04, 2021 • 12:40

Данная страница содержит «вставки» с других сайтов, скрипты которых могут собирать ваши личные данные для аналитики и своих внутренних потребностей. Редакция рекомендует использовать браузеры с блокировкой трекеров для просмотра таких страниц. Подробнее →

Искусственный интеллект пометил видео с чернокожими мужчинами, размещенное на профиле Daily Mail в социальной сети Facebook, как ролик «о приматах». Администрация Facebook уже принесла извинения после случившегося, пишет The New York Times.

Отмечается, что ролик появился 27 июня на аккаунте британской газеты Daily Mail в социальной сети Facebook. На нём произошла стычка между темнокожими, белыми и полицейскими. Рядом с видео появилось автоматическое уведомление, которое спрашивало пользователей, желают ли они «продолжить смотреть видео о приматах». При этом видео вообще не имеет отношения к обезьянам или приматам, отмечает NYT.

Руководство Facebook принесло официальные извинения за эту ошибку. В компании отметили, что уже начата работа по исправлению искусственного интеллекта, который допустил ошибку.

Как мы уже говорили, несмотря на то что мы работаем над улучшением искусственного интеллекта, мы знаем, что он не совершенен и нам предстоит много работы. Мы приносим извинения всем, кто мог видеть эти оскорбительные рекомендации, — цитирует издание заявление пресс-секретарь компании Дэни Левер.

Теперь компания изучает инцидент, чтобы предотвратить подобные ошибки в будущем. После случившегося функцию рекомендаций отключили, пока Facebook не выяснит источник проблемы.

Google, Amazon и другие технологические компании уже много лет находятся под пристальным вниманием из-за предвзятости их систем искусственного интеллекта, особенно в вопросах расы. Исследования показали, что технология распознавания лиц предвзято относится к темнокожим людям и с большим трудом их идентифицирует, что привело к случаям, когда чернокожие люди подвергались дискриминации или арестовывались из-за ошибки компьютера.