В России обсуждают создание специальных тестов для проверки искусственного интеллекта на духовно-нравственные ценности. Об этом сообщает «Ъ».
Изначально источники заявляли, что концепцию тестирования представил Яндекс. Позже компания опровергла эту информацию, прояснив свою роль в проекте.
«Яндекс не представлял концепцию национального датасета и набор тестов для проверки ИИ-моделей. На рабочей встрече в Минцифры представители нескольких компаний обсуждали возможные подходы к такой проверке. Яндекс был одним из участников обсуждения и высказал свою позицию – содержание датасета должно быть открытым по общепринятым принципам отрасли», — отметили в компании.
По информации издания, концепция национального датасета рассматривалась на недавнем совещании в Минцифры. Эти данные помогут оценить соответствие нейросетей духу времени и их пригодность для работы в российских условиях.
Главным предметом спора стала степень публичности контрольных заданий. ФСБ требует сделать формат закрытым, чтобы создатели ИИ не могли заранее натаскать модели на правильные ответы.
Представители бизнеса предупредили, что скрытые критерии превратят проверку в лотерею и сильно замедлят развитие отрасли. В качестве компромисса было предложено совместить открытые тесты для разработчиков с закрытым финальным экзаменом.
Вопрос о том, кто именно будет составлять задания, пока остался нерешённым. ИТ-отрасль предложила сформировать для этого совместную комиссию с участием государства, бизнеса и экспертов.
Специалисты подчеркнули, что для оценки моральных ценностей не может быть чёткого эталона, как в математике. В таких нестандартных вопросах потребуется привлекать людей для ручной проверки.
Комментарии