Губернатор Калифорнии Гэвин Ньюсом наложил вето на спорный законопроект о разработке искусственного интеллекта. Об этом пишет The Washington Post.
Законопроект SB 1047 нацелен на введение «разумных стандартов безопасности» для компаний-разработчиков моделей искусственного интеллекта, и он стал бы основной правовой базой в сфере ИИ в США. Если бы закон приняли, компании были бы обязаны тестировать все технологии на предмет возможного причинения вреда людям. Таким образом, законопроект уничтожил бы инновации, а разработка стала бы слишком рискованной для корпораций, поскольку крайне трудно или даже невозможно предусмотреть все риски искусственного интеллекта. По мнению противников законопроекта, наказывать нужно тех, кто использовал ИИ во вред, а не тех, кто разработал технологию.
Примечательно, что законопроект уже несколько раз смягчали: например, лаборатории ИИ не должны предоставлять результаты испытаний на предмет безопасности нейросетей, чтобы не попасть под лжесвидетельство. SB 1047 поддержала компания Anthropic и Илон Маск. Против него выступили лоббисты из Meta (признана экстремистской компанией и запрещена в РФ), Google, крупных венчурных компаний и основатели ИИ-стартапов.
Маск, Возняк и ещё 1000 экспертов призывают приостановить обучение ИИ, превосходящих GPT-4
В письме подчёркивается, что мощные ИИ-системы должны разрабатываться только после того, как человечество будет уверено в позитивных последствиях такого развития.
Ньюсом заявил, что законопроект неправильный. По словам губернатора, он нацелен на ИИ-проекты, которые превышают определённый объём вычислительной мощности, и игнорирует то, используется ли ИИ для принятия критически важных решений. К тому же, это создало бы ощущение ложной безопасности у пользователей.
В ответ высказался исполнительный директор Института будущего жизни (некоммерческая организация, изучающая экзистенциальные риски для человечества) Энтони Агирре: «Эти компании считают, что должны играть по своим собственным правилам и никому не отчитываться». Он заявил, что пришло время вынести законопроект на федеральное или глобальное урегулирование.
Комментарии