Глава Anthropic Дарио Амодеи признал, что его идея замедлить развитие ИИ упирается в геополитику: соперники, прежде всего Китай, могут не пойти на ограничения ради военного превосходства. Об этом сообщает CNBC.
Своё мнение Амодеи высказал в эфире программы Sunday Morning на CBS News. По его словам, в долгосрочной перспективе странам стоило бы совместно установить «ограничение скорости» для развития ИИ, но стимулы вырваться вперёд слишком сильны. В качестве возможной модели он привёл договоры об ограничении ядерных вооружений с СССР, хотя и оценил шансы сдержанно.
«Совместная работа над ограничением скорости прогресса ИИ — это самое сложное. Не знаю, возможно ли это вообще, но пробовать нужно», — заявил Амодеи.
Заявление прозвучало после эссе, в котором Амодеи призвал компании замедлить улучшение самых продвинутых моделей. Поводом стали предупреждения исследователей о том, что технология способна причинить катастрофический вред. Anthropic, по словам Амодеи, в одностороннем порядке выполнила первый шаг своего плана — открыла сторонним экспертам доступ к компании для проверки практик безопасности.
Идею замедления публично поддержали и другие представители отрасли. Глава OpenAI Сэм Альтман, несмотря на давнее соперничество с Амодеи, согласился с необходимостью «сдерживать темп» развития передовых систем. Председатель совета директоров Google DeepMind Демис Хассабис назвал направление верным, но требующим доработки, а Илон Маск высказался за внешний надзор и «рецензирование ИИ конкурентами».
Президент США Дональд Трамп призыв замедлить разработку отверг. Как сообщает Associated Press, в кулуарах гольф-турнира в Ирландии он преуменьшил опасения, что ИИ может выйти из-под контроля, назвав такие прогнозы преувеличением.
«Мы опережаем Китай в ИИ, мы самая развитая страна в мире, и я хочу сохранить это, потому что кто выиграет ИИ — выиграет всё. Можно поставить ограничители, сделать то и это. Но многие негативные силы поднимают эту тему зря», — сказал Трамп.
Тему подхватили в Конгрессе, где ИИ стал одним из сюжетов кампании перед промежуточными выборами. Спикер Палаты представителей республиканец Майк Джонсон выступил против моратория на технологию, заявив, что иначе «США проиграют гонку Китаю», и предложил компаниям самим отвечать за безопасность продуктов. Демократы, включая сенатора Криса Кунса и лидера меньшинства в Палате Хакима Джеффриса, наоборот, призвали ввести регулирование до того, как ситуация выйдет из-под контроля.
Дэвид Сакс, сокоординатор совета при президенте по науке и технологиям и архитектор нынешнего мягкого подхода к регулированию ИИ, ответил компаниям в соцсети коротким «действуйте», но отверг, что для замедления им нужна санкция Вашингтона. И Anthropic, и OpenAI при этом готовятся к возможным IPO, но дату размещения ни одна из компаний пока не называла.
Комментарии