Недавнее появление GPT-4 разочаровало многих экспертов, однако не техническими усовершенствованиями, а отсутствием информации о внутреннем устройстве генеративной модели.
Несмотря на название разработчика и его изначальным принципам, GPT-4 уже не является открытой моделью. Эксперты это решение раскритиковали, т.к оно идёт вразрез с фундаментальной этикой компании и принципами, на которых она была некогда основана. Это также затрудняет разработку методов защиты от угроз, которые может представлять ИИ, уточняют эксперты.
Тогда Илья Суцкевер, сооснователь и главный учёный OpenAI заявил в интервью The Verge, что причины такого решения очевидны – всё дело в конкуренции.
GPT-4 непросто разрабатывать, — пояснил он. — Её создание на протяжении очень долгого времени отнимало и по-прежнему отнимает почти все силы OpenAI. И существует много компаний, которые хотят того же, так что с точки зрения конкуренции это можно воспринимать как развитие индустрии, – пояснил Илья.
В конкуренции это решение, по его мнению, только будет способствовать развитию отрасли. А по поводу аспекта безопасности он дал следующие пояснения:
Эти модели очень мощные, и они становятся ещё мощнее. В какой-то момент при желании будет очень легко причинить этими моделями значительный ущерб. И по мере расширения этих возможностей обретает смысл нежелание их открывать.
На вопрос, почему OpenAI изменила свою позицию и перестала раскрывать технические подробности своих моделей, Суцкевер заявил:
Мы ошибались. Мы правда ошибались. Если вы, как и мы, считаете, что ИИ на каком-то этапе станет крайне могучим, то попросту неразумно раскрывать его подробности. Это плохая идея. Я полностью уверен, что через пару лет всем станет очевидно, что открывать источники ИИ глупая затея.
Такой закрытый подход в корне отличается от принципов, на которых OpenAI была основана в 2015 году небольшой группой энтузиастов. Помимо Суцкевера в нее входил нынешний гендиректор Сэм Альтман и Илон Маск, покинувший совет директоров в 2018-м из-за разногласий. Поначалу это была некоммерческая организация, но позже стала «ограниченно коммерческой», чтобы удобнее было привлекать миллиардные инвестиции, прежде всего, Microsoft.
Комментарии