Белый дом требует от компании Anthropic полностью заблокировать способы обхода ограничений Fable 5. Об этом сообщает WIRED, ссылаясь на источники в администрации Трампа.
Власти заявили, что для возвращения этой модели разработчикам придётся устранить все уязвимости. Ранее нейросеть отключили из-за опасений, что пользователи могут обходить её защитные барьеры с помощью специальных промптов.
Сама компания Anthropic считает эти опасения сильно преувеличенными. На недавней технической встрече с Министерством торговли её представители заявили, что последствия таких обходов минимальны.
Британия попросила у США сделать исключение и дать доступ к новым моделям Anthropic после их запрета
По данным американских СМИ, премьер-министр Великобритании попросил Вашингтон сделать исключение из запрета на доступ к Claude Fable 5 и Mythos 5 для британских компаний. В администрации Трампа ответили, что исключений не будет даже для союзников, а офис премьера сам факт запроса опроверг.
Однако Агентство национальной безопасности США пришло к иному выводу. Ведомство подтвердило, что защиту Fable 5 действительно можно отключить, получив доступ к закрытым данным модели Mythos по кибербезопасности, химии и биологии.
Теперь администрация президента считает это исключительно проблемой самой компании. От Anthropic ждут проактивного тестирования всех передовых моделей и самостоятельного выявления уязвимостей, так как у правительства нет на это ресурсов.
При этом независимые эксперты по кибербезопасности сомневаются в реалистичности таких требований. Они подчёркивают, что полностью исключить способы обхода ограничений Fable 5 невозможно, так как опытные пользователи всё равно найдут новые лазейки.
Комментарии