MWS AI (входит в МТС Web Services) представила модель Cotype Light 3 для создания ИИ-агентов, сообщили «Коду Дурова» в компании.
Она может работать одновременно с текстом и визуальными данными — например, анализировать договоры, формы и технические чертежи в одном контексте.
Модель содержит 9 млрд параметров и рассчитана на корпоративные сценарии. В компании отмечают, что такие модели сопоставимы по качеству с более крупными аналогами, но требуют меньше ресурсов: их можно запускать на стандартном оборудовании и быстрее дообучать под конкретные задачи.
По данным независимого бенчмарка MERA, Cotype Light 3 стала первой компактной моделью, вошедшей в топ-3 рейтинга, набрав 0,792 балла из 1,0. Данные: MERA Это выше результатов многих моделей с 100+ млрд параметров, требующих значительно больше вычислительных мощностей. В задачах по математике и «знаниям о мире» точность модели превышает 99%. Модель занимает около 18 ГБ видеопамяти и может работать на одном серверном ускорителе без многокарточных конфигураций — например, на GPU уровня NVIDIA A100, A10 или L4. Это позволяет компаниям разворачивать её в закрытом контуре и снижать затраты на инфраструктуру. В MWS AI отмечают, что Cotype Light 3 уже совместима с отечественными программно-аппаратными комплексами и может использоваться в прикладных системах. В дальнейшем линейку планируют расширять, увеличивая число параметров для более ресурсоёмких сценариев.
Комментарии