Voyage AI, эмбеддинг-подразделение MongoDB, вчера выпустила voyage-code-4 — новую модель для семантического поиска по коду.
Цена — $0.12 за миллион токенов, на треть дешевле предыдущей voyage-code-3. Главное отличие — модель обучали не на классических парах «код + докстринг», а на реальных merged pull request'ах, которые чинили баги. По словам разработчиков, именно так работают кодовые агенты: они ищут проблему по описанию симптома, а не по названию функции.
Зачем вообще эмбеддинг для кода Когда кодовый агент получает баг-репорт вроде «где-то неправильно обрабатываются пустые массивы», grep не поможет — такой строки в коде физически нет. Полнотекстовый поиск работает только тогда, когда агент уже знает идентификатор, который ищет. Эмбеддинги решают обратную задачу: превращают и баг-репорт, и сам код в векторы и находят совпадения по смыслу.
Voyage AI объясняет это ценой на токены и время: за одну задачу агент может сделать десятки ретривал-запросов, и каждый промах — это лишние токены и лишний раунд запросов по репозиторию. voyage-code-4 заявлен как дополнение к grep именно для тех случаев, где поиск по симптому не работает.
Что нового в модели Другой обучающий корпус. Вместо синтетических пар «код — докстринг» — сотни тысяч запросов, собранных из реальных issue-fixing PR, тысячи репозиториев, сотни языков программирования. По объёму корпус заметно больше, чем у voyage-code-3.
Matryoshka-эмбеддинги. Модель отдаёт векторы на 2048, 1024, 512 или 256 измерений — можно урезать размер под баланс скорость/точность без переобучения.
Квантование. Поддерживаются float32, int8 (знаковый и беззнаковый) и бинарная точность — это снижает расходы на хранение векторов в базе.
Контекст — 32 000 токенов.
Насколько она лучше конкурентов Voyage AI сравнила voyage-code-4 с Cohere Embed v4, Gemini Embedding 2, OpenAI v3 large и предыдущей voyage-code-3 на двух наборах: новом бенчмарке агентного ретривала (собран из issue-fixing PR — репозитории для теста не пересекались с обучающими) и на 28 датасетах, которые компания использовала ещё для оценки voyage-code-3. Метрика — NDCG@10, оценка релевантности топ-10 документов по косинусной близости.
Это данные самой Voyage AI — независимой проверки пока нет, компания говорит, что версия агентного бенчмарка для RTEB (публичного лидерборда по ретривалу) сейчас только готовится.
Цена и доступ $0.12 за миллион токенов — на треть дешевле voyage-code-3. Модель уже доступна через Voyage API и через Atlas Embedding and Reranking API в MongoDB Atlas; первые 200 миллионов токенов — бесплатно. Отдельного чата или приложения нет: voyage-code-4 встраивают в свой продукт по API-ключу, это инструмент для разработчиков и команд, которые строят RAG-пайплайны и кодовых агентов, а не для разового запроса руками.
Для тех, кто уже собирает агентов и не хочет заводить зарубежную карту ради одного тестового ключа, — доступ к пулу API нейросетей можно получить и через агрегаторы вроде SpeShu.AI, с оплатой по СБП.
Что пока не проверено
Независимой оценки (уровня Artificial Analysis или публичного лидерборда) для агентного бенчмарка ещё нет — сравнение делала сама Voyage AI.
RTEB-версия этого бенчмарка, по словам компании, «в процессе добавления».
Не уточняется, входит ли voyage-code-4 в бесплатный тариф MongoDB Atlas Community Edition или доступна только через платный embedding API.
Если вы строите кодового агента и раньше сидели на voyage-code-3, попробовать имеет смысл: модель дешевле и заточена именно под запросы-симптомы, с которыми работают агенты. Но переносить прод-пайплайн стоит после того, как появятся независимые цифры, а не только отчёт самой компании.
Комментарии