PrismML выпустила компактную ИИ-модель Bonsai 2 27B

PrismML выпустила Bonsai 2 27B — новую ИИ-модель на базе Qwen3.8 27B. По данным компании, она способна выполнять задачи, связанные с анализом и рассуждениями, программированием, обработкой изображений и последовательным выполнением нескольких действий, используя значительно меньше памяти, чем полноразмерная версия.

Компактная версия Bonsai 2 27B занимает всего 5,9 ГБ памяти — более чем в 9 раз меньше, чем полная модель. При этом она сохраняет 98,2% ее совокупной производительности по результатам бенчмарков. Это выше показателя первой Bonsai 27B, которая сохраняла 95% производительности полноразмерной версии.

PrismML протестировала новую модель в 20 бенчмарках, охватывающих рассуждения, математику, программирование, выполнение инструкций, обработку изображений и использование инструментов. Ее совокупный результат составил 83,9 балла против 85,4 у Qwen3.8 27B. На NVIDIA GeForce RTX 5090 Bonsai 2 27B может работать со скоростью до 143 токенов в секунду.

Модель содержит 27,8 млрд параметров и была обучена на TPU Google v5. Она рассчитана на эффективную работу с потребительскими CPU и GPU и может использоваться для локальных ИИ-ассистентов, мультимедийных приложений, работы с приватными данными и задач, в которых ИИ должен самостоятельно выполнять несколько последовательных действий. Компактная версия модели уже доступна бесплатно по лицензии Apache 2.0.