Система ИИ помогла создать Flint

Автоматизированная исследовательская система Eureka Machine помогла разработать новую открытую модель для программирования под названием Flint менее чем за четыре месяца. Предлагая идеи, проводя эксперименты и совершенствуя архитектуру под контролем специалистов, платформа позволила небольшой команде создать продукт с нуля. Система внесла вклад на всех этапах производства, внедрив оптимизации, которые сократили необходимый объем памяти на 71% с минимальной потерей производительности. Такой подход демонстрирует, как управляемые автоматизированные исследования могут ускорять разработку специализированных программных инструментов.

Flint использует архитектуру Mixture of Experts, которая задействует около 2,5 миллиарда из 40 миллиардов общих параметров на каждый токен. В ходе тестирования на графическом процессоре 64GB Nvidia RTX Spark при коротких контекстах модель генерировала более 150 токенов в секунду. На чипе Apple M4 Pro показатель скорости в тестах превысил 125 токенов в секунду. По данным оценок Recursive, в бенчмарке SWE-Bench Verified модель Flint возглавила категорию архитектур Mixture of Experts размером до 50 миллиардов параметров.

Чтобы сделать инструмент общедоступным, компания Recursive опубликовала веса модели на платформе Hugging Face под лицензией Apache 2.0. Локальная работа на совместимых ноутбуках помогает сохранять код и входные данные на устройстве пользователя без необходимости оплачивать комиссии за использование облачных API. Эта возможность офлайн работы предоставляет инженерам эффективное локальное решение для решения задач по разработке программного обеспечения.