ШІ-система допомогла створити Flint
Автоматизована дослідницька система Eureka Machine допомогла розробити нову відкриту модель для кодування під назвою Flint менше ніж за чотири місяці. Пропонуючи ідеї, проводячи експерименти та вдосконалюючи архітектуру під наглядом фахівців, платформа дозволила невеликій команді створити продукт з нуля. Система зробила внесок на всіх етапах виробництва, впровадивши оптимізації, які зменшили обсяг необхідної пам'яті на 71% із мінімальною втратою продуктивності. Такий підхід демонструє, як керовані автоматизовані дослідження можуть прискорювати розробку спеціалізованих програмних інструментів.
Flint використовує архітектуру Mixture of Experts, яка активує близько 2,5 мільярда з 40 мільярдів загальних параметрів на кожен токен. Під час тестування на графічному процесорі 64GB Nvidia RTX Spark на коротких контекстах модель генерувала понад 150 токенів на секунду. На чіпі Apple M4 Pro показник швидкості у тестах перевищив 125 токенів на секунду. За даними оцінок Recursive, у бенчмарку SWE-Bench Verified модель Flint очолила категорію архітектур Mixture of Experts розміром до 50 мільярдів параметрів.
Щоб зробити інструмент загальнодоступним, компанія Recursive опублікувала ваги моделі на платформі Hugging Face за ліцензією Apache 2.0. Локальна робота на сумісних ноутбуках допомагає зберігати код та вхідні дані на пристрої користувача без необхідності сплачувати комісії за використання хмарних API. Ця можливість офлайн роботи надає інженерам ефективне локальне рішення для вирішення завдань із розробки програмного забезпечення.