Sistema IA ayuda a crear Flint

Un sistema de investigación automatizado llamado Eureka Machine ayudó a desarrollar un nuevo modelo de programación de pesos abiertos denominado Flint en menos de cuatro meses. Al proponer ideas, realizar experimentos y perfeccionar arquitecturas bajo supervisión humana, la plataforma permitió a un equipo reducido crear la tecnología desde cero. El sistema contribuyó en todas las etapas de producción, introduciendo optimizaciones que redujeron la huella de memoria en un 71 por ciento con una pérdida mínima de rendimiento. Este enfoque demuestra cómo la investigación automatizada supervisada puede acelerar el desarrollo de herramientas informáticas especializadas.

Flint utiliza una arquitectura de mezcla de expertos que activa aproximadamente 2.500 millones de sus 40.000 millones de parámetros totales por token. Durante las evaluaciones en una tarjeta gráfica de 64 GB Nvidia RTX Spark con contextos cortos, el modelo generó más de 150 tokens por segundo. En un chip Apple M4 Pro, alcanzó más de 125 tokens por segundo. En la evaluación SWE-Bench Verified, Recursive informa que Flint lideró la categoría de modelos de mezcla de expertos de menos de 50.000 millones de parámetros.

Para poner la herramienta a disposición del público, Recursive publicó los pesos del modelo de forma en Hugging Face bajo la licencia Apache 2.0. El funcionamiento local en portátiles compatibles ayuda a mantener el código y los datos de entrada en el dispositivo del usuario sin incurrir en costes por uso de API en la nube. Esta capacidad de trabajo sin conexión ofrece a los ingenieros una opción local eficiente para gestionar tareas de desarrollo de software.