Una nueva era para la inferencia de IA
ZML, una startup francesa respaldada por el renombrado ganador del Premio Turing, Yann LeCun, ha dado un paso audaz al lanzar su nuevo servidor de inferencia, ZML/LLMD. Este software permite que modelos de lenguaje de código abierto funcionen eficientemente en una variedad de chips, incluyendo los de Nvidia, AMD, y otros como los TPU de Google y Apple Metal.
El fundador de ZML, Steeve Morin, explicó que la misión detrás del lanzamiento es romper las barreras existentes en el uso de diferentes chips para aplicaciones de inteligencia artificial. “Queremos devolver a las empresas el poder para crear sus propios sistemas y lograr ganancias reales en eficiencia”, afirmó Morin. Esta propuesta se presenta como una solución ante las crecientes preocupaciones sobre los costos asociados con la inteligencia artificial.
A medida que la demanda por optimización en la inferencia crece, ZML se posiciona como un competidor clave en lo que algunos han denominado la “fiebre del oro” en este sector. La compañía no solo enfrenta a gigantes como Nvidia, sino también a startups emergentes valoradas en miles de millones, como Baseten.
ZML está abierta a colaborar con nuevos fabricantes europeos de chips, tales como Axelera y Kalray. Morin destacó que su enfoque no solo se limita a Europa; busca trabajar en proyectos innovadores que aún no se han realizado globalmente. A pesar del panorama competitivo, mantiene buenas relaciones con Nvidia, lo cual podría ser beneficioso para ambas partes.
A pesar de ser una empresa pequeña con solo 20 empleados, ZML ha logrado asegurar $20 millones en financiamiento gracias al historial exitoso de Morin como VP de ingeniería en Zenly. Este capital le permite avanzar rápidamente hacia nuevas versiones y mejoras del producto.
Aunque ZML/LLMD no es un producto open source, se lanza inicialmente como gratuito para aprender sobre su uso antes de considerar un modelo pago. “Prefiero medir primero antes de generar ingresos donde sea más efectivo”, comentó Morin sobre su estrategia comercial.
