- Furiosaai y OpenAi lograron un chatbot en la demostración del alma utilizando chips RNGD personalizados
- La startup coreana rechazó la oferta de adquisición de un destino de $ 800 millones a principios de este año
- La demostración ha demostrado que los modelos de la empresa pueden trabajar de manera sostenible sin GPU.
Furiosaai y Openai recientemente realizaron una manifestación conjunta en Soul, Corea del Sur, en la apertura de la nueva oficina de Openi, que muestra el Modelo GPT-ASS 120B abierto en ejecución en el hardware Furiosaai.
La demostración (que puede ver a continuación) presentó un chatbot de tiempo real alimentado por dos de los aceleradores RNGD de Furiosaai (pronunciado «renegado»), el chip de inferencia de Ai Punta della Compagnia.
El modelo se realizó utilizando MXFP4 Precision, un formato que reduce el consumo de energía mientras mantiene la precisión necesaria para el uso corporativo.
Furiosaai fue la única compañía de hardware invitada a participar en el evento y la instalación ha demostrado que los modelos de código abierto a gran escala pueden operar dentro de los presupuestos de los centros de datos de energía, sin los costos de energía y los requisitos de infraestructura a menudo asociados con las GPU.
Fundada en 2017 por el CEO de June Paik, Furiosai se especializa en el diseño de chips y toma alrededor de 140 empleados. Más del 90 por ciento son desarrolladores, incluidos ingenieros con experiencia en Google, Qualcomm y Samsung.
El producto Punta RNGD de la compañía se presentó por primera vez en Hot Chips 2024.
Es un chip de inferencia A a un alto rendimiento basado en el proceso de 5 nm de TSMC, con memoria doble HBM3 y basada en la arquitectura del procesador de contracción tensor de Furiosaai.
El diseño mejora la eficiencia al maximizar el paralelismo y reducir el cálculo inútil.
Furiosaai obtuvo recientemente una ronda de financiación de 125 millones de dólares del Puente Serie C y firmó una asociación con LG AI Research.
El hardware de la compañía ya se ha utilizado en distribuciones de la empresa y probado para obtener eficiencia y confiabilidad.
La startup también atrajo el interés de las compañías tecnológicas globales. En abril informamos que Meta había hecho una oferta de 800 millones de dólares (1.2 billones de victorias) para la compañía.
Furiosai rechazó la adquisición, aunque fue de aproximadamente $ 300 millones de dólares en comparación con el valor estimado de mercado de la startup, porque no estaba de acuerdo con la dirección programada después de la adquisición.
Los observadores del sector afirman que la demostración de SEUL indica la creciente importancia del hardware especializado, mientras que los modelos para los continúan creciendo en tamaño y complejidad.
Con los costos de energía e infraestructura que continúan aumentando, las nuevas empresas como Furiosaai están presionando sus chips como una solución accesible que se adapta a los presupuestos corporativos.
