- OpenAI ha recibido críticas por no ser tan «abierto» como sugiere su nombre.
- El director ejecutivo, Sam Altman, explicó el paso de la compañía hacia modelos cerrados de IA en un AMA de Reddit el jueves.
- Ofrece «una manera más fácil de alcanzar el umbral de seguridad» y OpenAI quiere «abrir código abierto para más cosas en el futuro», dijo.
¿Por qué OpenAI no abre los modelos de IA detrás de ChatGPT si la empresa se llama OpenAI?
Todo se reduce a en qué es «bueno» OpenAI y el camino para alcanzar los umbrales de seguridad de la compañía para sus modelos de IA, dijo el CEO Sam Altman en una sesión de Reddit Ask Me Anything el jueves.
«OpenAI ha pasado de un enfoque de código más abierto a un modelo más cerrado en los últimos años», dijo un usuario de Reddit. «¿Puede explicarnos el razonamiento detrás de este cambio y cómo evaluar las compensaciones entre la apertura y los riesgos potenciales asociados con tecnologías avanzadas de IA ampliamente accesibles?»
Altman respondió que el código abierto «desempeña un papel importante en el ecosistema y existen excelentes modelos de código abierto en el mundo».
«También creemos que hay un papel importante en el mundo para los servicios y API potentes y fáciles de usar, y dado lo que hacemos bien, vemos una manera más fácil de alcanzar el umbral de seguridad que queremos alcanzar de esta manera». » dijo. dijo. «Estamos muy orgullosos del valor que las personas obtienen de nuestros servicios».
Altman añadió que «le gustaría que abriésemos más cosas de código abierto en el futuro».
Los comentarios de Altman siguen a un año en el que OpenAI recibió críticas por ya no abrir el código fuente de sus modelos de IA. La compañía ya había publicado el código para su modelo GPT-2 AI en noviembre de 2019. Sin embargo, no ha publicado el código para sus modelos futuros, incluidos los últimos modelos de vista previa GPT-4o y o1.
Elon Musk, quien cofundó OpenAI en 2015 con Altman y otros antes de dejar el directorio de la compañía, ha sido uno de los críticos más acérrimos de su nuevo enfoque.
En diciembre de 2022, un mes después del lanzamiento de ChatGPT, tuiteó: «OpenAI comenzó como código abierto y sin fines de lucro. Ninguna de las dos cosas es cierta todavía». OpenAI se convirtió en “beneficio limitado”, un híbrido de estructuras con y sin fines de lucro, en 2019.
Musk presentó una demanda contra Altman y OpenAI en marzo, alegando incumplimiento de contrato y que la empresa había abandonado su misión original. OpenAI publicó una entrada de blog en respuesta a sus afirmaciones poco después.
Un intercambio de correo electrónico publicado en la entrada del blog mostró a Ilya Sutskever, uno de los cofundadores y ex científico jefe de OpenAI, escribiendo a Musk: «A medida que nos acerquemos a la construcción de IA, tendrá sentido empezar a ser menos abiertos. Abierto en openAI significa que todos deberían beneficiarse de los frutos de la IA después de su creación, pero está completamente bien no compartir la ciencia (aunque compartir todo es definitivamente la estrategia correcta a corto y posiblemente mediano plazo para fines de reclutamiento) «.
La captura de pantalla publicada por OpenAI mostró a Musk simplemente respondiendo: «Sí».
Musk abandonó la demanda en junio antes de presentar una nueva demanda en agosto alegando que era «engañado” para cofundar la empresa de IA.
Ya sea de código abierto o de código cerrado es un tema candente en la industria de la IA en este momento. Uno de los competidores de OpenAI que promociona sus esfuerzos de código abierto es Meta, cuya última oferta en el espacio, los modelos Llama 3.2, salió en septiembre. El director ejecutivo, Mark Zuckerberg, dijo que cree que el código abierto es «más seguro que las alternativas» y «necesario para un futuro positivo de la inteligencia artificial».
Vale la pena señalar que la compañía requiere que las empresas con una base de usuarios de 700 millones de usuarios activos mensuales o más soliciten el uso de Llama, y Meta puede decidir si otorga acceso o no.
La Open Source Initiative, una organización sin fines de lucro, ha declarado anteriormente que esta licencia «no calificaría como una licencia de código abierto porque contiene restricciones sobre las necesidades comerciales». La OSI dijo recientemente que Meta’s Llama no cumple con su definición de IA de código abierto.
Un portavoz de Meta dijo que la empresa no está de acuerdo con la definición de OSI.
«No existe una definición única de IA de código abierto, y definirla es un desafío porque las definiciones anteriores de IA no comprenden las complejidades de los modelos de IA actuales que avanzan rápidamente», dijo el portavoz.
«Hacemos que Llama esté disponible de forma gratuita y abierta, y nuestra licencia y Política de uso aceptable ayudan a proteger a las personas al introducir algunas restricciones», agregaron. «Continuaremos trabajando con OSI y otros grupos de la industria para hacer que la IA sea más accesible y gratuita de manera responsable, independientemente de las definiciones técnicas».
En otra parte de Reddit AMA, Altman dijo que el modelo GPT-5 de OpenAI probablemente no se lanzará este año y que está usando ChatGPT para responder algunas preguntas en línea.