Cuando habla el cofundador de OpenAI, Andrej Karpathy, Elon Musk también reacciona.
Karpathy acababa de grabar una entrevista de dos horas y media con el podcaster Dwarkesh Patel. Y su amplia discusión desafió la sabiduría convencional, con Karpathy señalando los obstáculos en cualquier camino hacia la inteligencia artificial general (AGI) y argumentando que estamos a 10 años de los agentes de IA.
Karpathy se apresuró a decir que «se está produciendo una sobrepredicción en la industria». Y luego, en X.com, brindó detalles sobre sus expectativas:
«Básicamente, mis líneas de tiempo de IA son entre 5 y 10 veces (más) pesimistas con respecto a lo que encontrarás en la fiesta de tu vecindario sobre IA en San Francisco o en tu línea de tiempo de Twitter, pero aún así son bastante optimistas con respecto a una marea creciente de escépticos y negacionistas de la IA».
Las conversaciones inevitablemente continuaron en las redes sociales, comenzando con la afirmación de Kaparthy de que la educación temprana debería incluir la física que había estudiado porque es particularmente efectiva para «reiniciar» el cerebro. Él había dicho en el podcast que cada vez que trataba con un nuevo sistema, ya fuera IA, física o algo intermedio, «estoy tratando de encontrar qué es lo que importa…? ¿Cómo puedo simplificarlo?».
De vuelta en X.com, Elon Musk desafió a Karpathy, quien también era director senior de inteligencia artificial en Tesla, a «un concurso de codificación de IA o cualquier forma de competencia que desees para Andrej vs Grok 5, a la Kasparov vs Deep Blue».
Pero ese fue el momento en que Musk descubrió que cuando hablaba de inteligencia artificial, Karpathy en realidad tenía una vena optimista.
«Preferiría utilizar y colaborar con Grok 5 que competir contra él».
Predicciones desafiantes de la industria de la IA
Karpathy lideró los esfuerzos de conducción autónoma de Tesla de 2017 a 2022 y luego fue pionero en las fronteras de la investigación en inteligencia artificial. Entonces, cuando el podcaster Patel lo presionó sobre qué cuellos de botella les tomará a los agentes de IA una década superar, Karpathy respondió: «¡Realmente, hacerlo funcionar!».
En este momento, Patel no está reemplazando a los empleados con Claude o Codex, señaló Karpathy, – porque «simplemente no trabajan. No tienen suficiente inteligencia. No son lo suficientemente multimodales, no pueden usar la computadora y todas esas cosas… No tienen un aprendizaje continuo. No puedes simplemente decirles algo y lo recordarán. Tienen deficiencias cognitivas y simplemente no funciona. Se necesitará alrededor de una década para resolver todos estos problemas».
Andrej Karpathy (izquierda), cofundador de OpenAI, habló con el podcaster Dwarkesh Patel sobre el estado actual de los agentes de Ai.
¿Por qué una década? Karpathy le dijo a Patel que «es algo así como mi intuición, y estoy extrapolando un poco de mi experiencia en el campo… Siento que los problemas tienen solución, son superables, pero aún así son difíciles. Si solo lo promedio, parece como si hubiera durado una década».
Todavía predice que habrá algunos cambios sísmicos que alterarán todo el campo, «porque ocurren con una regularidad casi asombrosa».
En resumen, Karpathy dijo: «Siento que todavía hay mucho trabajo por hacer», pero añadió casi de inmediato que «van a mejorar y será maravilloso».
Así que Karpathy es claramente una de esas personas que dicen «sí y no», y más que una persona para un trabajo arbitrario en el mundo.
«Creo que en general, 10 años deberían representar un período muy alcista para» AGI, dijo. Y añade: «En contraste con la publicidad actual, no lo parece».
El viaje de una década hacia los agentes de IA
Al recordar su trabajo al frente de los esfuerzos de conducción autónoma de Tesla, Karpathy dijo en el podcast que experimentó una «brecha muy grande entre la demostración y el producto, donde la demostración es muy fácil, pero el producto es muy difícil». (Especialmente en áreas donde los errores podrían ser mortales).
Incluso hoy en día, dijo, algunos vehículos autónomos están equipados con teleoperadores, por lo que «hay más personas involucradas en el circuito de lo que cabría esperar… En cierto modo, no hemos eliminado a la persona, la hemos trasladado a un lugar donde no se puede ver».
Y luego, suponiendo que lleguemos a un mundo con AGI, señaló Karpathy en
Karpathy cree que todo esto debería influir en nuestros cronogramas sobre el papel de la inteligencia artificial en nuestras vidas.
Cerrando la brecha entre la demostración y el producto
«Creo que funcionará», dijo Karpathy en el podcast. «Creo que es negociable. Sólo sueno pesimista porque cuando entro en mi línea de tiempo de Twitter, veo todas estas cosas que no tienen sentido para mí… Honestamente, muchas de ellas tienen que ver simplemente con la recaudación de fondos».
En el podcast, Karpathy también especuló sobre cómo se sentiría la superinteligencia: “básicamente automatización”, pero “extremadamente extraña”. Entonces, lo preocupante de esta posibilidad de agentes verdaderamente autónomos es también lo que él considera el resultado más probable. Existe lo que describió como «esta pérdida gradual de control y comprensión de lo que está sucediendo»: un mundo en el que «colocamos todo esto en todas partes, y cada vez habrá menos personas que lo entiendan».
Si estuviera escribiendo distopías de ciencia ficción, dijo Karpathy, se sentiría como «múltiples entidades en competencia que gradualmente se vuelven cada vez más autónomas. Algunas de ellas se vuelven rebeldes y otras luchan contra ellas. Es este caldero de actividades completamente autónomas en el que hemos delegado. Siento que tendría ese sabor».
Eureka Labs: un enfoque educativo nativo de IA
Pero Karpathy tiene su propia respuesta a estas preocupaciones. En julio de 2024, anunció el lanzamiento de la empresa educativa Eureka Labs, “un nuevo tipo de escuela nativa de IA”.
Sólo con la investigación de la IA, «no sé si podría mejorarla de manera única», dijo Karpathy. Así que ahora ha encontrado una manera de abordar los temores de que la inteligencia artificial “prive de poder” a la humanidad.
“Quiero que los seres humanos estén bien en el futuro”, afirmó, y añadió: “Para mí, esto se puede lograr a través de la educación”.
Eureka Labs está construyendo actualmente su primer curso, que cubre inteligencia artificial: LLM101n. En octubre, Karpathy lanzó nanochat, «una implementación completa de un LLM como ChatGPT en una base de código única, limpia, mínima, pirateable y basada en dependencias».
«Inicias una GPU en la nube, ejecutas un único script y en solo 4 horas puedes hablar con tu LLM en una interfaz de usuario web similar a ChatGPT», explicó Karpathy el día del lanzamiento.
En X, Karpathy amplió el nanochat. «Quería divertirme un poco», escribió, «así que nanochat ahora se refiere a mí como Rey Andrej Karpathy (risas) solo para ilustrar que este es un lienzo en blanco gigante: puedes infundir identidad, conocimiento o estilo de manera completamente arbitraria en tu LLM».
El proyecto Nanochat y su impacto
El lanzamiento en octubre de la implementación del LLM de nanochat será una parte importante del primer curso de Eureka, su proyecto final. Su repositorio GitHub incluye una cita acertada del físico ganador del Premio Nobel Richard Feynman: «Lo que no puedo crear, no lo entiendo».
En el podcast, Karpathy describió el proyecto de nanochat como «construir una vía de acceso al conocimiento… Es algo súper simplificado. Si le das este artefacto a alguien y lo mira, está aprendiendo muchas cosas».
«Te da mucho de lo que yo llamo eurekas por segundo, que es comprensión por segundo. Eso es lo que quiero». (Tal vez por eso la empresa se llama Eureka Labs).
Una captura de pantalla del repositorio de GitHub para la primera clase de IA de Eureka Labs (en desarrollo).
E incluso en un futuro en el que la inteligencia artificial toma muchas decisiones, dijo Karpathy, «creo que habrá un período de transición en el que podremos mantenernos actualizados y hacer avanzar las cosas si entendemos muchas cosas». (Aunque, añadió, “a largo plazo, esto probablemente desaparecerá”).
Pero, irónicamente, aquí en el presente Karpathy descubrió que las herramientas de inteligencia artificial de «codificación de vibraciones» actuales seguían malinterpretando el código que intentaba escribir para nanochat, «porque tienen demasiada memoria de todas las formas típicas de hacer las cosas en Internet que yo simplemente no estaba adoptando».
Además, las herramientas de codificación de IA eran “demasiado defensivas”, señaló. «Hacen todas estas declaraciones de intento de captura». Y agregó: «Muchas veces utilizan API obsoletas». El trabajo extra significó que la experiencia no fue una ganancia neta en productividad.
Esta puede ser la razón por la que Karpathy predice un período de tiempo más largo para cuando la IA explote en popularidad, dijo. Hoy en día, incluso para el caso de uso de la IA, «no son muy buenos con código que nunca antes se ha escrito… ¡que es lo que estamos tratando de lograr cuando construimos estos modelos!»
«Siento que la industria está dando un salto demasiado grande y tratando de fingir que todo esto es genial, y no lo es. Es una tontería».
«No aceptan eso y tal vez estén tratando de recaudar dinero o algo así».
YOUTUBE.COM/THENEWSTACK
La tecnología avanza rápido, no te pierdas ningún episodio. Suscríbase a nuestro canal de YouTube para transmitir todos nuestros podcasts, entrevistas, demostraciones y más.
INSCRIBIRSE
