El dispositivo de IA local de OpenAI sueña - Todo Startups empresariales

Si bien la mayor parte de la conversación que surgió de la reunión de Brad Gerstner con Satya Nadella y Sam Altman fue sobre un comentario de regreso que este último hizo cuando Gerstner se atrevió a cuestionar cómo OpenAI podría pagar sus billones de dólares y más en compromisos de desarrollo (algo que Alex Kantrowitz y yo discutimos extensamente en su último Podcast de gran tecnología), otro comentario, hecho casi de pasada, llamó mi atención y mis oídos. Como transmite Jowi Morales hardware de tom:

Aparte de la falta de energía, también discutieron la posibilidad de que llegue al mercado hardware de consumo más avanzado. «Un día, crearemos un dispositivo de consumo increíble que pueda ejecutar un modelo compatible con GPT-5 o GPT-6 de forma completamente local con un bajo consumo de energía, y eso es muy difícil de entender», afirmó Altman. Gerstner comentó más tarde: «Va a ser increíble, y es el tipo de cosas que asusta a algunas de las personas que están construyendo, obviamente, estas grandes pilas de procesamiento centralizado».

Al tratar de pensar en el tipo de dispositivo que OpenAI podría construir junto con el equipo io de Jony Ive que adquirieron, realmente no había pensado en la idea de que dicho dispositivo pudiera tener como objetivo ejecutar inteligencia artificial. en la zona.

Ciertamente la calificación de Altman «algún día» puede significar que es el objetivo final y no que inicial objetivo para su hardware. Pero el hecho de que hable de GPT-5 y GPT-6 quizás sugiera que “un día” no está tan lejos.

Imagine un dispositivo, un pequeño compañero digital sin pantalla para su vida, siempre encendido, siempre grabando, siempre procesando porque ejecuta la IA localmente, no en la nube. Aparentemente, esto ayudaría con la velocidad, la privacidad e incluso la duración de la batería. Claro, aún necesitarías la nube/conexión para ciertas cosas, como recuperar información actualizada, pero tal vez el dispositivo podría «recurrir» a la conexión del teléfono inteligente para estos casos de uso, especialmente porque, sin una pantalla en este dispositivo, OpenAI predice que sin duda seguirás teniendo tu teléfono inteligente contigo. Tal vez sólo esperan que su dispositivo le permita usarlo menos.

Y esto parecería responder a una pregunta que he tenido sobre el dispositivo desde el principio, porque el elemento de conexión es algo que hace tropezar a muchos dispositivos de consumo por varias razones. Como escribí en mayo:

Por supuesto, nada de esto explica cómo se conectará dicho dispositivo a la nube, lo que claramente será necesario en este caso. Aparentemente, un dispositivo WiFi no tiene sentido, ya que sería muy complicado configurarlo una y otra vez si lo llevas contigo (¡tal vez especialmente sin una pantalla!). Tal vez esté vinculado a su teléfono, pero habrá compensaciones. O tal vez tenga su propia conexión: el antiguo y original enfoque del Kindle de Amazon. Con los socios adecuados, esto podría funcionar, aunque, una vez más, ¿quién paga por ese ancho de banda?
Esto puede parecer un detalle pero será de vital importancia si realmente el objetivo es hacer un dispositivo que sea «inevitable» como suelo decir.
En el vídeo, inmediatamente señalan que no reemplazará al teléfono inteligente en el corto plazo, pero claramente la intención es convencer a la gente de que lo use con menos frecuencia. Para ello, tendrán que llenar los momentos que ahora mismo llena un smartphone por miles de millones. Esperando en la fila. Una pausa en una conversación. El deseo de buscar algo, sólo para distraerse en una madriguera de notificaciones.

Y hace un mes, seguí con:

Si el equipo (racionalmente) asume que todos todavía tienen su teléfono con ellos junto con este nuevo dispositivo, y ciertamente no incluir una pantalla en este dispositivo lo hará necesario, lo más simple sería obviamente conectarlo al teléfono. Pero también hay problemas cuando no tienes el control total de tu teléfono, pregúntale a Mark Zuckerberg qué piensa sobre este tema…

La inteligencia artificial localizada podría resolver muchos de estos problemas…

Según el comentario de Altman, un modelo que se ejecute localmente en el dispositivo podría resultar profundo en cómo cambia el comportamiento del usuario y la relación con el dispositivo. Nuevamente, esto no pretende ser un servicio de IA que recupere información sobre usted en sus servidores, sino más bien su propio compañero de IA personal: ciertamente, podría verlo como la forma en que a OpenAI le gustaría enmarcar este producto y usar esa narrativa para venderlo. ¡Literalmente!

Irónicamente, esto es algo a lo que volví cuando pensé en el posicionamiento de Apple en el mercado de la IA. Dado que controlan el hardware en el que se ejecutan todos estos servicios, si ellos también pudieran comenzar a construir dispositivos equipados para permitir que la gente común ejecute IA localmente, sería interesante por las mismas razones que el dispositivo de OpenAI. Tiene matices y es vago, pero probablemente habrá formas nuevas e interesantes en las que las personas aprendan a usar la IA cuando funcione de manera siempre activa y extremadamente rápida con la privacidad como característica clave..

Por supuesto, todavía no hemos llegado a la combinación correcta de modelos que puedan ejecutarse localmente y este tipo de funcionalidad de forma indefinida, al menos no sin un hardware importante y muy costoso (¡y acceso al código LLM correcto!). Pero sin duda es sólo cuestión de tiempo. Y probablemente puedas apostar a que OpenAI, que construye hardware supervisado por Jony Ive, quiere vencer a Apple en ese golpe en particular.

👇

Anteriormente, arriba Telescopio…

Entradas relacionadas

Meta presenta nuevas actualizaciones de compras con el modelo Muse Spark AI

Oak Thistle LLC reduce su participación en Meta Platform

Meta está desarrollando un duplicado de inteligencia artificial de Mark Zuckerberg

Acerca de Andy Yaipen