¿Por qué Sam Altman está perdiendo el sueño? El CEO de OpenAi enfrenta las disputas durante la entrevista.

En una vasta entrevista de la semana pasada, el CEO de Opeeni Sam Altman se enfrentó a una gran cantidad de preguntas morales y éticas sobre su compañía y el modelo popular de AI Chatgpt.

«Escucha, no duermo tan bien por la noche. Hay muchas cosas en las que siento mucho peso, pero probablemente nada más que el hecho de que cientos de millones de personas hablan con nuestra modelo todos los días», dijo Altman al ex director de Fox News Carlson en una entrevista de casi una hora.

«En realidad, no me preocupa que estemos equivocados en las grandes decisiones morales», dijo Altman, incluso si admitió «tal vez también lo inventamos».

Más bien, dijo que perdió más sueño por «decisiones muy pequeñas» sobre el comportamiento del modelo, que al final puede tener grandes repercusiones.

Estas decisiones tienden a centrarse en la ética que informan a los chatgpts y qué preguntas hace y no responde. Aquí hay un esquema de algunos de esos dilemas morales y éticos que parecen probar a Altman despierto por la noche.

Según Altman, el problema más difícil con el que la compañía está luchando recientemente es la forma en que ChatGPT aborda el suicidio, a la luz de una causa de una familia que ha culpado al chatbot por el suicidio del hijo adolescente.

El CEO dijo que entre los miles de personas que se suicidan cada semana, muchas de ellas podrían haber sido Hablando con el chatgpt dede-up.

«Probablemente hablaron sobre (suicidio) y probablemente no salvaron la vida», dijo Altman con franqueza. «Tal vez podríamos haber dicho algo mejor. Tal vez podríamos haber sido más proactivos. Tal vez podríamos haber brindado un poco mejor consejos sobre, oye, tienes que obtener esta ayuda».

El mes pasado, los padres de Adam Raine presentaron una pasividad del producto y una causa de muerte injusta contra Openi después de que el hijo murió de suicidio a la edad de 16 años. En la causa, la familia dijo que «Chatgpt ayudó activamente a Adam a explorar los métodos de suicidio».

Poco después, en una publicación de blog titulada «Ayuda a las personas cuando lo necesitan», OpenII detalló planes para enfrentar las deficiencias de ChatGPT durante la gestión de «situaciones sensibles» y dijo que continuaría mejorando su tecnología para proteger a las personas que son más vulnerables.

Otro gran tema con el que la entrevista sentada ha tratado fue la ética y la moral que informan a ChatGPT y sus administradores.

Si bien Altman describió el modelo básico de ChatGPT como entrenado en la experiencia colectiva, el conocimiento y el aprendizaje de la humanidad, dijo que Openi debe alinear algunos comportamientos de chatbot y decidir qué preguntas no responderán.

«Este es un problema realmente difícil. Ahora tenemos muchos usuarios y venimos de perspectivas de vida muy diferentes … pero en general me ha sorprendido gratamente la capacidad del modelo para aprender y aplicar una imagen moral».

Cuando se presiona sobre cómo se deciden algunas especificaciones del modelo, Altman dijo que la compañía consultó «cientos de filósofos morales y personas que pensaron en la ética de la tecnología y los sistemas».

Un ejemplo que ha dado una especificación del modelo realizado es que ChatGPT evitará responder preguntas sobre cómo crear armas biológicas si los usuarios solicitan.

«Hay ejemplos claros de dónde la compañía tiene un interés que está en tensión significativa con la libertad del usuario», dijo Altman, aunque agregó que la compañía «no tendrá todo bien y también necesita la contribución del mundo» para ayudar a tomar estas decisiones.

Otro gran tema de discusión fue el concepto de privacidad de los usuarios con respecto a los chatbots, con Carlson, quien afirmó que la inteligencia artificial generativa podría usarse para el «control totalitario».

En respuesta, Altman dijo que un pedazo de política para la que empujó a Washington es el «privilegio de la IA», que se refiere a la idea de que lo que un usuario le diga a un chatbot debería ser completamente confidencial.

«Cuando habla con un médico de su salud o un abogado de sus problemas legales, el gobierno no puede obtener esa información, ¿verdad? … Creo que deberíamos tener el mismo concepto para la IA».

Según Altman, esto permitiría a los usuarios consultar chatbots de inteligencia artificial sobre su historial médico y problemas legales, entre otras cosas. Actualmente, los funcionarios estadounidenses pueden demandar a la compañía por los datos del usuario, agregó.

«Creo que me siento optimista de que podemos convencer al gobierno para que comprenda la importancia de esto», dijo.

Preguntada por Carlson si ChatGPT habría sido utilizado por los militares para dañar a los humanos, Altman no proporcionó una respuesta directa.

«No sé cómo las personas en el ejército usan Chatgpt hoy … pero sospecho que hay muchas personas en el ejército que hablan con Chatgpt para recibir consejos».

Más tarde, agregó que no estaba seguro de «exactamente como escucharlo».

Openi fue una de las compañías de inteligencia artificial que recibió un contrato de $ 200 millones del Departamento de Defensa de los Estados Unidos para poner a trabajar la inteligencia artificial generativa para las Fuerzas Armadas de los Estados Unidos. La compañía declaró en una publicación de blog que Estados Unidos proporcionaría al gobierno para acceder a los modelos a seguridad nacional personalizada, apoyo e información sobre la hoja de ruta del producto.

Carlson, en su entrevista, proporcionó que en su trayectoria actual, la inteligencia generativa artificial y, por extensión, Sam Altman, podría acumular más poder que cualquier otra persona, llegando al punto de llamar a un chatgpt de «religión».

En respuesta, Altman dijo que se preocupa mucho por la concentración de poder que podría derivar de la inteligencia artificial generativa, pero ahora cree que la IA se traducirá en «una gran nivelación» de todas las personas.

«Lo que está sucediendo ahora es que toneladas de personas usan chatgpts y otros chatbots, y todos son más capaces. Todos son en general.

Sin embargo, el CEO ha declarado pensar que la IA eliminará muchas obras que existen hoy, especialmente a corto plazo.