Al igual que el CEO de Google Deepmind Demis Hassabis, el CEO de Openi Sam Altman también se está lanzando y girando por la noche. Pero a diferencia de Hassabis, que atribuye sus preocupaciones a la posibilidad de que el envejecimiento llegue antes de que la compañía esté lista, Altman ha revelado que no había tenido «Una buena noche de sueño» Desde el comienzo de Chatgpt.
Mientras habla con el ex director de orquesta de Fox News Tucker Carlson en una entrevista reciente, el CEO de Openi ha indicado (a través de CNBC): «Escucha, no duermo tan bien por la noche. Hay muchas cosas en las que siento mucho peso, pero probablemente nada más que el hecho de que cada día cientos de millones de personas hablan con nuestro modelo».
El ejecutivo también reveló que no pone demasiado énfasis o preocupación para tomar errores grandes decisiones. En cambio, admitió haber perdido el sueño por decisiones muy pequeñas que afectan el comportamiento del modelo, ya que tienden a tener implicaciones importantes.
Altman reveló que estas decisiones tienen un fuerte impacto y determinan la ética que informa al CHATGPT. Esto incluye la interacción del usuario con el chatbot y, más específicamente, las preguntas y solicitudes que responderán o rechazarán claramente.
Esto sigue a varias relaciones recientes que destacan las relaciones complejas que los usuarios están formando con herramientas basadas en la inteligencia artificial. Como recordarán, Sam Altman observó que los usuarios atribuyen un nivel sorprendentemente alto de confianza en ChatGPT, a pesar de su tendencia al alucinado. «Debería ser la tecnología en la que no confía tanto», agregó.
¿Cómo abre Openi con los problemas de seguridad de ChatGPT?
Mirar
En los últimos meses, han surgido informes, citando las quejas en CHATGPT al alentar a los usuarios a suicidarse o su propio patrón. En agosto, una familia demandó a Openi después de decir que su hijo de 16 años, Adam Raine, se quitó la vida después de meses de aliento de Chatgpt.
La causa también indicó que la compañía de inteligencia artificial ha diseñado a través de los procesos de prueba de seguridad GPT-4O en un intento de llevar el producto al público más rápido. Una relación aparentemente separada ha corroborado las declaraciones de la causa, revelando que Openi ha presionado a su equipo de seguridad para que atraviese el nuevo protocolo de prueba para GPT-4O. Quizás más preocupante, según los informes, la compañía envió invitaciones a la fiesta de lanzamiento del producto incluso antes de que el equipo de seguridad comenzara a realizar pruebas en el modelo.
Operai admite que sus garantías son adecuadas solo para interacciones rápidas, ya que no están a la altura y se vuelven menos confiables durante las largas conversaciones. La compañía ha publicado recientemente una publicación de blog diseñada para ayudar a enfrentar algunos de estos problemas y potencialmente ayudar a los usuarios a pasar un período difícil al proporcionarles apoyo cuando son más vulnerables.
Cuando se le preguntó cómo Operai determina la ética y la moraleja de ChatGPT, el CEO Sam Altman indicó:
«Este es un problema realmente difícil. Ahora tenemos muchos usuarios y venimos de perspectivas de vida muy diferentes … pero en general me ha sorprendido gratamente la capacidad del modelo para aprender y aplicar una imagen moral».
El ejecutivo indicó que la compañía se centra en la alineación del modelo para decidir qué preguntas no deben responder al corazón con el mejor interés del usuario.
El ejecutivo reveló que la compañía ha explotado los servicios de «cientos de filósofos morales y personas que han pensado en la ética de la tecnología y los sistemas» para determinar las especificaciones de sus modelos.
Altman admitió que si bien la compañía ha implementado medidas elaboradas para mitigar algunos de estos problemas, aún requiere insumos del mundo para fortalecer sus esfuerzos.
