Los usuarios de la plataforma conversacional de inteligencia artificial ChatGPT descubrieron un fenómeno interesante durante el fin de semana: el popular chatbot se niega a responder preguntas sobre un «David Mayer». Pedirle que lo haga provoca que se bloquee inmediatamente. Han seguido teorías de conspiración, pero en el centro de este extraño comportamiento hay una razón más mundana.
El fin de semana pasado se corrió rápidamente la voz de que el nombre era venenoso para el chatbot, y cada vez más personas intentaban engañar al servicio para que simplemente reconociera el nombre. No hubo suerte: cualquier intento de hacer que ChatGPT deletree ese nombre específico hace que falle o incluso aborte el nombre intermedio.
«No puedo dar una respuesta», dice, si es que dice algo.

Pero lo que comenzó como una curiosidad puntual pronto floreció cuando la gente descubrió que no es sólo David Mayer a quien ChatGPT no puede nombrar.
Los nombres Brian Hood, Jonathan Turley, Jonathan Zittrain, David Faber y Guido Scorza también aparecieron bloqueando el servicio. (Sin duda se han descubierto más desde entonces, por lo que esta lista no es exhaustiva).
¿Quiénes son estos hombres? ¿Y por qué ChatGPT los odia tanto? OpenAI no respondió de inmediato a repetidas solicitudes, por lo que tenemos que armar las piezas nosotros mismos lo mejor que podamos.* (Ver actualización a continuación).
Algunos de estos nombres pueden pertenecer a cualquier número de personas. Pero un posible hilo común identificado por los usuarios de ChatGPT es que estas personas son figuras públicas o semipúblicas que pueden preferir que los motores de búsqueda o los modelos de inteligencia artificial “olviden” cierta información.
Brian Hood, por ejemplo, se destaca porque, suponiendo que sea el mismo tipo, escribí sobre él el año pasado. Hood, el alcalde australiano, acusó a ChatGPT de describirlo falsamente como autor de un crimen cometido hace décadas que, en realidad, había denunciado.
Aunque sus abogados se pusieron en contacto con OpenAI, nunca se presentó ninguna demanda. Como le dijo al Sydney Morning Herald a principios de este año, «El material ofensivo ha sido eliminado y han lanzado la versión 4, reemplazando la versión 3.5».

En cuanto a los propietarios más notables de los otros nombres, David Faber es un reportero de CNBC desde hace mucho tiempo. Jonathan Turley es un abogado y comentarista de Fox News que fue «golpeado» (es decir, una llamada falsa al 911 envió a la policía armada a su casa) a finales de 2023. Jonathan Zittrain también es un experto legal, con quien habló extensamente sobre el «derecho a ser olvidado.» Y Guido Scorza está en la junta directiva del Garante para la protección de datos personales.
No exactamente en la misma línea de trabajo, y ni siquiera una selección aleatoria. Es de suponer que cada una de estas personas es alguien que, por cualquier motivo, puede haber solicitado formalmente que se restrinja de alguna manera su información en línea.
Lo que nos lleva de nuevo a David Mayer. No hay ningún abogado, periodista, alcalde u otra persona obviamente notable con ese nombre que alguien pueda encontrar (con disculpas a los muchos respetables David Mayers que existen).
Sin embargo, hubo un profesor David Mayer, que enseñó teatro e historia, especializándose en las conexiones entre finales de la época victoriana y principios del cine. Mayer murió en el verano de 2023, a los 94 años. Sin embargo, durante años antes de eso, el académico británico-estadounidense había enfrentado problemas legales y en línea por asociar su nombre con un criminal buscado que lo usó como seudónimo, hasta el punto de que no podía viajar.
Mayer luchó continuamente por desambiguar su nombre del de terrorista manco, incluso mientras continuó enseñando hasta sus últimos años.
Entonces, ¿qué podemos concluir de todo esto? Nuestra suposición es que el modelo ha importado o proporcionado una lista de personas cuyos nombres requieren un tratamiento especial. Ya sea por razones legales, de seguridad, de privacidad u otras, es probable que estos nombres estén cubiertos por reglas especiales, al igual que muchos otros nombres e identidades. Por ejemplo, ChatGPT puede cambiar su respuesta si coincide con el nombre que usted escribió en una lista de candidatos políticos.
Existen muchas reglas especiales y cada solicitud pasa por varias formas de procesamiento antes de recibir una respuesta. Pero estas reglas de gestión posterior al procedimiento rara vez se hacen públicas, excepto en anuncios políticos como «el modelo no predecirá los resultados electorales de ningún compañero de fórmula».
Lo que probablemente sucedió es que una de estas listas, que casi con seguridad se mantienen activamente o se actualizan automáticamente, estaba de alguna manera corrompida con código o instrucciones defectuosos que, cuando se invocaban, causaban que el agente de chat fallara inmediatamente. Para ser claros, esto es solo nuestra especulación basada en lo que hemos aprendido, pero no sería la primera vez que una IA se comporta de manera extraña debido a señales posteriores al entrenamiento. (Por cierto, mientras escribía esto, «David Mayer» comenzó a funcionar nuevamente para algunos, mientras que los otros nombres seguían causando fallas).
Como suele ocurrir en estas cosas, se aplica la navaja de Hanlon: nunca atribuir a malicia (o conspiración) lo que se explica adecuadamente con estupidez (o error de sintaxis).
Todo este drama es un recordatorio útil de que estos modelos de IA no sólo no son mágicos, sino que también son extremadamente imaginativos, se autocompletan, son monitoreados activamente e interfieren con las empresas que los fabrican. La próxima vez que piense en obtener información de un chatbot, piense si sería mejor ir directamente a la fuente.
Actualizar: OpenAI confirmó el martes que el nombre «David Mayer» ha sido marcado por herramientas de privacidad internas, diciendo en un comunicado que «Puede haber casos en los que ChatGPT no proporcione cierta información sobre las personas para proteger su privacidad». La empresa no proporciona más detalles sobre las herramientas o el proceso.