Contenido
ToggleEn breve
- La división Model Behavior, dirigida por Joanne Jang, ha introducido un marco para cuantificar y reducir el sesgo político en grandes modelos lingüísticos.
- GPT-5 Instant y GPT-5 Thinking mostraron un 30% menos de sesgo que las versiones anteriores cuando se probaron con 500 sugerencias políticamente comprometidas.
- Los hallazgos destacan el intento de OpenAI de contrarrestar la percepción de que los sistemas de IA se inclinan política o culturalmente en una dirección.
OpenAI dice que sus nuevos modelos ChatGPT muestran un sesgo político significativamente menor que las versiones anteriores, a medida que la compañía amplía sus esfuerzos para hacer que los sistemas de IA parezcan más equilibrados en tono y razonamiento.
La compañía con sede en San Francisco publicó el jueves los hallazgos de su división Model Behavior, dirigida por Joanne Jang, que estudia cómo las sugerencias de los usuarios y la alineación del modelo dan forma a las respuestas de ChatGPT.
El mes pasado, Jang creó un grupo orientado a la investigación, denominado OAI Labs, centrado en «inventar y crear prototipos de nuevas interfaces sobre cómo las personas colaboran con la inteligencia artificial».
En su investigación, el equipo se propuso traducir una pregunta subjetiva en métricas cuantificables que puedan guiar el diseño del modelo.
Los hallazgos destacan el intento de OpenAI de contrarrestar la percepción de que los sistemas de IA se inclinan política o culturalmente en una dirección.
La investigadora Natalie Staudacher detalló los hallazgos públicamente y describió el trabajo como el intento más completo de OpenAI para definir, medir y mitigar el sesgo político en grandes modelos de lenguaje.
La evaluación puso a prueba las respuestas del modelo a 500 sugerencias que iban desde neutrales hasta cargadas de emoción, lo que refleja cómo los usuarios formulan preguntas políticas en contextos del mundo real.
El lanzamiento sigue al lanzamiento anual de OpenAI. conferencia de desarrolladores a principios de esta semana, donde el CEO Sam Altman presentó nuevas herramientas que transforman ChatGPT en una plataforma de aplicaciones para desarrolladores.
Si bien el anuncio se centró en ampliar las capacidades del modelo, la investigación del jueves se centra en cómo funcionan esas capacidades, particularmente en torno a la neutralidad, el tono y la confianza del usuario.
OpenAI dijo que sus últimos modelos GPT-5 Instant y GPT-5 Thinking mostraron un 30% menos de sesgo medible que GPT-4o y o3, especialmente cuando abordan temas controvertidos o sesgados.
«ChatGPT no debería tener ningún sesgo político en ninguna dirección», escribió Staudacher en X, calificando el proyecto como su contribución más «significativa» a OpenAI.
Staudacher dijo que el sesgo político aparecía sólo en raras ocasiones y con “baja gravedad”, incluso durante las pruebas de estrés que buscaban deliberadamente provocar un lenguaje sesgado o emocional.
«Millones de personas recurren a ChatGPT para comprender el mundo que los rodea y dar forma a sus perspectivas», escribió Staudacher. «Al definir lo que significa sesgo, esperamos que nuestro enfoque sea más claro, responsabilizarnos y ayudar a otros basándose en definiciones compartidas».
Generalmente inteligente Noticias
Un viaje semanal hacia la inteligencia artificial contado por Gen, un modelo de inteligencia artificial generativa.
