La encuesta de KFF muestra que tres de cada diez adultos recurren a las redes sociales o la inteligencia artificial para obtener información de salud, mientras que los adultos de bajos ingresos son más propensos a citar el costo y las barreras de acceso como la razón – The Monitor

Comprender el papel de la inteligencia artificial en la difusión y creación de malas investigaciones.

• Una correspondencia publicada en la lanceta en mayo identificaron más de 4.000 referencias inventadas en casi 2,5 millones de artículos biomédicos publicados entre 2023 y principios de 2026. Los investigadores encontraron que los artículos que contenían al menos una cita inventada se volvieron sustancialmente más comunes durante el período de estudio, pasando de aproximadamente uno de cada 2.800 artículos en 2023 a uno de cada 277 artículos a principios de 2026. Muchas de las referencias inventadas parecían legítimas, citaban a investigadores reales y eran publicaciones plausibles. años y títulos de artículos sobre temas específicos, pero señalaron estudios que no existían.
• Los autores señalan que se sabe que los grandes modelos de lenguaje (LLM) generan citas inventadas que parecen auténticas, y que el fuerte aumento de las referencias inventadas ha coincidido con el período posterior a la adopción generalizada de herramientas de inteligencia artificial generativa. Si bien el estudio no pudo determinar qué causó el aumento, los investigadores señalan que las referencias inventadas pueden surgir a través de múltiples rutas, incluidas citas generadas por IA, fábricas de papel y otras formas de mala conducta en la investigación.

Aquí está el panorama general:

• Los sistemas de inteligencia artificial pueden amplificar información inexacta o fabricada. Los modelos de lenguaje grandes a veces generan información que parece plausible pero sin fundamento o completamente falsa, un fenómeno a menudo llamado «alucinación». Un estudio de 2025 encontró que cuando se incluían términos médicos ficticios en preguntas de salud, los chatbots los procesaban en casi dos tercios de los casos, generando explicaciones y tratamientos para condiciones que no existen. Los investigadores demostraron una dinámica similar en un experimento que involucraba una afección cutánea ficticia llamada «bixonimanía». Después de cargar documentos falsos sobre la afección en un servidor de preimpresión, descubrieron que varios chatbots de IA destacados describían el trastorno inventado como real y, en algunos casos, recomendaban tratamiento médico. Los documentos falsificados fueron citados posteriormente en un artículo revisado por pares antes de ser retractados.
• Los sistemas de inteligencia artificial interactúan cada vez más con literatura científica que contiene investigaciones fraudulentas o poco confiables. Los investigadores han documentado la creciente presencia de “fábricas de papel”, operaciones que producen y venden manuscritos académicos fraudulentos. Un estudio en el interior BMJ Descubrieron que casi el 10% de los artículos de investigación sobre el cáncer mostraban signos de participación del molino, y el porcentaje aumentaba con el tiempo. Debido a que los sistemas de IA están entrenados en grandes volúmenes de contenido disponible públicamente, incluida la literatura científica, ha surgido la preocupación de que la investigación fraudulenta o de baja calidad pueda influir en la información que estos sistemas recuperan, resumen o generan. Algunas investigaciones han demostrado que incluso cuando los documentos fraudulentos representan solo el 0,01 % de los datos de entrenamiento de un sistema de IA, pueden contribuir a errores en hasta el 10 % de las respuestas.
• La IA generativa también está reduciendo las barreras para producir contenido científico convincente. Los investigadores han identificado manuscritos generados por IA que circulan a través de publicaciones académicas y bases de datos académicas, a veces sin revelar la asistencia de la IA. La capacidad de generar rápidamente textos, referencias y revisiones bibliográficas plantea la preocupación de que la IA pueda acelerar la producción de artículos que parezcan creíbles pero que contengan errores, afirmaciones sin fundamento o citas inventadas. Como resultado, algunos investigadores y editores exigen requisitos de selección, verificación de referencias y divulgación más rigurosos durante todo el proceso de publicación.

Por qué esto es importante: La inteligencia artificial está cada vez más involucrada en múltiples fases del ecosistema de información científica, desde la generación de contenidos y citas hasta la recuperación y síntesis de investigaciones publicadas. A medida que las referencias falsificadas, los documentos fraudulentos y otras formas de investigación de baja calidad se vuelven más difíciles de distinguir de los estudios legítimos, las debilidades en una parte del sistema pueden afectar a otras. Se están realizando nuevos esfuerzos para localizar fábricas de papel, verificar referencias y mejorar la confiabilidad de la IA, pero la gente ya está utilizando herramientas de IA para responder preguntas sobre salud.

Una mirada más cercana a nivel estatal: una encuesta de Nueva Jersey encuentra una amplia preocupación por la desinformación, más allá del uso de búsquedas y plataformas sociales

Una encuesta de Rutgers-Eagleton encargada por el Consorcio de Información Cívica de Nueva Jersey encontró que las preocupaciones sobre la desinformación están muy extendidas entre los votantes de Nueva Jersey: el 60% describe la difusión de información falsa o engañosa como un “problema muy grande” y otro 22% la llama un “problema moderadamente grande”. La encuesta también encontró que los habitantes de Nueva Jersey a menudo dependen de los canales digitales para obtener noticias, incluidos motores de búsqueda (77%), amigos y familiares (75%) y medios de noticias nacionales (71%). Al mismo tiempo, alrededor de un tercio de los votantes (34%) dijo que la cobertura de las noticias locales en su área ha disminuido en los últimos cinco años. Los investigadores de Rutgers observaron que la preocupación por la desinformación era compartida entre grupos demográficos y políticos, lo que sugiere un punto poco común de acuerdo bipartidista.

Por qué esto es importante: Los hallazgos son consistentes con la encuesta del público general de la KFF de 2023, que encontró que la gran mayoría de los adultos (83%) dice que la difusión de información falsa e inexacta en los Estados Unidos es un “gran problema”. Al mismo tiempo, la encuesta de Rutgers-Eagleton arroja luz sobre el papel que desempeñan los motores de búsqueda, las redes sociales y las conexiones interpersonales en la forma en que las personas acceden a la información y evalúan su credibilidad.