¿La tecnología está arruinando la democracia? Aparecen dos nuevos libros.

Mientras Estados Unidos se prepara para las elecciones presidenciales del 5 de noviembre, en las que hay mucho en juego, han aumentado los temores sobre la posibilidad de que la tecnología interrumpa la votación. Las preocupaciones sobre las redes sociales y su papel en la difusión de desinformación –estimuladas por los adversarios de Washington– han sido objeto de debate público durante una década, pero los funcionarios advierten que los esfuerzos de injerencia de China, Irán y Rusia han tenido una tendencia excesiva en las elecciones de 2024.

Uno de los mayores temores es el impacto de la inteligencia artificial, particularmente los modelos de lenguaje grandes, como el GPT-4 de OpenAI, que puede generar texto, audio y video bajo demanda y amenaza con impulsar la desinformación. Si bien no hay evidencia concluyente de que alguna de las docenas de elecciones celebradas en lo que va de año haya estado influenciada por información errónea generada por IA, el científico y experto en IA Gary Marcus dice que es un desastre a punto de suceder.

Mientras Estados Unidos se prepara para las elecciones presidenciales del 5 de noviembre, en las que hay mucho en juego, han aumentado los temores sobre la posibilidad de que la tecnología interrumpa la votación. Las preocupaciones sobre las redes sociales y su papel en la difusión de desinformación –estimuladas por los adversarios de Washington– han sido objeto de debate público durante una década, pero los funcionarios advierten que los esfuerzos de injerencia de China, Irán y Rusia han tenido una tendencia excesiva en las elecciones de 2024.

Uno de los mayores temores es el impacto de la inteligencia artificial, particularmente los modelos de lenguaje grandes, como el GPT-4 de OpenAI, que puede generar texto, audio y video bajo demanda y amenaza con impulsar la desinformación. Si bien no hay evidencia concluyente de que alguna de las docenas de elecciones celebradas en lo que va de año haya estado influenciada por información errónea generada por IA, el científico y experto en IA Gary Marcus dice que es un desastre a punto de ocurrir.

«Estoy seguro de que veremos más desinformación generada por IA en las próximas elecciones estadounidenses», dijo Marcus. Política exterior. Los primeros ejemplos preocupantes del ciclo electoral de este año incluyen una llamada automática falsa en enero que utilizó la voz del presidente Joe Biden para disuadir a los votantes de acudir a las urnas durante las primarias demócratas de New Hampshire y un vídeo falso que los funcionarios atribuyeron a Rusia la semana pasada, que muestra a un trabajador electoral en Pensilvania destruyendo boletas.

“Podría estar dispuesto a aceptar que vimos menos de lo que esperaba. Pero estamos viendo algo de eso, y sólo se necesita una elección reñida para que esto revoque esto para socavar realmente la naturaleza de la democracia”, dijo Marcus. «Creo que sería una tontería decir: ‘Bueno, todavía no ha habido ningún desastre importante, así que estamos bien aquí’. Eso es como decir que hemos construido muchos barcos de vapor, así que este es invencible y, ¡ups!, te has topado con un iceberg.

Marcus dijo que la elección de este año es parte de lo que lo motivó a escribir y publicar muy rápidamente su nuevo libro, Domar Silicon Valley: cómo nos aseguramos de que la IA funcione para nosotros. «Quería que la gente se diera cuenta, mientras se celebraban las elecciones, de que la política sobre IA es realmente importante», dijo. «Hemos arruinado las redes sociales y no podemos darnos el lujo de hacer lo mismo con la inteligencia artificial».

El libro de Marcus describe el estado actual de la IA, centrándose en particular en la IA generativa que impulsa los grandes modelos lingüísticos y los principales riesgos que plantea para la sociedad. Dedica mucho tiempo a advertir sobre la influencia de las grandes tecnologías en la política y los peligros de que el gobierno dé demasiada libertad a jugadores arraigados como Google, Meta, Microsoft y OpenAI sin controlarlos.

Hoy en día hay más debate público sobre las barreras de la IA que en los primeros días de las redes sociales, cuando los políticos no reconocían los daños de la tecnología.

El año pasado, Marcus testificó ante el Congreso junto al CEO de OpenAI, Sam Altman, destacando los riesgos de la tecnología, y Altman dijo que acogía con agrado la regulación y la supervisión independiente, aunque Marcus dijo más tarde que el comportamiento posterior de Altman y el lobby de OpenAI contra la regulación europea de la IA sugieren lo contrario. («Cada vez está más claro que el tipo de cosas que (Altman) dijo cuando estábamos hombro con hombro en el Senado no son del todo precisas», dijo Marcus. Política exterior.)


Domar Silicon Valley: cómo podemos hacer que la IA funcione para nosotros, Gary Marcus, The MIT Press, 240 págs., 0,95, septiembre de 2024; El golpe tecnológico: cómo salvar la democracia de Silicon Valley, Marietje Schaake, Princeton University Press, 336 págs., 0,95, septiembre de 2024.
Domar Silicon Valley: cómo podemos hacer que la IA funcione para nosotros, Gary Marcus, The MIT Press, 240 págs., 0,95, septiembre de 2024; El golpe tecnológico: cómo salvar la democracia de Silicon Valley, Marietje Schaake, Princeton University Press, 336 págs., 0,95, septiembre de 2024.

Domar Silicon Valley: cómo nos aseguramos de que la IA funcione para nosotrosGary Marcus, MIT Press, 240 págs., 18,95 dólares, septiembre de 2024; El golpe tecnológico: cómo salvar la democracia de Silicon ValleyMarietje Schaake, Princeton University Press, 336 págs., 27,95 dólares, septiembre de 2024.

Pero Marcus dijo que los políticos todavía corren el riesgo de cometer los mismos errores.

“No se puede permitir la captura regulatoria donde las grandes empresas establecen las reglas. Es necesario monitorear la situación y las malas prácticas pueden arraigarse tanto cultural como legalmente”, afirmó. Su libro enumera una serie de posibles soluciones a los problemas con el desarrollo y la regulación de la IA, incluidas las protecciones de la privacidad, una mayor alfabetización en IA y una agencia de gobernanza de IA sólida tanto en los EE. UU. como a nivel mundial.

«Creo que Washington todavía está esclavizado por Silicon Valley y lo toma como lo que es», añadió Marcus. «Washington necesita despertar y darse cuenta de que, de hecho, Silicon Valley se encuentra en medio de una enorme toma de poder».

Esta toma del poder es el énfasis de otro libro publicado en septiembre: el de Marietje Schaake El golpe tecnológico: cómo salvar la democracia de Silicon Valley. Basándose en sus décadas de experiencia como miembro del Parlamento Europeo hasta 2019 y su carrera pospolítica como miembro del Cyber ​​​​Policy Center de la Universidad de Stanford y del Institute for Human-Centered AI, Schaake sostiene que la rápida digitalización de nuestras vidas ha dejado a las empresas privadas como proveedoras de derechos y servicios tradicionalmente garantizados por los gobiernos, pero sin la necesaria rendición de cuentas.

Los gobiernos, escribe, han “subcontratado” voluntariamente estas funciones clave a un puñado de directores ejecutivos poderosos. En el libro abundan los ejemplos: Amazon supervisa más de un tercio de la capacidad mundial de computación en la nube, Palantir es el proveedor preferido de al menos una docena de sistemas de datos gubernamentales y la red de plataformas de medios sociales de Meta ha tenido una profunda influencia en la economía global. discurso.

«El enorme poder de las empresas tecnológicas… daña la democracia», dijo Schaake en una entrevista con Política exterior. “Con demasiada frecuencia esta perspectiva se pierde en una avalancha de incidentes que son todos muy importantes e incluso urgentes de resolver, pero que en cierto sentido nublan la visión del panorama general. Quería incluir ese desafío en una perspectiva más amplia en lugar de hablar de desinformación, ciberataques o interferencia electoral”, añadió.

No se trata sólo de los gigantes tecnológicos. Schaake señala que la infraestructura tecnológica fundamental que hace funcionar nuestra vida diaria, desde cables submarinos hasta centros de datos y chips semiconductores, está controlada por empresas privadas, sin mencionar el software espía y el software de reconocimiento facial.

Si bien acoge con agrado el debate antimonopolio sobre los monopolios tecnológicos que ha cobrado impulso en ambos lados del Atlántico en los últimos años, cree que la mejor manera para que los gobiernos traten con estas empresas sería pensar en el daño que causan a la democracia misma, en lugar de simplemente daños económicos.

«Las empresas de software espía son increíblemente poderosas, impactantes y antidemocráticas, pero no alcanzarían el umbral antimonopolio», explicó Schaake. «Al identificarlos como personas que tienen un poder social significativo, deberían ser posibles intervenciones que actualmente no existen bajo un mismo techo».

Hay pocos mejores ejemplos de los temores de Schaake que el hombre más rico del mundo. Elon Musk tiene un nivel de influencia geopolítica que ni siquiera sus pares ultrarricos pueden reclamar: tanto el esfuerzo bélico de Ucrania contra Rusia como el programa espacial estadounidense dependen cada vez más de su empresa SpaceX, y ha utilizado el megáfono algorítmico por 44 mil millones de dólares. comprado en forma de Twitter (ahora X) para intentar que el expresidente Donald Trump regrese a la Casa Blanca. Pero Schaake cree que es un error centrarse en Musk o en cualquier otro multimillonario tecnológico.

«Elon Musk parece único, pero no lo es», afirmó. «Los actores privados en el ámbito digital tienen demasiado poder no contabilizado, y esto es perjudicial para la democracia en general».

Hay señales de que los gobiernos están respondiendo al poder tecnológico, incluido el propio Musk. Brasil prohibió brevemente X a principios de este año debido a la negativa de Musk a bloquear cuentas acusadas de difundir información errónea en el país. Y esta medida se produjo poco después de que el fundador de Telegram, Pavel Durov, fuera arrestado en Francia por no hacer lo suficiente para frenar el contenido ilegal en la plataforma.

Sin embargo, estos siguen siendo ejemplos aislados, y gran parte de la voluntad política global para actuar podría estar determinada por el resultado de las elecciones de la próxima semana. Trump ha insinuado que podría poner a Musk a cargo de un organismo de “eficiencia gubernamental” que le daría al multimillonario poder político explícito, y el candidato republicano a la vicepresidencia, J.D. Vance, ha sugerido retirarse de la OTAN si Europa regula las empresas de Musk.

«Este tipo de influencia de ida y vuelta entre el poder geopolítico de Estados Unidos y el poder privado de Musk, y presumiblemente de otros, es inaudito», dijo Schaake. “Con (la candidata demócrata y vicepresidenta) Kamala Harris, no sabemos mucho; espero que ella realmente vea esto como un tema clave para todo lo que debería preocupar al Partido Demócrata y a ella misma para controlar realmente el enorme poder de las empresas tecnológicas”.

Independientemente de los resultados de las elecciones, Schaake dijo que el mundo necesita un replanteamiento más amplio de la relación entre los gobiernos y las empresas tecnológicas.

«Mi crítica a los gobiernos democráticos es que no han utilizado su legitimidad y su primacía para crear un marco global -o incluso no global- en torno a las tecnologías de gobierno», dijo. “Si las autoridades deciden golpear la mesa con los puños, aún pueden tener mucho poder”.