Un enfoque responsable para ampliar y acelerar el impacto de la inteligencia artificial
Por Tarun Chopra, vicepresidente de gestión de productos, datos e inteligencia artificial de IBM
A medida que las empresas se apresuran a cumplir la promesa de la IA, es fundamental que se tomen el tiempo necesario para hacerlo bien. Cuando se implementan sobre una base de datos cuidadosamente gobernados, las herramientas de IA generativa de próxima generación pueden revolucionar la forma en que operan las empresas, transformando todo, desde el servicio al cliente hasta la TI y las finanzas, brindando a los usuarios astutos una sólida ventaja sobre la competencia. Sin embargo, si se manejan sin el debido cuidado, estas plataformas pueden llevar a las empresas por un camino de errores éticos, demandas y daños duraderos a su reputación.
La buena noticia: con el enfoque correcto, las empresas pueden ponerse al día rápidamente sin poner en riesgo sus negocios ni a sus clientes.
Innovación en medio de la regulación
Un estudio reciente encontró que el 80% de los líderes empresariales tienen preocupaciones éticas sobre la adopción de IA generativa.(1) Estas preocupaciones han llevado a legisladores de todo el mundo a presionar para que se regule su uso y se apliquen sanciones por su uso indebido. En junio, los políticos de la Unión Europea propusieron la Ley de IA de la UE con el objetivo de regular el desarrollo, uso y adopción éticos de la IA. La ley conlleva graves repercusiones para las empresas que cruzan sus fronteras, imponiendo una multa de 30 millones de euros o el 6% de los ingresos globales de la empresa.
Poco después, el presidente Biden emitió una orden ejecutiva que establecía nuevos estándares para la seguridad de la IA. Estas mociones regulatorias indican que regulaciones más estrictas afectarán el futuro de la IA y resaltan el hecho de que nunca ha sido más crítico hacerlo con una hoja de ruta basada en la explicabilidad, la ética y la confianza.
Construye con confianza
Para que los modelos de IA tengan éxito, deben entrenarse con datos cuidadosamente seleccionados y construirse con transparencia. Si los datos sobre los que se entrena un modelo son imperfectos o no hay transparencia sobre su procedencia, las empresas corren el riesgo de no poder validarlo como correcto y exacto, perpetuando el odio, la vulgaridad y el abuso, y sin poder explicar sus resultados. . Si el modelo de IA es una caja negra sin visibilidad de su función, los resultados finalmente se perderán.
La clave es la gobernanza: las organizaciones deben codificar un sistema de reglas, prácticas y procesos para utilizar la IA de acuerdo con sus valores, principios de equidad y seguridad, y la futura regulación de la IA. Es fundamental que las partes interesadas de toda la empresa estén alineadas en cuanto al alcance del uso de la IA y su aplicación con los objetivos empresariales.
Alineación de la misión
Con este fin, muchas empresas han establecido grupos o comités de políticas de IA (equipos multidisciplinarios que incluyen partes interesadas de equipos de asesoría al consumidor, legales, de ciberseguridad, privacidad y ciencia de datos) para supervisar el diseño y la implementación de la IA en su organización. El grupo de políticas debe establecer directrices sobre todo, desde los aspectos técnicos de la IA hasta los principios de ética y riesgo, y hacer que estas directrices sean accesibles en toda la organización. En IBM, lo nuestro Comité de Ética de IA realiza esta función.
Todo el ciclo de vida de la IA, desde la planificación hasta la implementación, debe documentarse rigurosamente. Esto incluye las fuentes de datos, las técnicas que entrenaron cada modelo, los hiperparámetros utilizados y las métricas de las fases de prueba. Esto ayudará a proporcionar visibilidad del comportamiento del modelo a lo largo de su ciclo de vida, incluidos los datos centrales del desarrollo del modelo y los posibles riesgos que pueden surgir de su uso.
Las organizaciones que no tienen los recursos y sistemas para formar un sistema de gobernanza de IA completamente desarrollado deberían aprovechar las asociaciones tecnológicas para aportar la experiencia y las herramientas necesarias para establecer principios, estrategias y mecanismos operativos de gobernanza de IA. Al aprovechar herramientas de gobernanza específicas, cualquier empresa puede emprender el viaje hacia la transformación de la IA con mayor velocidad y confianza garantizada.
Ir al trabajo
Al adoptar marcos de gobernanza sólidos, las organizaciones pueden comenzar a liberar el poder transformador de la IA en sus operaciones. Tomemos el ejemplo de una aplicación de servicio al cliente para una compañía de seguros: utilizando inteligencia artificial, la empresa puede agilizar los procesos de reclamaciones de seguros clasificando los comentarios positivos y negativos y resumiendo la información clave del cliente. Al automatizar este paso inicial, los agentes pueden responder más rápido y con mejor información, lo que reduce el tiempo que normalmente se dedica a las revisiones manuales.
Con la ayuda de un conjunto de herramientas de gobernanza de IA especialmente diseñadas, las empresas pueden proceder con mayor seguridad de que dichas aplicaciones se ejecutan de conformidad con las políticas éticas establecidas. Estas herramientas pueden monitorear la presencia de información de identificación personal y enviar alertas cuando dichos datos puedan representar un riesgo; pueden monitorear la deriva y relevancia de los modelos de lenguaje natural; y pueden crear paneles para brindar a las partes interesadas una mejor visibilidad sobre cómo funciona el modelo, ayudándolos a cumplir con las regulaciones de auditoría y cumplimiento.
La inteligencia artificial ya no es un experimento. Se espera que el mercado mundial de software de IA crezca de 66 mil millones de dólares en 2022 a casi 307 mil millones de dólares en 2027 a una tasa de crecimiento anual compuesta (CAGR) del 31,4%.(2), las empresas deben comenzar a integrarlo en toda su organización; de lo contrario, se enfrentarán a una desventaja competitiva insuperable. Las empresas que emprendan esta transformación con una sólida base de gobernanza no solo disfrutarán de la confianza de que se respeta su ética, sino que también serán un testimonio del verdadero potencial de la IA como catalizador confiable para el cambio.
(1) La guía del CEO sobre IA generativaInstituto IBM para el Valor Empresarial, agosto de 2023
(2) Pronóstico global de software de IA de IDC, 2023-2027
