El año 2024, como probablemente ya sabrás, es un año electoral en 40 países. La acción electoral comenzará este mes en Taiwán y concluirá en noviembre en Estados Unidos. De hecho, Bloomberg Economics estima que el 41% de la población mundial elegirá nuevos líderes este año.
También sabemos que la IA generativa se muestra prometedora en muchas áreas de la vida, incluida la difusión de información errónea y deepfakes que podrían sesgar los resultados de muchas de estas contiendas por el liderazgo en el año electoral más importante de la historia.
2024, que ya está bajo escrutinio en 2023, es el año en que las grandes tecnológicas deben demostrar que pueden gozar de la confianza de los gobiernos, los ciudadanos y las empresas. Por lo tanto, no sorprende que IBM esté movilizando su posicionamiento en el mercado para abordar la cuestión de la IA responsable, y el IBM Institute for Business Value (IBV) declara que “nuestra investigación muestra que 2024 será el año en que los líderes empresariales necesitarán equilibrar la tecnología y la tecnología”. confianza. «
¿La falta de confianza frenará el gasto empresarial en IA?
Según el informe del IBV de IBM sobre Ética e IA responsable, “A nivel mundial, menos del 60% de los ejecutivos cree que su organización está preparada para la regulación de la IA y el 69% espera una sanción regulatoria debido a la adopción de la IA generativa.
Ante esta incertidumbre y riesgo, los directores ejecutivos están pisando el freno. Más de la mitad (56%) están retrasando inversiones importantes hasta tener claridad sobre los estándares y regulaciones de IA. En general, el 72% de los ejecutivos dice que sus organizaciones renunciarán a los beneficios generativos de la IA debido a preocupaciones éticas”.
Heather Gentile, directora de gestión de productos watsonx.governance, en IBM Data and AI Software, comenta que desde el lanzamiento de ChatGPT, las organizaciones han limitado sus políticas y procedimientos relacionados con la adopción de IA debido a preocupaciones éticas. Para desarrollar una IA responsable, las organizaciones necesitan tener métricas y controles.
Sin embargo, la gestión de riesgos es un desafío porque los proyectos normalmente se inician en áreas comerciales aisladas. La IA generativa introduce nuevos riesgos que incluyen alucinaciones, protección de datos PII, supresión del lenguaje soez, etc.
Las organizaciones necesitan mejorar su gobernanza para la IA generativa
IBM lanzó por primera vez su plataforma Watson en 2010, pero la aceptación de la tecnología en el mercado fue lenta en ese momento. El año pasado, IBM reformuló su capacidad Watson al presentar la plataforma watsonx, watsonx.ai y watsonx.data (que permite a la plataforma acceder a datos desde cualquier nube).
La compañía agregó recientemente watsonx.governance a esta cartera de watsonx, una adición que evalúa solicitudes y modelos para casos de uso. Está diseñado para modelar hechos y evaluar cómo cambia un modelo a lo largo del tiempo, controlando el equilibrio, la deriva y el riesgo y garantizando el cumplimiento normativo. Watsonx.governance está integrado en el flujo de trabajo de watsonx.ai, rastreando el ciclo de vida de la IA desde la solicitud de caso de uso, pasando por las pruebas de modelos hasta la evaluación continua del modelo. Tan pronto como llega una alerta de watsonx.governance, se envía al mensaje de ingeniería y el proceso de gobernanza se hace cargo automáticamente. Watsonx.governance viene con un inventario de plantillas para cumplir con los requisitos y controles para la gestión de riesgos y el cumplimiento en tiempo real.
Debido a que comprender el recorrido de los datos desde los sistemas de origen hasta el uso final es posiblemente tan importante, o más, como comprender los propios LLM, IBM ha fortalecido aún más watsonx.governance al adquirir Manta, que proporciona a IBM una forma de gobernar los datos que necesitan. alimentar a los modelos. Manta admite más de cincuenta escáneres y ofrece integración de catálogos (extrayendo datos en muchos catálogos). Puede realizar un linaje técnico de datos en términos de, por ejemplo, la sintaxis de las reglas, así como un linaje histórico en términos de cómo los datos de una tubería han cambiado con el tiempo.
Obviamente, una gobernanza exitosa requiere un amplio compromiso organizacional y herramientas, por lo que IBM Data and AI Software tiene claro que trabaja en estrecha colaboración con IBM Consulting para ayudar a los clientes a comprender su madurez en la adopción de IA generativa.
Para ser eficaz, una amplia variedad de partes interesadas debe participar en el desarrollo del enfoque responsable de una organización hacia la IA: todo el equipo de liderazgo debe comprometerse a promover las mejores prácticas para las diferentes partes interesadas, garantizando que los científicos de datos, los investigadores de operaciones, los administradores de aplicaciones, los desarrolladores y las máquinas. Los ingenieros de aprendizaje trabajan de acuerdo tanto con la ética organizacional como con la legislación externa.
Mi opinión
La capacidad de regular y gestionar el uso de la IA generativa será una enorme tendencia tecnológica en 2024, sobre todo porque los gobiernos, los organismos encargados de hacer cumplir la ley y las grandes plataformas de redes sociales vigilarán su uso ilícito para influir en los resultados electorales. Es comprensible que las empresas ya estén preocupadas por las responsabilidades a las que el uso de la IA podría hacerlas vulnerables, al tiempo que intentan equilibrar esto con las oportunidades competitivas que ofrece la tecnología.
IBM se encuentra en una posición interesante en este contexto, ya que tiene la ventaja de poseer tanto tecnología de inteligencia artificial como una gran división de servicios profesionales, lo que la diferencia de competidores como Microsoft y Google, por un lado, y Accenture y Deloitte, por otro. También tiene fama de ser cauteloso y conservador, lo que es bueno para muchos equipos empresariales que intentan navegar en la atmósfera algo febril que rodea la adopción de la IA generativa.
Por lo tanto, es posible que la cartera de Watsonx, combinada con la experiencia de IBM Consulting, dé nueva vida al viejo dicho corporativo de que nadie es despedido (demandado o multado) por comprar IBM.