Por Philipp Haugwitz - COLUMNISTA E&N, socio y líder de McKinsey Digital México.
En un entorno tecnológico de rápida evolución, la Inteligencia Artificial Generativa (Gen IA) destaca como una herramienta transformadora con impacto significativo en la innovación, el crecimiento y la productividad de la región.
Estudios de McKinsey sugieren que la IA y la IA Generativa podrían añadir hasta US$4,4 billones en valor económico a nivel mundial.
Aunque muchos líderes empresariales están decididos a aprovechar este valor, reconocen que las oportunidades de la IA Generativa no están exentas de riesgos.
En una encuesta reciente a organizaciones líderes, McKinsey descubrió que el 63% clasifica la implementación de la IA Generativa como una prioridad “alta” o “muy alta”; sin embargo, el 91% no se sienten “muy preparados” para hacerlo de manera responsable.
Los riesgos asociados con la IA Generativa abarcan desde resultados inexactos y sesgos en los datos de entrenamiento, hasta desinformación a gran escala, ataques cibernéticos y la influencia maliciosa en política y bienestar personal.
No obstante, para enfrentar estos desafíos, los líderes pueden seguir los siguientes 4 pasos para adoptar un enfoque estructurado de implementación:
Paso 1: Análisis de riesgos. Para las empresas, es recomendable actualizar las evaluaciones de riesgo regularmente, ya que esta tecnología puede aumentar las amenazas de fraude y ciberseguridad, como un mayor volumen y sofisticación de ataques de malware habilitados por la IA Generativa.
Para la mayoría, será importante actualizar este ejercicio al menos cada seis meses hasta que el ritmo de cambio se haya moderado y los entornos de control y defensas hayan madurado.
Paso 2: Visión integral (riesgos materiales y herramientas de gestión). Una vez identificados los riesgos potenciales, deberán desarrollar una comprensión detallada de éstos, en diversos dominios y casos de uso.
Esto implica categorizar los riesgos según su gravedad y probabilidad, para luego elaborar un conjunto de herramientas de gestión de riesgos que incluyan medidas técnicas y no técnicas.
Las medidas técnicas pueden incluir el desarrollo de nuevas herramientas de monitoreo de IA o la mejora de técnicas de encriptado de datos, mientras que las medidas no técnicas podrían abarcar el establecimiento de protocolos más estrictos para el uso e intercambio de datos.
El objetivo es crear un marco robusto que pueda adaptarse dinámicamente a la naturaleza cambiante de la tecnología y sus aplicaciones en el ecosistema empresarial.
Paso 3: Estructura de gobierno para la toma de decisiones con rapidez. Las organizaciones deben establecer una estructura que no solo abarque el conocimiento y la supervisión, sino que también apoye los procesos ágiles de toma de decisiones.
Esto podría implicar adaptar los marcos de gobierno existentes para incluir consideraciones específicas de la IA Generativa, como comités especiales o grupos de trabajo enfocados en temas relacionados con la IA.
Estos grupos serían responsables del monitoreo de las implementaciones de IA, la evaluación de nuevos riesgos a medida que surgen y, la garantía del cumplimiento de políticas internas y regulaciones externas.
Paso 4: Estructura de gobierno en un modelo operativo que incluya capacitación. El paso final implica integrar el marco de gobierno en el modelo operativo más amplio de la organización, alineando la estrategia de IA Generativa con los objetivos comerciales generales, y garantizar que todos los empleados comprendan sus roles en la implementación.
Se pueden desarrollar programas de capacitación para educar al talento sobre los riesgos potenciales y las consideraciones éticas asociadas con la IA Generativa.
Además, el modelo operativo debe facilitar la colaboración entre departamentos para fomentar una cultura de transparencia y rendición de cuentas en el uso de IA.La IA tiene el potencial de redefinir cómo trabajamos y vivimos, pero su rápido desarrollo conlleva riesgos.
Para una aplicación segura y responsable, líderes empresariales en Centroamérica deben integrar una gestión de riesgos eficaz desde el inicio