Por revistaeyn.com
Las ventajas de la inteligencia artificial generativa (IA) tienen una otra cara de la moneda, como los errores de código, la infracción de los derechos de autor, el sesgo perpetuado y, lo que más preocupa a las organizaciones, las fugas de datos.
La mayoría de las empresas (77 %) informan de pilotos de IA de generación exitosos, según una encuesta reciente de Alteryx, pero el 80 % cita las preocupaciones sobre la privacidad y la seguridad de los datos como los principales desafíos para escalar la IA.
Mientras tanto, el 45 % de las organizaciones se encontraron con una exposición no intencionada a los datos al implementar soluciones de IA, según el Informe de Gestión de la Información e IA 2024 de AvePoint.
La filtración de 38 terabytes de datos por parte de Microsoft AI a finales del año pasado es solo un ejemplo de la magnitud que puede llegar a ser este problema.
"La IA ciertamente ha amplificado y acelerado algunos de los desafíos que vemos en torno a la gestión de datos", dijo Dana Simberkoff, directora de riesgo, privacidad y seguridad de la información de AvePoint, que proporciona tecnología para ayudar a las organizaciones a administrar, migrar y proteger sus datos en la nube y en las instalaciones.
Simberkoff explica que gran parte de esta información filtrada son datos no estructurados que se encuentran en espacios de colaboración, sin protección, pero sin descubrir previamente debido a la dificultad de encontrarlos.
Arvind Jain, CEO y cofundador de la plataforma de búsqueda empresarial Arvind, dice que existe una inmensa presión sobre los directores de información y los roles relacionados para implementar la IA, lo que deja mucho margen de error en la carrera hacia la modernidad.
"Era muy difícil encontrar algo. Nadie sabe dónde buscar", dijo Jain. "Eso es lo que la IA cambia fundamentalmente. Ya no tenemos que ir a buscar a ningún lado. Solo tienes que hacer una pregunta".
Jain dice que la mayoría de los datos empresariales tienen cierto nivel de privacidad, y que los permisos que no están respaldados dejan la información crucial sin ataduras.
Si bien su propia plataforma de búsqueda opera teniendo en cuenta los permisos de la organización, depende de los líderes administrar sus datos antes de aumentarlos con IA.
No solo hay que preocuparse por la información de identificación personal de clientes y empleados que se escapa más allá de las paredes de la organización.
Desde la carta de despido de un exempleado hasta discusiones confidenciales sobre fusiones y adquisiciones, hay innumerables tipos de documentos confidenciales que pueden causar problemas si las partes equivocadas dentro de una organización acceden a ellos. Ya sea que se trate de la insatisfacción de los empleados, la capacitación interna o algo intermedio, los riesgos son tangibles.
Incluso sin IA, esa información que se filtraría sigue sin protección. "No saber nunca es mejor", dijo Simberkoff. "Arrojar luz sobre esos datos oscuros, de repente, ahí están, y ya no se pueden ignorar".
Con información de CNBC
