IA Pública, nueva puerta de fuga de datos para las empresas, según estudio

Bases de datos y documentos críticos terminan en plataformas abiertas, poniendo en riesgo a las compañías.

Por Revista Summa

El uso de la inteligencia artificial avanza como motor de productividad en América Latina; sin embargo, su adopción también plantea desafíos críticos en materia de ciberseguridad: el uso de datos internos, informes sensibles o documentos oficiales en plataformas de IA Generativa, abre la puerta a filtraciones de información confidencial, incrementando la exposición de empresas e instituciones frente al cibercrimen, alertó Claudio Martinelli, director general para las Américas en Kaspersky, y dijo que el uso de estas plataformas puede incluso derivar en una fuga masiva de información confidencial.

Hoy, los equipos de seguridad no solo tienen la presión de resguardas las redes  corporativas ante los 467,000 objetos maliciosos que se detectan diariamente, sino también, enfrentan una realidad asociada al uso de sistemas de IA por parte de los  empleados, quienes para ahorrar tiempo en sus tareas diarias, alimentan estas plataformas con reportes confidenciales, bases de datos o documentos y al hacerlo, comparten información a plataformas públicas que no garantizan ni la protección ni la privacidad de los datos

“Actualmente, el temor de las empresas también está relacionado con el uso que algunos empleados hacen de plataformas de IA Generativa, compartiendo en ellas datos confidenciales, es decir, usan inteligencia artificial sin inteligencia humana. No se trata de delegar todo a una herramienta, sino de entender los riesgos, cuidar la confidencialidad y entrenar a los empleados para que sepan cómo usar la IA”, destacó Claudio Martinelli.

Recientemente se ha detectado que los sistemas de IA Generativa pueden indexar las conversaciones que han tenido con los usuarios en algunos buscadores web, dejando expuestos los chats de algunas personas en temas íntimos como su vida privada o su salud mental, lo que abre la posibilidad a que también se registren y expongan, las consultas que los empleados hacen a estas plataformas con información sensible de una empresa.

Para que las empresas puedan hacer un desarrollo y despliegue seguro de los sistemas de Inteligencia Artificial, los expertos de Kaspersky recomiendan:

1. Capacitar a los empleados en ciberseguridad: es fundamental que todos los colaboradores tengan formación continua en seguridad digital. Existen herramientas diseñadas para desarrollar las habilidades de los colaboradores de todos los niveles.
2. Efectuar un modelado de amenazas y evaluación de riesgos: Antes de implementar soluciones de IA, se recomienda identificar los posibles escenarios de ataque y medir su impacto para anticipar incidentes. Kaspersky Threat Intelligence ofrece información actualizada sobre amenazas emergentes.
3. Contar con seguridad de la infraestructura y la nube: las configuraciones seguras y el monitoreo constante evita que vulnerabilidades técnicas sean aprovechadas por actores maliciosos.
4. Asegurar la cadena de suministro: Las empresas deben asegurarse de que sus proveedores cumplan con altos estándares de ciberseguridad, un eslabón débil en la cadena puede poner en riesgo información sensible y afectar la continuidad del negocio.
5. Realizar pruebas y validación de los sistemas: Todo modelo o aplicación de IA debe someterse a evaluaciones periódicas que verifiquen su funcionamiento y confiabilidad.
6. Llevar a cabo reportes de vulnerabilidades periódicos: Contar con mecanismos transparentes para la notificación y gestión de fallas para corregirlas rápidamente.
7. Tener una defensa contra ataques específicos a modelos de aprendizaje automático: Implementar medidas de protección especializadas es esencial para garantizar la integridad de estos modelos.
8. Asegurar actualizaciones: Mantener el software y la infraestructura actualizada con parches de seguridad es una práctica básica pero crucial para evitar incidentes.
9. Cumplir con estándares internacionales: Adoptar marcos normativos globales de ciberseguridad y protección de datos no solo garantiza legalidad, sino que también brinda confianza a clientes, socios e inversionistas.