La IA ya está presente en su organización. ¿Su sistema de gobernanza de la información está a la altura?
Lo sepas o no, ya estás interactuando con la inteligencia artificial. Te recomienda tu próximo programa, te sugiere un restaurante y, cada vez más, está influyendo en cómo tu organización recopila, gestiona y divulga datos confidenciales.
Esa última parte es donde reside el riesgo.
En un artículo en El asesor jurídico general de hoy, Roberto Kirtley — Experto afiliado de iDS en ciberseguridad, gobernanza y cumplimiento — desglosa los riesgos de privacidad que surgen en la intersección de la IA y la gobernanza de la información, y lo que los equipos legales deben comprender antes de que esos riesgos se conviertan en responsabilidades.
La promesa y el problema
La IA ofrece ventajas reales para las organizaciones que gestionan grandes volúmenes de datos confidenciales. El análisis del comportamiento, la detección de anomalías y las herramientas automatizadas de gestión de datos pueden ayudar a detectar amenazas en tiempo real, aplicar políticas de retención de datos y reducir el riesgo de que la información confidencial salga de la organización mediante capacidades de prevención de pérdida de datos (DLP).
Pero los mismos sistemas que protegen los datos también pueden exponerlos, y los riesgos son más inmediatos de lo que muchas organizaciones creen.
Kirtley identifica tres áreas principales de preocupación:
1. Recopilación de datos, consentimiento y fugas de datos.
Los sistemas de IA requieren grandes cantidades de datos para funcionar. Las organizaciones deben ser transparentes sobre qué datos se recopilan y cómo se utilizan, especialmente cuando se introducen en herramientas de IA de acceso público. Las investigaciones han revelado que herramientas como ChatGPT, Microsoft Copilot y Google Gemini son una fuente importante de fugas de datos confidenciales. Kirtley comparte un relato de primera mano de las pruebas realizadas por su propio equipo: cuando se enviaron historiales médicos anonimizados a una herramienta de IA, el sistema devolvió no solo diagnósticos, sino también nombres, información sobre centros médicos y detalles del personal médico de pacientes que no figuraban en el conjunto de datos introducido; información sanitaria protegida filtrada por la interacción previa de otra persona con el sistema.
2. Seguridad de los datos.
Una sólida seguridad interna no es suficiente. Las organizaciones también deben comprender cómo los proveedores externos (proveedores de nóminas, plataformas de software, cualquier socio que incorpore IA en sus servicios) utilizan y protegen los datos a los que tienen acceso.
3. Cumplimiento normativo.
El RGPD, la CCPA y normativas similares imponen obligaciones específicas en materia de transparencia, consentimiento y derecho a la supresión de datos. Con la IA, cumplir con estas obligaciones se vuelve mucho más complejo. Determinar cómo un sistema de IA de terceros utiliza los datos enviados —y mucho menos conseguir que se eliminen— puede resultar extraordinariamente difícil.
Por qué esto importa ahora
Kirtley describe la trayectoria de la IA con claridad: es probable que sea tan transformadora como internet. Y así como internet introdujo riesgos que las organizaciones tuvieron que aprender a gestionar, la IA exige el mismo enfoque disciplinado en materia de gobernanza: antes de que ocurran los incidentes, no después.
En iDS, este es precisamente el trabajo que apoyamos cada día. Nuestro Gobernanza de la información, Intimidad, y La seguridad cibernética Estas prácticas ayudan a las organizaciones a comprender su panorama de datos, gestionar el riesgo de forma proactiva y construir los marcos necesarios para utilizar la IA de manera responsable.
Para hablar con un experto de iDS sobre riesgos de IA, gobernanza de la información o privacidad de datos, visite idsinc.com.
iDS ofrece soluciones de datos de consulta a corporaciones y bufetes de abogados de todo el mundo, brindándoles una ventaja decisiva, tanto dentro como fuera de los tribunales. Los expertos en la materia y estrategas de datos de iDS se especializan en encontrar soluciones a problemas de datos complejos, garantizando que los datos puedan aprovecharse como un activo, no como un pasivo. Para obtener más información, visite idsinc.com.
¿Tienes problemas con algún término técnico utilizado en esta publicación? Consulta nuestra Glosario de Data Investigators para descifrar el código.
