La UNIDAD CORPORATIVA DE RIESGOS Y CUMPLIMIENTO de PAR SERVICIOS te envía el boletín de riesgos para abordar uno de los desafíos más dinámicos de la actualidad: la evolución de la regulación digital. Ante el surgimiento de la Inteligencia Artificial (IA) y el endurecimiento de leyes como la Ley 1581 de 2012 en Colombia y el RGPD en Europa, es vital que nuestra operativa adopte el principio de “Cumplimiento desde el diseño”.
¿Qué es la Complejidad Normativa en IA y Datos?
Es el riesgo derivado de la dificultad para seguir el ritmo de las nuevas leyes que regulan cómo las empresas recolectan datos y utilizan algoritmos. No cumplir con estas normas puede resultar en multas multimillonarias por parte de la Superintendencia de Industria y Comercio (SIC) y la inhabilitación para procesar información de clientes.
Formas en que se manifiesta el riesgo
- Uso de IA “Caja Negra”: Implementar herramientas de IA que toman decisiones sobre personas, por ejemplo, selección de personal o crédito, sin poder explicar el criterio lógico, lo que vulnera derechos de transparencia.
- Incumplimiento de la Ley 1581: Recolección de datos sensibles o personales sin autorización previa, expresa e informada, o sin contar con políticas de tratamiento actualizadas.
- Fugas de Datos por Terceros: El uso de herramientas de IA externas donde los datos corporativos pueden terminar siendo usados para “entrenar” modelos públicos, perdiendo la confidencialidad.
- Incompatibilidad Transfronteriza: Transferir datos a países que no cumplen con niveles adecuados de protección, violando estándares internacionales como RGPD/LGPD.
Tendencias a Nivel Mundial
- El “AI Act” de la Unión Europea marco integral IA: La primera ley integral del mundo que clasifica la IA por niveles de riesgo y prohíbe prácticas que vulneren derechos fundamentales. Es el referente para las leyes que vendrán a Colombia.
- Responsabilidad por Algoritmos: Las empresas ya están siendo sancionadas no solo por lo que hacen los humanos, sino por los errores o sesgos discriminatorios de sus sistemas automáticos.
- Soberanía de Datos: Un movimiento global hacia el almacenamiento local de la información para evitar que datos sensibles salgan de la jurisdicción nacional sin control.
Recomendaciones
- Privacidad y Cumplimiento desde el Diseño: Cualquier proyecto tecnológico o proceso nuevo debe integrar las reglas de protección de datos desde su planeación, no como un ajuste final.
- Evaluación de Impacto (PIA): Realizar auditorías preventivas antes de implementar herramientas de IA para identificar posibles sesgos o vulnerabilidades en el manejo de datos personales.
- Actualización de Manuales: Revisar constantemente el Manual Interno de Políticas y Procedimientos de Protección de Datos frente a las nuevas circulares de la SIC.
- Transparencia Algorítmica: Asegurar que cualquier uso de IA sea auditable y que siempre exista supervisión humana en las decisiones críticas.
“La tecnología corre rápido, pero nuestra integridad legal debe ir un paso adelante. El cumplimiento no es un obstáculo, es nuestra garantía de confianza.”
👉 Agenda aquí una reunión con nuestro Líder Unidad de Riesgos y Cumplimiento