Buenas ideas para el sector financiero y sus reguladores frente al avance de la IA
Hace unos meses el departamento del Tesoro de los Estados Unidos de Norteamérica publicó el documento «Managing Artificial Intelligence-Specific Cybersecurity Risks in the Financial Services Sector»(Gestión de riesgos específicos de ciberseguridad de la Inteligencia Artificial en el sector de los servicios financieros), el cual identifica oportunidades y riesgos de dicho sector frente al uso de la IA, me parece un interesante documento para analizar prácticas y los marcos normativos del sector financiero en la región.
La IA en los bancos
Los bancos y otras instituciones financieras llevan años usando IA, sobre todo para mejorar sus mecanismos de ciberseguridad y como una potente herramienta para la detección de fraude. Pero, con el avance de la tecnología, están buscando nuevas formas de sacarle provecho y ampliar su uso.
El documento menciona que la adopción de la IA generativa, se está haciendo con cautela, integrando estos riesgos en los sistemas que ya tienen para gestionar peligros.
Los riesgos de la IA
Ciberamenazas relacionadas con el uso de IA por actores malintencionados, producto del uso IA generativa que puede ser utilizadas por ciberdelincuentes para desarrollar malware más sofisticado y realizar ataques más efectivos, lo que les otorga una ventaja inicial al reducir el tiempo entre la identificación de vulnerabilidades y su explotación.
Riesgos de suplantación de identidad, la IA permite a los atacantes suplantar la identidad de empleados y clientes de instituciones financieras mediante técnicas avanzadas, como la generación de voces, videos y otros factores de autenticación biométrica. La creación de identidades sintéticas con IA puede ser usada para defraudar al sector financiero abriendo cuentas o solicitando créditos con identidades falsas
La IA puede ser vulnerable a ataques como la contaminación en ocasiones denominado envenenamiento de datos, esto es, modificar datos para engañar a los sistemas. Esto es un problema porque los sistemas de IA dependen mucho de los datos con los que se entrenan, al estar estos modificados su entrenamiento se ve afectado.
Además, los hackers también pueden usar IA avanzada para hacer ataques más complejos y rápidos, usando IA generativa para reducir el tiempo que tardan en aprovechar vulnerabilidades.
Colaboración para gestionar los riesgos
Para manejar adecuadamente bien los riesgos de la IA, es clave que diferentes equipos dentro de las instituciones trabajen juntos y que haya una colaboración sectorial, ya que esto permite mejorar la detección de fallas y/o anomalías.
Las instituciones más grandes tienen acceso a mayores volúmenes de datos y por lo tanto desarrollar modelos más sofisticados, información que le puede ser útil a instituciones más pequeñas con un menor volumen de datos.
La colaboración permite respuestas más rápidas a amenzasa emergentes, así como compartir buenas prácticas y estándares.
Aunque existen mecanismos para compartir información sobre amenazas, la coordinación en temas de protección contra fraudes aún es un desafío, especialmente para los bancos más pequeños.
Regulación y buenas prácticas
El documento analiza las normativas y regulaciones actuales en Estados Unidos y cómo es necesario ajustar los marcos de gestión de riesgos para cubrir los peligros de la IA.
Abuso en el uso de datos personales y privacidad, lo que requiere de regulaciones específicas en el uso de datos de entrenamiento de los modelos.
Falta de explicabilidad de los modelos en proceso de toma de decisiones automatizadas.
Se recomiendan algunas mejores prácticas, como integrar la gestión de riesgos de IA en los programas que ya existen y crear marcos de gestión de riesgos específicos para la IA.
El informe señala la importancia de crear un lenguaje común sobre la IA, cerrar la brecha de habilidades en el sector, así como coordinarse a nivel internacional para regular mejor el uso de la IA en las finanzas.
El documento identifica los riesgos que introduce la IA en el sector, pero a su vez identifica grandes oportunidades para mejorar la seguridad y detectar fraudes en el sector financiero.
