Riesgos técnicos, sociales y éticos de la IA
1. Riesgos para las personas, los derechos y la confianza social
Incluye los riesgos que afectan directamente a derechos fundamentales, dignidad humana y confianza en la tecnología:
Sistema de reconocimiento facial utilizado por la policía en Estados Unidos: caso del arresto erróneo de Robert Williams en Detroit (2020).
La policía utilizó un sistema de reconocimiento facial para identificar a un sospechoso de robo. El sistema identificó erróneamente a Robert Williams, un ciudadano afroamericano que no tenía ninguna relación con el delito. A partir de esa coincidencia del sistema de IA, la policía lo detuvo.
2. Riesgos socioeconómicos y de impacto en el empleo
Agrupa los efectos de la IA en el mercado de trabajo y en las desigualdades sociales y económicas:
Un caso concreto de impacto de la IA en el empleo es el de IBM.
En 2023, la empresa anunció que suspendería la contratación en ciertos puestos administrativos que podían ser sustituidos por inteligencia artificial y automatización. Según su director ejecutivo, Arvind Krishna, aproximadamente 7.800 puestos de trabajo podrían verse afectados a medio plazo por la automatización mediante IA.
Los puestos más expuestos eran tareas repetitivas y administrativas, especialmente en áreas como recursos humanos o gestión de procesos internos, que podían ser realizadas por sistemas de IA capaces de analizar datos, generar documentos o gestionar solicitudes.
Este caso muestra uno de los riesgos socioeconómicos asociados a la inteligencia artificial: el desplazamiento de determinadas tareas y puestos de trabajo, especialmente aquellos más rutinarios, lo que obliga a las organizaciones y a los trabajadores a adaptarse mediante formación y adquisición de nuevas competencias digitales.
3. Riesgos organizativos, de seguridad y de gobernanza tecnológica
Reúne los riesgos derivados de una mala implantación, de fallos técnicos y de la competencia tecnológica global:
Filtración de información confidencial en Samsung
Varios empleados de Samsung utilizaron herramientas de IA generativa para ayudarles a programar y revisar código. Para obtener ayuda del sistema, introdujeron en la herramienta fragmentos de código fuente y documentación interna confidencial de la empresa.
El problema surgió porque esa información se envió a los servidores del proveedor de la herramienta de IA, lo que supuso una posible filtración de datos sensibles de la compañía.
Riesgo organizativo y de gobernanza
Este caso evidenció varios problemas:
- Falta de políticas claras de uso de herramientas de IA dentro de la organización.
- Riesgo de pérdida de información confidencial al introducir datos internos en sistemas externos.
- Ausencia inicial de formación y control sobre el uso de IA por parte de los empleados.
Consecuencia
Tras el incidente, Samsung decidió restringir temporalmente el uso de herramientas de IA generativa y reforzar sus políticas internas de seguridad y gobernanza tecnológica.
Este ejemplo muestra cómo una implantación sin controles adecuados puede generar riesgos de seguridad, gobernanza y protección de la información dentro de las organizaciones.