El uso responsable de la Inteligencia Artificial parte de la idea de que la tecnología debe estar al servicio de las personas y no al revés, lo que implica utilizar sistemas de IA con criterios éticos, transparencia, supervisión humana y respeto a los derechos fundamentales, con el objetivo de aprovechar su potencial minimizando riesgos y evitando impactos negativos en las personas y en la sociedad.
Cabe destacar una serie de principios cuya aplicación práctica se irá analizando a lo largo del curso. En concreto, estos principios son:
1. IA centrada en el ser humano y respetuosa con los valores de la Unión Europea
La IA debe desarrollarse y utilizarse conforme a la dignidad humana, la libertad, la igualdad, la democracia, el Estado de Derecho y los derechos fundamentales.
- Ejemplo: Diagnóstico médico asistido por IA con supervisión del médico
En hospitales europeos se utilizan sistemas de IA para analizar imágenes médicas y detectar posibles tumores o anomalías. Sin embargo, la decisión final siempre corresponde al profesional sanitario. De esta forma se respeta la dignidad de la persona y se garantiza la supervisión humana en decisiones que afectan a la salud.
2. Supervisión y control humanos
Los sistemas de IA deben funcionar como herramientas al servicio de las personas y estar sujetos a control y vigilancia humana efectiva.
- Ejemplo: Vehículos autónomos con supervisión del conductor. Algunos sistemas avanzados de asistencia a la conducción utilizan IA para mantener el vehículo en el carril o controlar la velocidad. Sin embargo, el conductor debe permanecer atento y preparado para intervenir en cualquier momento.
3. Solidez técnica, seguridad y resiliencia
La IA debe ser técnicamente robusta, segura y resistente frente a fallos o usos indebidos, minimizando daños no deseados.
- Ejemplo: Sistema de IA utilizado por la Agencia Tributaria de España para detectar fraude fiscal.
Este sistema analiza grandes volúmenes de datos para identificar posibles irregularidades en declaraciones de impuestos. Para funcionar correctamente, debe cumplir estrictamente con la normativa de protección de datos personales, garantizar la seguridad de la información fiscal y asegurar que los datos utilizados sean correctos y fiables.
Además, el sistema está diseñado con medidas técnicas de seguridad para evitar accesos no autorizados y para proteger información sensible de los contribuyentes. Esto permite que la IA sea robusta, segura y fiable, minimizando errores y garantizando la integridad de los datos utilizados en el análisis.
4. Protección de la privacidad y de los datos
El desarrollo y uso de la IA debe respetar estrictamente la normativa de protección de datos y garantizar la calidad e integridad de la información tratada.
- Ejemplo: Caso Clearview AI, empresa estadounidense de reconocimiento facial. Esta empresa creó un sistema de inteligencia artificial capaz de identificar personas a partir de fotografías. Para entrenar su modelo, la empresa recopiló miles de millones de imágenes de rostros tomadas de redes sociales y páginas web públicas, como Facebook, Instagram o LinkedIn, sin el consentimiento de las personas afectadas.
Las autoridades europeas consideraron que este tratamiento de datos biométricos violaba la normativa de protección de datos, especialmente el Reglamento General de Protección de Datos (RGPD), ya que se trataba de datos especialmente sensibles y no existía una base legal para su uso.
Se llegaron a imponer sanciones económicas a la empresa y ordenaron que dejara de tratar los datos de ciudadanos europeos y eliminara la información recopilada.
5. Transparencia y explicabilidad
Los sistemas de IA deben permitir trazabilidad y explicaciones comprensibles sobre su funcionamiento y límites, informando a usuarios y personas afectadas.
- Ejemplo: Caso SyRI (System Risk Indication).
El gobierno neerlandés utilizó un sistema de inteligencia artificial para detectar posibles fraudes en ayudas sociales y prestaciones públicas. El sistema analizaba grandes cantidades de datos personales para identificar a personas consideradas de "alto riesgo".
El funcionamiento del algoritmo era opaco: las personas afectadas no sabían que estaban siendo evaluadas por el sistema ni podían conocer cómo se tomaban las decisiones ni qué criterios utilizaba el algoritmo. Esto impedía comprender o impugnar los resultados.
En 2020, un tribunal de los Países Bajos declaró ilegal el uso de este sistema porque vulneraba derechos fundamentales, especialmente el derecho a la privacidad y a la transparencia en las decisiones que afectan a las personas.
6. No discriminación, diversidad y equidad
La IA debe evitar sesgos injustos y efectos discriminatorios, promoviendo la igualdad de acceso y trato.
- Ejemplo: Amazon desarrolló una herramienta de IA para analizar currículums y ayudar en el proceso de selección de personal. El sistema fue entrenado con datos de contrataciones anteriores de la empresa.
El modelo aprendió patrones de los datos históricos, en los que predominaban candidatos masculinos en puestos tecnológicos. Como consecuencia, el sistema penalizaba automáticamente currículums que incluían referencias relacionadas con mujeres, como haber participado en asociaciones universitarias femeninas.
Al detectar este sesgo discriminatorio, Amazon decidió abandonar el sistema de IA en 2018, ya que no podía garantizar que las decisiones fueran justas y no discriminatorias.
7. Bienestar social y ambiental
El uso de la IA debe beneficiar a la sociedad en su conjunto y respetar el medio ambiente, evaluando sus impactos a largo plazo.
- Ejemplo: El entrenamiento de grandes modelos de IA, como los utilizados en sistemas de generación de texto o imágenes, requiere enormes centros de datos con miles de servidores funcionando durante largos periodos de tiempo. Este proceso puede consumir grandes cantidades de energía y recursos computacionales.
Diversos estudios han señalado que el entrenamiento de ciertos modelos avanzados de IA puede generar una huella de carbono significativa, comparable en algunos casos al consumo energético de miles de hogares durante un año. Esto plantea preocupaciones sobre su impacto ambiental. Esta situación muestra que el desarrollo de la inteligencia artificial también debe considerar sus efectos sobre el medio ambiente y el uso de recursos energéticos, evaluando su impacto a largo plazo para garantizar que la innovación tecnológica sea sostenible y beneficiosa para la sociedad en su conjunto.
8. Rendición de cuentas y responsabilidad
Debe existir responsabilidad clara por los efectos de los sistemas de IA y mecanismos de rendición de cuentas.
- Ejemplo: accidente del vehículo autónomo de Uber en Arizona (Estados Unidos) en 2018.
Uber estaba probando vehículos autónomos equipados con sistemas de inteligencia artificial capaces de detectar peatones y otros obstáculos en la carretera. Durante una de estas pruebas en la ciudad de Tempe, un vehículo autónomo atropelló a una mujer que cruzaba la calle con una bicicleta.
Las investigaciones revelaron que el sistema de IA había detectado a la persona, pero no interpretó correctamente el riesgo ni reaccionó a tiempo. Además, los sistemas de seguridad del vehículo estaban configurados de manera que reducían la intervención automática del sistema de frenado durante las pruebas.
El accidente provocó la suspensión de las pruebas de vehículos autónomos de Uber durante varios meses y abrió un debate internacional sobre quién es responsable cuando un sistema basado en inteligencia artificial falla: la empresa desarrolladora, el fabricante del vehículo o el operador humano.
Este caso demuestra la importancia de que exista una responsabilidad clara y mecanismos de rendición de cuentas en el desarrollo y uso de sistemas de IA, especialmente cuando su funcionamiento puede afectar directamente a la seguridad y a la vida de las personas.
