UE propone prohibir la vigilancia masiva con IA
La Unión Europea está a punto de dar un paso histórico en la regulación de la inteligencia artificial. Un borrador filtrado de la próxima legislación europea revela la intención de prohibir los sistemas de IA que supongan un “riesgo inaceptable” para los derechos fundamentales y valores de la UE.
Prohibiciones clave en la nueva regulación
La propuesta establece varias prohibiciones importantes que cambiarán el panorama del uso de la IA en Europa:
- Vigilancia indiscriminada: Se prohibirá el seguimiento y vigilancia automática de personas en entornos tanto digitales como físicos, así como el análisis automatizado de datos personales de múltiples fuentes.
- Sistema de puntuación social: Conocido como ‘social scoring’, este sistema que evalúa la credibilidad de las personas basándose en su actividad online quedará expresamente prohibido.
- Identificación biométrica: El reconocimiento facial en espacios públicos requerirá autorización especial y solo se permitirá a autoridades públicas para fines de seguridad.
Impacto en el ámbito laboral y social
La regulación también aborda el uso de la IA en contextos críticos como:
- Procesos de contratación laboral
- Evaluación de solvencia económica
- Sistemas que afecten la salud y seguridad de las personas
Según Gemma Galdón, experta en ética y tecnología, actualmente los algoritmos tienen un poder significativo en decisiones que afectan directamente nuestras vidas, desde el acceso a empleos hasta la evaluación de riesgos en casos de violencia de género.
El dilema del reconocimiento facial y la identidad
Un aspecto particularmente controvertido es el uso de la IA para predecir género y orientación sexual. Los expertos advierten que estos sistemas:
- Se basan en conceptos anticuados de identidad de género
- Pueden discriminar a personas trans y no binarias
- Utilizan parámetros poco fiables como peinado, maquillaje o estructura facial
El futuro de la regulación
Para implementar estas regulaciones, la UE planea:
- Crear un Consejo Europeo de Inteligencia Artificial
- Establecer multas de hasta el 4% de los ingresos para empresas que incumplan
- Desarrollar un marco de evaluación para sistemas de “alto riesgo”
La UE busca un equilibrio entre fomentar la innovación tecnológica y proteger los derechos fundamentales de sus ciudadanos, en un momento donde la carrera por el desarrollo de la IA se intensifica entre potencias como China y Estados Unidos.
Este marco regulatorio podría sentar un precedente global para el desarrollo ético de la IA, estableciendo límites claros que protejan la privacidad y los derechos fundamentales sin frenar la innovación tecnológica.
