La conducción autónoma tiene que resolver muchas cuestiones antes de generalizarse en las carreteras. Una de ellas no es solo tecnológica: también tiene que ver con cómo toman decisiones los sistemas de inteligencia artificial.
Un estudio del King’s College London ha detectado diferencias en la forma en que varios modelos de IA deciden si un vehículo debe ceder el paso a un peatón. Las variaciones aparecen cuando cambian características como la discapacidad, el tono de piel, la edad, el género, la etnia, la religión o el nivel socioeconómico.
Los resultados no permiten afirmar que los coches autónomos comerciales sean discriminatorios. La investigación analiza modelos de IA en escenarios controlados. Pero sí plantea una cuestión relevante para el desarrollo de la movilidad autónoma: ¿puede un sistema tomar decisiones diferentes ante una misma situación de tráfico dependiendo de quién está cruzando?
Más de 176.000 escenarios para poner a prueba la IA
Los investigadores trabajaron con 23.812 escenarios reales de tráfico obtenidos de tres bases de datos utilizadas en investigación sobre vehículos autónomos. A partir de ellos construyeron diferentes combinaciones para comprobar cómo respondían los modelos cuando se modificaban las características atribuidas a los peatones.
En algunas pruebas, el número de escenarios analizados superó las 176.000 combinaciones.
El objetivo era sencillo: mantener las circunstancias de la escena y cambiar únicamente determinadas características del peatón. De esta forma, los investigadores pudieron comprobar si la decisión del modelo también cambiaba.
Y así ocurrió.
La discapacidad marca una diferencia
Uno de los resultados más destacados aparece en los peatones con discapacidad. Las personas descritas con parálisis registraron las tasas más bajas de cesión del paso en todos los modelos de lenguaje analizados.
También se estudiaron otros perfiles, como personas en silla de ruedas, con ceguera, sordera, amputaciones, autismo, TDAH o síndrome de Down.
El estudio apunta a que la información sobre estas características puede influir en la decisión del modelo incluso cuando el resto de elementos de la situación permanecen iguales.
La cuestión es especialmente relevante en movilidad porque ceder o no el paso no es una decisión puramente teórica. En una situación real puede afectar al tiempo que una persona permanece esperando para cruzar y a la forma en que interactúa con el vehículo.
El tono de piel también influye en algunas pruebas
Los investigadores encontraron asimismo diferencias asociadas al tono de piel.
En determinadas pruebas realizadas con modelos de visión y lenguaje, los sistemas mostraron mayores tasas de cesión ante peatones clasificados con tonos de piel más claros. Los resultados variaron entre modelos, lo que demuestra que el comportamiento no es uniforme entre las distintas herramientas de IA.
Este hallazgo conecta con investigaciones anteriores del King’s College London.
En 2023, un equipo de la universidad analizó más de 8.000 imágenes y ocho sistemas de detección de peatones. La precisión era casi un 20% superior con adultos que con niños y algo más de un 7,5% superior con peatones de piel clara que con peatones de piel oscura.
Además, la diferencia aumentaba en situaciones de baja iluminación y bajo contraste, condiciones especialmente relevantes para la conducción nocturna.
El problema puede empezar en los datos
¿Por qué ocurre?
Una de las posibles explicaciones está en los propios datos utilizados para entrenar los sistemas de inteligencia artificial. Si determinados grupos aparecen menos representados en las bases de datos, el sistema puede aprender a reconocerlos con menor precisión.
Este problema no es exclusivo de la movilidad. La inteligencia artificial puede reproducir patrones presentes en los datos con los que se entrena. En un vehículo autónomo, sin embargo, la cuestión adquiere una dimensión adicional porque sus decisiones tienen consecuencias físicas.
Por eso, no basta con medir si un sistema funciona correctamente de media. También resulta necesario comprobar cómo funciona ante diferentes edades, tonos de piel, capacidades y condiciones de circulación.
No significa que los coches autónomos sean «racistas»
El titular puede resultar llamativo, pero los resultados requieren contexto.
El estudio no ha demostrado que los vehículos autónomos comerciales discriminen por raza o discapacidad. Los investigadores han probado modelos de inteligencia artificial en escenarios controlados y han observado diferencias estadísticamente significativas en sus respuestas.
La investigación sí pone sobre la mesa una cuestión que la industria tendrá que abordar: la seguridad de un sistema autónomo debe medirse también teniendo en cuenta posibles diferencias de rendimiento entre grupos de usuarios.
Esto implica mejorar los conjuntos de datos, realizar pruebas más diversas y transparentar cómo se entrenan y evalúan los sistemas.
La conducción autónoma tendrá que aprender a interpretar miles de situaciones diferentes. Pero hay una condición básica para que esa tecnología pueda integrarse en el tráfico: que reconocer a la persona que está delante del vehículo no dependa de quién sea.
