Vinilo generado por IA logró confundir un sistema automático de reconocimiento vehicular
Un Toyota Yaris modelo 2009 consiguió evadir la clasificación de una cámara Flock durante una demostración pública realizada en Def Con, en Las Vegas. El vehículo estaba cubierto con un vinilo de diseño caótico, similar a la publicidad de un restaurante de comida rápida.
La prueba fue desarrollada por Bill Swearingen, investigador de ciberseguridad y fundador de SIXCYBER. Su proyecto, denominado noRecognition, utiliza inteligencia artificial para crear patrones adversariales: imágenes diseñadas para resultar normales o desordenadas para las personas, pero difíciles de interpretar para los sistemas de visión computacional.
Swearingen indicó que realizó aproximadamente 31 millones de pruebas antes de aplicar el diseño al vehículo. Durante el experimento, la cámara podía registrar visualmente el automóvil, pero no lo clasificaba de forma confiable como un coche.
Cómo funcionan estos sistemas
Las cámaras Flock no se limitan a leer placas de circulación. También pueden analizar características como:
- Marca y modelo.
- Color y tipo de carrocería.
- Daños visibles.
- Portaequipajes.
- Calcomanías y otros elementos externos.
Esta capacidad permite identificar vehículos incluso cuando la placa no es visible. Por ello, el resultado de la prueba resulta relevante: el vinilo no hizo desaparecer el automóvil ni bloqueó completamente la imagen, sino que afectó una etapa previa del análisis, en la que el sistema debía determinar qué objeto estaba observando.
El caso evidencia una posible vulnerabilidad en los modelos de detección basados en inteligencia artificial. Estos sistemas dependen de patrones visuales y pueden producir errores cuando reciben estímulos diseñados específicamente para alterar su clasificación.
Un problema que también afecta a los lectores de placas
El periodista Benn Jordan mostró una técnica similar mediante una calcomanía transparente que permanecía legible para una persona, pero dificultaba que el software identificara correctamente los caracteres de una placa.
Ambos ejemplos pertenecen a la categoría de ataques adversariales. Su impacto potencial va más allá de los vehículos: la misma lógica puede afectar sistemas de seguridad, control de acceso, reconocimiento de objetos y análisis automatizado de imágenes.
Sin embargo, estas técnicas no garantizan que un vehículo pase inadvertido. El resultado puede variar según el modelo de cámara, la iluminación, el ángulo, la distancia y las actualizaciones del software. Además, intentar interferir con sistemas de vigilancia o identificación vehicular puede infringir la legislación local.
El principal valor de estas demostraciones es mostrar que los sistemas automatizados de reconocimiento no son infalibles. Para reducir el riesgo, los operadores deben combinar distintos sensores, realizar verificaciones humanas y evaluar sus modelos frente a patrones adversariales antes de utilizarlos en tareas de seguridad o control vehicular.
