9 de junio de 2026
3 min lectura
Primer caso documentado de arresto erróneo por reconocimiento facial. La tecnología falló, pero el sistema no tiene freno.
En enero de 2020, Robert Williams fue arrestado por error frente a su esposa e hijas. La causa: un software de reconocimiento facial vinculó su rostro con imágenes granuladas de un robo de relojes Shinola. Era la primera vez que un arresto injusto por IA quedaba documentado en EE.UU.
El caso de Williams no es aislado. La ACLU reporta más de una docena de arrestos erróneos similares donde la policía saltó directamente del resultado de la IA a una rueda de reconocimiento. Al presentar fotos donde el sospechoso elegido por el algoritmo aparece rodeado de rellenos que se parecen menos, los testigos eligen al señalado casi por inercia.
El problema no es solo la precisión del algoritmo —que ronda el 80% en condiciones ideales— sino el peso desproporcionado que se le da a su veredicto. Un estudio del Innocence Project señala que, una vez que la IA señala a alguien, los investigadores tienden a buscar pruebas que confirmen la hipótesis, ignorando evidencia exculpatoria.
“Una docena de arrestos erróneos documentados: cuando la IA señala, el sistema deja de buscar la verdad.
