La historia del derecho nos ha enseñado que las mayores amenazas a la dignidad humana no siempre llegan con estruendo; a veces avanzan en silencio, revestidas de eficiencia, de progreso, de inevitabilidad. Ayer fue el argumento de la obediencia ciega. Hoy comienza a perfilarse otro, más sofisticado, más difícil de detectar: la obediencia a sistemas que nadie termina de comprender.
Desde los Juicios de Núremberg aprendimos que no basta con cumplir órdenes para eximirse de responsabilidad. Sin embargo, el escenario contemporáneo introduce una variante inquietante: decisiones que ya no parecen provenir de una voluntad humana identificable, sino de estructuras tecnológicas que procesan datos, cruzan información y producen resultados que se ejecutan casi automáticamente.
Cuando plataformas desarrolladas por empresas como Palantir Technologies comienzan a incidir en la identificación, localización y detención de personas, no estamos simplemente ante un avance tecnológico. Estamos frente a una transformación profunda en la forma en que el poder se ejerce. El riesgo no es únicamente el error técnico, sino la dilución de la responsabilidad y la deshumanización de la decisión.
Porque en ese tránsito —entre el dato y la acción— se abre un espacio peligroso: un lugar donde el debido proceso pierde cuerpo, donde la defensa se vuelve abstracta y donde la decisión ya no se explica, sino que se ejecuta. No hay rostro en quien decide, no hay razonamiento que pueda ser confrontado, no hay contradicción posible frente a un sistema que no dialoga.
La preocupación, entonces, no radica solo en la tecnología, sino en lo que estamos dispuestos a delegar en ella. Si permitimos que la libertad de las personas quede sujeta a inferencias algorítmicas, corremos el riesgo de sustituir el juicio por la predicción, la prueba por la correlación y la justicia por la eficiencia.
El derecho, en su esencia, es un límite al poder. Pero ese límite pierde eficacia cuando el poder se vuelve difuso, cuando no hay un sujeto claro a quien exigirle cuentas. Y ese es, quizás, el mayor peligro de nuestro tiempo: no la existencia de sistemas capaces de procesar información a gran escala, sino la tentación de convertirlos en árbitros silenciosos de la vida de las personas.
Conviene entonces detenernos, no para rechazar el avance tecnológico, sino para recordar que ninguna herramienta —por sofisticada que sea— puede sustituir los principios que sostienen el Estado de Derecho. La dignidad humana no puede ser una variable más dentro de un modelo. Y la justicia, para seguir siendo justicia, debe seguir siendo humana, visible y responsable.
