Ne oldu?

El juez de Connecticut Walter Spader Jr. detectó el primer caso en Estados Unidos en el que un demandante insertó en documentos judiciales comandos ocultos legibles únicamente por sistemas de inteligencia artificial. Matthew Elliott, quien alegaba que se le había negado injustamente el acceso a registros de un proveedor de salud, añadió a sus escritos textos con letra diminuta y en color blanco sobre fondo blanco, invisibles al ojo humano.

Estos textos ocultos instruían a cualquier sistema de IA que leyera el documento a alinear sus respuestas con los argumentos del demandante, ignorar las decisiones previas de rechazo del tribunal y conceder la reparación solicitada. El juez Spader señaló que este intento constituía un ataque de tipo inyección de prompts.

Neden önemli?

El juez Spader destacó que la rama judicial de Connecticut (Connecticut Judicial Branch) no utiliza inteligencia artificial para revisar documentos ni tomar decisiones, por lo que los comandos ocultos no representaban un riesgo real. Aun así, calificó el intento como un 'abuso grave del proceso judicial' y recordó que algunos sistemas judiciales sí emplean IA para la revisión de expedientes.

Pese a la advertencia del tribunal, Elliott continuó insertando textos ocultos, algunos de los cuales incluían un enlace a un video de YouTube sobre Nosferatu y bromas sin sentido. Spader consideró esto 'sorprendente' y señaló que carecía de lógica incluir mensajes ocultos de tipo humorístico en escritos que se pretendía fueran tomados en serio.

Bilinenler

  • Los textos ocultos se camuflaron mediante letra diminuta y la combinación de blanco sobre blanco.
  • Elliott defendió que su intención era 'poner a prueba' el uso de IA por parte del tribunal, pero el juez no encontró creíble esa explicación.
  • El tribunal no impuso una multa económica a Elliott, pero le prohibió presentar documentos electrónicamente en el futuro.
  • En Brasil, dos abogados que intentaron un ataque similar en un tribunal que usa IA fueron multados con aproximadamente $16,000.
  • Mientras que el sistema brasileño detectó el texto oculto antes de procesarlo, en el caso de Elliott los textos salieron a la luz cuando un humano revisó el documento.

Sırada ne var?

El juez Spader indicó que, hasta ahora, los tribunales se habían centrado en errores de salida de la IA, como citas falsas producto de alucinaciones, pero que ataques de entrada como la inyección de prompts 'no habían sido previstos'. Spader sostuvo que los tribunales deben desarrollar nuevas normas frente a este tipo de ataques.

El juez también advirtió que los demandantes sin representación legal (pro se litigants) suelen usar chatbots de forma incorrecta, pidiéndoles únicamente respuestas que respalden sus propios argumentos, lo que les genera una confianza poco realista. Spader afirmó: 'un argumento diseñado únicamente para validar a su autor, al final, ni siquiera es honesto con él mismo'.