El Consejo Judicial de California canceló un plan para implementar la traducción mediante inteligencia artificial en las ventanillas de atención de los tribunales de todo el estado, al considerar que el servicio debe someterse a una revisión de su precisión y eficiencia.
El Tribunal Superior del Condado de San Diego, uno de más de 30 tribunales que participaron en el programa piloto de la herramienta de voz a texto, la utilizó aproximadamente una vez al mes en su Oficina de Negocios Civiles desde 2022 hasta la pasada primavera. Sin embargo, los empleados prefirieron un servicio de traducción telefónica, informaron funcionarios judiciales.
El tribunal recopiló comentarios informales de su personal sobre la herramienta de IA, explicó Emily Cox, portavoz del Tribunal Superior de San Diego. Según Cox, los empleados reportaron que “era difícil para la aplicación captar información de personas que hablaban rápidamente” y que en ocasiones el sistema requería actualizaciones de software que provocaban retrasos en la atención. Además, señaló que la herramienta no estaba disponible en mandarín ni en criollo haitiano.
Después de una solicitud de registros públicos, críticos recopilaron numerosos casos en los que herramientas de traducción con IA no reflejaron con precisión declaraciones de trabajadores judiciales o miembros del público, y presentaron traducciones alternativas realizadas por intérpretes humanos. Ilustración de Times of San Diego basada en una fotografía de Thomas Murphy.
Aunque el programa piloto concluyó, el personal del tribunal de San Diego sigue utilizando un servicio de traducción telefónica proporcionado por la empresa privada United Language Group, que, según Cox, emplea intérpretes humanos. Este servicio estuvo disponible durante todo el programa piloto como alternativa a la herramienta tecnológica.
El proyecto comenzó en 2021 y terminó en abril de 2026, de acuerdo con registros públicos obtenidos por organizaciones de asistencia legal. Antes de lanzarlo, un grupo de trabajo del Consejo Judicial evaluó tecnologías disponibles de Google, Amazon, IBM y Microsoft. Google obtuvo la puntuación promedio más alta en las pruebas realizadas por el consejo para medir precisión y capacidad de respuesta.
El Consejo Judicial, organismo encargado de formular políticas para los tribunales de California, publicó a finales de agosto una solicitud de propuestas para que proveedores implementaran traducción con IA en puntos de atención al público, como las ventanillas de los secretarios judiciales. El contrato estaba previsto para iniciar el 1 de diciembre.
Los proveedores presentaron sus propuestas a finales de septiembre y el consejo tenía previsto anunciar el 26 de octubre su intención de adjudicar un contrato. En lugar de ello, publicó un aviso de cancelación el 15 de octubre.
Un portavoz del Consejo Judicial explicó por correo electrónico que la solicitud fue cancelada debido a la rápida evolución de la tecnología. El organismo planea realizar una revisión interna relacionada con la “precisión, eficiencia y efectividad” antes de considerar nuevas opciones de traducción de voz a texto.
No obstante, el consejo ha señalado que realizó una evaluación preliminar del programa piloto, aunque los resultados no se han hecho públicos.
La cancelación se produjo un día antes de la reunión del consejo del 16 de octubre, durante la cual defensores de derechos legales expresaron preocupaciones tras revisar transcripciones generadas por el proyecto piloto.
Los defensores detectaron múltiples errores
Organizaciones de asistencia legal, entre ellas la Legal Aid Foundation of Los Angeles y California Rural Legal Assistance Inc., obtuvieron cientos de páginas de transcripciones mediante solicitudes de registros públicos. Según estas organizaciones, traductores profesionales que revisaron el material identificaron errores en distintos idiomas.
Las transcripciones no especifican de qué tribunales procedían, por lo que no es posible vincular los errores al tribunal de San Diego ni a ningún otro tribunal específico.
Joann Lee, asesora especial de la Legal Aid Foundation of Los Angeles, afirmó que algunas transcripciones mostraban errores en información crítica.
“Eso realmente podría tener efectos perjudiciales en la vida de los usuarios de los tribunales, como el pago de multas, su capacidad para obtener órdenes de restricción o incluso responder a procesos penales”, dijo.
En un intercambio con una persona de habla árabe que buscaba ayuda para obtener una orden de restricción, las transcripciones muestran que un trabajador del tribunal indicó que debía llenar una hoja con el nombre de la persona “que recibirá la orden de restricción, su número de teléfono y dirección”. Según la revisión de los defensores, la herramienta de IA tradujo el mensaje como instrucciones para escribir el nombre de la persona “que recibe el número de teléfono y la dirección de la orden de restricción”.
Ejemplos de errores detectados
- Traducciones incorrectas, incluido un caso en el que DUI fue traducido como DIU.
- Interpretaciones erróneas de términos legales, como traducir “no contest” por “sin competencia”.
- Incapacidad para identificar correctamente al sujeto de una frase, traduciendo “temo que él/ella pueda hacerme algo” como “temo que tú me hagas algo”.
Los defensores sostienen que este tipo de errores puede afectar la capacidad de los usuarios para ejercer sus derechos legales y acceder a información esencial.
También revisaron encuestas obtenidas mediante registros públicos sobre la experiencia de empleados judiciales que utilizaron la herramienta.
Los trabajadores señalaron problemas similares a los identificados por los defensores en las transcripciones. Entre ellos:
- Dificultad de la herramienta para escuchar correctamente a los usuarios.
- Interferencia causada por el ruido ambiental.
- Problemas para traducir adecuadamente términos legales y técnicos complejos.
- Dificultades para traducir cuando el usuario hablaba un español no estándar.
- Resultados inconsistentes entre distintos idiomas, con mejor desempeño en algunos que en otros.
La importancia del contexto humano
Muchos de estos problemas podrían haber sido detectados por intérpretes humanos certificados, explicó Lee. Aunque los intérpretes tampoco son perfectos, los errores humanos suelen ser distintos a los que comete una máquina.
“Tal vez omitan algunos detalles, pero no cambian completamente el significado”, afirmó Lee. “Con una máquina, podrías estar proporcionando información muy incorrecta y potencialmente perjudicial”.
Por su parte, Norma Ventura, directora de programas de California Rural Legal Assistance Inc., señaló que una traducción literal “puede ser correcta, pero inapropiada en contexto, lo que termina haciendo incorrecta toda la oración”.
Expertos ven potencial, pero con precaución
Marine Carpuat, profesora de ciencias de la computación en la Universidad de Maryland y especialista en traducción automática, explicó que todos los sistemas de traducción cometen errores, por lo que estos riesgos deben considerarse desde el diseño de cualquier implementación.
“Creo que estos sistemas tienen un potencial real, pero debemos reconocer que son imperfectos y diseñarlos teniendo eso en cuenta”, dijo Carpuat.
Los defensores continúan preocupados por futuros intentos de implementar herramientas de traducción impulsadas por inteligencia artificial sin salvaguardas adecuadas ni revisión humana calificada.
“Es más importante que nunca generar conciencia sobre los daños que las tecnologías de IA pueden causar a comunidades vulnerables y lingüísticamente marginadas, para evitar que se soliciten propuestas similares en el futuro”, escribió Lee en un correo electrónico.
