La implementación de la inteligencia artificial en el sistema judicial argentino se ha vuelto un tema central, especialmente en el ámbito penal, donde se busca mejorar la eficiencia sin comprometer principios éticos y de seguridad. A partir de una reciente resolución del Ministerio Público bonaerense, se establecen pautas claras para el uso de la herramienta denominada ChatIA, enfocándose en garantizar que la intervención humana permanezca en el centro del proceso judicial.
Normativa y requisitos de uso
La Resolución PG N.º 1475/2025 establece que cada agente judicial debe firmar una declaración jurada que confirme su conocimiento y aceptación de las nuevas pautas para poder utilizar ChatIA. El incumplimiento de esta obligación podrá resultar en sanciones disciplinarias, según el Procedimiento de Responsabilidad Administrativa Funcional. Esta regulación se convierte en esencial dado el contexto delicado en que opera el fuero Penal, que abarca casos de homicidio, abusos sexuales y narcotráfico.
Prohibiciones y validación de datos
Además de la declaración jurada, se deja clara la prohibición de introducir en la plataforma datos sensibles o de causas en trámite, imágenes personales, y cualquier información que no tenga autorización. Únicamente se permite el uso de datos ficticios o anonimizados para fines de entrenamiento. Cada salida generada por la IA deberá ser revisada y validada por el agente judicial, buscando así prevenir las "alucinaciones" de los modelos de lenguaje, que pueden ofrecer respuestas incorrectas o engañosas.
ChatIA: diseño y funcionalidades
El sistema ChatIA tiene como objetivo centralizar las interacciones de fiscales y defensores en un entorno seguro y eficiente. Entre sus funciones se destacan:
- Gestión centralizada de múltiples modelos de IA Generativa (IAGen).
- Control de acceso por roles y autenticación obligatoria.
- Monitoreo y auditoría de todas las interacciones.
- Encriptación de las comunicaciones.
- Administración de los recursos utilizados para consultas externas.
La plataforma ha sido diseñada para ayudar en la redacción, edición y resumen de documentos judiciales, permitiendo a los agentes concentrarse en tareas de mayor relevancia procesal.
Principios éticos y auditorías
La resolución resalta principios fundamentales que regirán el uso de la inteligencia artificial, tales como el respeto por la dignidad humana y la responsabilidad individual de los agentes. Se prohíbe el empleo de herramientas externas como ChatGPT o LLaMA, asegurando así la confidencialidad y la trazabilidad de cada interacción. Las auditorías internas serán parte del proceso, permitiendo verificar el cumplimiento de las normativas establecidas.
Impacto en el fuero Penal
La llegada de ChatIA promete cambiar la dinámica de trabajo en el fuero Penal, donde la sobrecarga de causas ha sido un problema histórico. Se espera que esta herramienta facilite la redacción de borradores y la sistematización de pruebas, lo que podría resultar en una mayor agilidad en los procesos judiciales. Sin embargo, se enfatiza que la IA debe ser vista como un auxilio técnico, sin sustituir el juicio y la deliberación humana.
Modernización con cautela
La implementación de ChatIA representa un esfuerzo significativo hacia la modernización del sistema judicial en la provincia de Buenos Aires. El éxito de esta herramienta será evaluado en las etapas iniciales de su uso, y su funcionamiento podría establecer un modelo a seguir para otras jurisdicciones del país. Las autoridades subrayan que se debe priorizar siempre el bienestar de las personas y el respeto a los derechos, asegurando que la tecnología sirva como un apoyo dentro del proceso judicial.