Temas de Justicia - Por Julio Conte-Grand
El uso de inteligencia artificial generativa en el Poder Judicial: avances y cuidados
La Procuración General de la provincia de Buenos Aires, dispuso la puesta en marcha de un plan integral para la incorporación de la Inteligencia Artificial Generativa (IAGen) en el ámbito del Ministerio Público de la provincia de Buenos Aires (MPBA) mediante el dictado de la Resolución PG N.° 1475/25, que establece y regula u marco para su utilización.
La medida se inscribe en un fenómeno global. La IAGen es considerada una de las innovaciones más disruptivas de la actualidad: una tecnología capaz de producir textos, imágenes, audios y otros contenidos con creciente sofisticación y eficiencia. Con una incidencia directa en la economía, los sistemas productivos y los servicios públicos, y un impacto económico de magnitud.
Sin embargo, su adopción no está exenta de riesgos y consecuencias no deseadas. Tal es el caso de la desinformación, la exposición indebida de datos sensibles, la afectación de derechos de propiedad intelectual y la amplificación de sesgos presentes en los modelos de entrenamiento.
En ese contexto, el Ministerio Público bonaerense decidió encarar la incorporación de IAGen desde una visión humanista, estructurada en torno a tres pilares.
En primer lugar, la aprobación de un Marco Normativo y Estratégico, que fija principios, directrices y pautas en línea con la Constitución, las leyes y los tratados internacionales de derechos humanos.
En segundo lugar, el compromiso activo de los funcionarios judiciales en un uso crítico y responsable de la tecnología. Para respaldar ese compromiso, el marco normativo ofrece una explicación sencilla y accesible sobre los fundamentos de la IAGen: describe qué son los modelos fundacionales, cómo funciona la arquitectura Transformer —que marcó un punto de inflexión en el procesamiento del lenguaje natural— y cuáles son las principales técnicas de entrenamiento, que hacen posible la generación de textos útiles.
En tercer lugar, el desarrollo de “ChatIA”, que es una plataforma institucional de IAGen desarrollada por la Secretaría de Innovación y Experiencia Digital de la Procuración General. Este entorno, que permite una gestión centralizada de usuarios y la realización de auditorías permanentes, es concebido como la única interfaz autorizada para que los agentes del Ministerio Público interactúen con IAGen.
Al respecto, cabe destacar, que el Ministerio Público bonaerense ya cuenta con antecedentes en la incorporación de Inteligencia Artificial.
En 2018, implementó un sistema de identificación multibiométrica de imputados basado en Aprendizaje Profundo; en 2019, desarrolló el primer chatbot judicial del país; y en 2024, incorporó una herramienta para la transcripción de audios y videos mediante IA. Estos hitos constituyen la base sobre la cual el organismo avanzó hacia la adopción de la Inteligencia Artificial Generativa.
En esa línea, la Resolución establece una implementación gradual de esta tecnología en tres etapas. La primera será una prueba piloto en fiscalías, defensorías y asesorías, que permitirá evaluar el desempeño de la herramienta en tareas concretas como redacción, edición y resumen de documentos. En una segunda etapa, se considerará su extensión a más usuarios y nuevos casos de uso. Y, finalmente, se pondrá en marcha un sistema de monitoreo permanente con indicadores de éxito y riesgo para medir el impacto en eficiencia, calidad y seguridad informática. Por último, lo interesante de la estrategia adoptada por el Ministerio Público bonaerense —y que la convierte en un caso inédito— es su carácter integral. No se limita a establecer pautas legales y reglamentarias internas, sino que también impulsa el desarrollo de un software propio para uso institucional y pone a disposición de sus agentes conocimientos técnicos que faciliten un uso crítico y responsable de la tecnología.
Por lo demás, se establecen los principios que regulan el uso de IAGen en el MPBA. Su fundamento parte de la premisa de que los usuarios deben ejercer una responsabilidad activa y consciente, ponderando las consecuencias sociales, éticas y legales de sus decisiones y evitando toda subordinación acrítica frente a la tecnología (Dicasterio para la Doctrina de la Fe, Dicasterio para la Cultura y la Educación, 2025).
Estos principios son de observancia obligatoria para todos los agentes del MPBA y actúan como criterios rectores destinados a asegurar que el empleo de la IAGen se mantenga en plena consonancia con los valores institucionales, los derechos fundamentales y el marco jurídico vigente.
■ Dignidad: El uso de IAGen deberá regirse por el respeto irrestricto de la dignidad humana y del bien común.
■ Responsabilidad: Su utilización no exime de las obligaciones funcionales, legales y éticas vigentes. Los agentes del MPBA serán plenamente responsables de asegurar en todos los casos su adecuación al Código de Ética vigente en el ámbito del MPBA (Res. PG N.° 32/19), así como a la Constitución, las leyes y los tratados de derechos humanos aplicables.
■ Supervisión Humana: La utilización de IAGen deberá estar sujeta a un control humano activo y permanente. Queda prohibida la delegación de decisiones sustantivas en la herramienta.
■ Confidencialidad de la información: Deberá garantizarse la protección de los datos personales (Ley N.° 25.326), la preservación de la confidencialidad y el resguardo de los datos sensibles, evitando cualquier tratamiento que comprometa derechos fundamentales o la legalidad de los procesos.
■ Prohibición de contenidos inapropiados: Queda vedada toda utilización que derive en la generación o difusión de contenidos ofensivos, discriminatorios, inapropiados o ilegales.
■ Ciberseguridad: La utilización de IAGen deberá sustentarse en la preservación de la seguridad informática y la protección de la información institucional, garantizando la integridad, disponibilidad y confidencialidad de los datos en todo momento.
■ Uso exclusivo de la plataforma institucional: La interacción con sistemas de IAGen deberá realizarse exclusivamente a través de ChatIA, la plataforma oficial desarrollada por el MPBA. Queda prohibida la utilización de herramientas externas o no autorizadas, a fin de garantizar el control, la seguridad y la trazabilidad de la información institucional.
■ Precaución frente a Riesgos Emergentes: El empleo de IAGen deberá regirse por el principio de precaución, anticipando y limitando los impactos derivados de riesgos emergentes o aún no previstos, propios de la naturaleza evolutiva de esta tecnología.
La Resolución puede consultarse en:
https://www.mpba.gov.ar/files/Reservorio/Res%20PG%20N%201475-25%20-%20Anexo.pdf
(*) Procurador General de la Suprema Corte de Justicia de la Provincia de Buenos Aires
Fuente: Publicado en Nuevo Mundo, edición 1243 del 26 de septiembre de 2025
