La Suprema Corte de Justicia de la provincia de Buenos Aires aprobó un proyecto de reglamento que establece límites claros al uso de la inteligencia artificial (IA) en el ámbito judicial bonaerense. La iniciativa, que marca un precedente en la Justicia argentina, prohíbe expresamente que los sistemas de IA dicten sentencias, valoren pruebas o fundamenten resoluciones, reafirmando que la función jurisdiccional es indelegable e insustituible.

El reglamento, actualmente en etapa de consulta pública hasta el 7 de agosto, busca ordenar el desarrollo y la utilización de la IA en la administración de justicia. Para ello, crea una Comisión de Gobernanza y Uso de Inteligencia Artificial, integrada por las Secretarías de Planificación, Tecnología Informática y Servicios Jurisdiccionales, que actuará como autoridad de aplicación. Esta comisión tendrá la responsabilidad de proponer protocolos, evaluar herramientas, impulsar pruebas piloto, monitorear resultados y elaborar informes periódicos.

El texto distingue entre sistemas de bajo riesgo, como la transcripción automática o la corrección ortográfica, y sistemas de alto riesgo, como la predicción de resultados judiciales o la interpretación normativa. Los primeros estarán sujetos a auditorías anuales, mientras que los segundos requerirán auditorías semestrales, análisis de impacto algorítmico y mecanismos de supervisión humana. Además, se prohíbe el uso de IA para generar prueba sintética, la elaboración de informes periciales sin validación humana y los sistemas predictivos de reincidencia con efectos vinculantes sobre la libertad de las personas.

La Corte también enfatiza la protección de datos personales, remitiendo a la Ley 25.326, y prohíbe el uso de chatbots gratuitos o comerciales para tratar información judicial sensible. Se exige a los operadores judiciales informar detalladamente qué sistemas de IA se utilizaron y en qué partes de los documentos, garantizando así la transparencia y la posibilidad de control por parte de las partes involucradas.

El proyecto es valorado por su carácter participativo, ya que permite que magistrados, abogados, académicos y la sociedad presenten observaciones y sugerencias. Hasta la aprobación de una versión definitiva, el reglamento tendrá carácter orientador y no vinculante. Esta iniciativa busca equilibrar la innovación tecnológica con la protección de derechos fundamentales y garantías constitucionales, en un contexto donde la digitalización judicial es cada vez más profunda.