¿LE GUSTA HACER USO DE LA IA EN SUS DOCUMENTOS JUDICIALES? TENGA EN CUENTA LAS REGLAS DEL CONSEJO SUPERIOR DE LA JUDICATURA. !OJO¡

Inteligencia Artificial en la Justicia Colombiana: Nuevas Reglas para un Uso Responsable

El Consejo Superior de la Judicatura acaba de establecer las reglas del juego para usar inteligencia artificial en los juzgados y tribunales de Colombia. El Acuerdo PCSJA24-12243, expedido el 16 de diciembre de 2024, busca aprovechar las ventajas de estas tecnologías sin perder de vista lo más importante: la protección de los derechos de las personas y la calidad de la justicia.

¿Por qué era necesario este acuerdo?

La realidad es simple: muchos jueces y empleados judiciales ya venían usando herramientas como ChatGPT o similares en su trabajo diario, pero sin reglas claras. Una encuesta realizada por el Consejo reveló que cerca del 30% de los servidores judiciales ya experimentaba con inteligencia artificial, principalmente en versiones gratuitas. Sin embargo, estos sistemas pueden cometer errores graves, inventar información falsa (lo que se conoce como "alucinaciones"), reproducir prejuicios o exponer datos confidenciales de los procesos.

La Corte Constitucional, en una sentencia del 2 de agosto de 2024, le ordenó al Consejo Superior crear estos lineamientos para evitar que el uso inadecuado de la IA afecte los derechos fundamentales de los ciudadanos.

Lo que SÍ pueden hacer los jueces con inteligencia artificial

El nuevo acuerdo autoriza usar estas herramientas para tareas de apoyo, nunca para reemplazar el criterio humano. Por ejemplo, pueden usarse para:

Tareas administrativas básicas: redactar oficios, corregir ortografía, traducir documentos, organizar agendas o mejorar presentaciones

Búsqueda de información jurídica: encontrar jurisprudencia relacionada con un caso, resumir sentencias anteriores o identificar temas repetitivos

Gestión de expedientes: transcribir audiencias, convertir documentos a formato editable, clasificar información o hacer seguimiento a actuaciones pendientes

Comunicación con ciudadanos: explicar conceptos legales complejos en lenguaje sencillo u orientar sobre trámites judiciales

Lo que NUNCA deben hacer con IA

Las prohibiciones son claras y contundentes:

No puede reemplazar al juez: la IA jamás debe valorar pruebas, analizar los hechos del caso, interpretar la ley o tomar la decisión final. Estas tareas son exclusivamente humanas.

No usar versiones gratuitas de chatbots comerciales: herramientas como las versiones gratuitas de ChatGPT están prohibidas porque pueden almacenar y usar la información que se les comparte.

Nunca introducir datos confidenciales: está terminantemente prohibido subir información personal de las partes, detalles del proceso o cualquier dato sensible a plataformas que puedan apropiarse de esa información.

No copiar y pegar sin verificar: cualquier texto generado por IA debe ser revisado, verificado y adaptado por el funcionario judicial.

Transparencia: el usuario tiene derecho a saber

Una de las reglas más importantes es la obligación de transparencia. Si un juez usa inteligencia artificial en alguna parte de su trabajo, debe dejarlo claro en el expediente, explicando: qué herramienta usó, cuándo la usó, para qué la empleó, qué preguntas le hizo al sistema y qué partes del documento provienen de la IA. Esto garantiza que las partes puedan contradecir y cuestionar lo que sea necesario.

Principios que guían el uso de IA en la justicia

• El acuerdo establece 15 principios fundamentales, entre los que destacan:

Primacía de los derechos fundamentales: la tecnología debe servir a las personas, no al revés

• Responsabilidad humana: el funcionario siempre es responsable de lo que hace con IA

Supervisión y verificación: todo resultado de IA debe ser revisado y confirmado por un humano

• Protección de datos personales: la privacidad de los ciudadanos es innegociable

Igualdad y no discriminación: hay que evitar que la IA reproduzca prejuicios o sesgos

• Capacitación y seguimiento

El acuerdo no solo pone reglas, también ordena capacitar a todos los servidores judiciales para que aprendan a usar estas herramientas de forma segura y responsable. La Escuela Judicial Rodrigo Lara Bonilla deberá incluir formación en inteligencia artificial dentro de sus programas de capacitación.

Además, la Unidad de Transformación Digital e Informática del Consejo Superior monitoreará cómo se están usando estas tecnologías, qué proyectos están desarrollando los despachos y qué riesgos pueden estar presentándose.

Un paso hacia la justicia del futuro

Este acuerdo coloca a Colombia en la vanguardia regional en regulación de inteligencia artificial en el sistema judicial. Representa un equilibrio entre innovación y garantías: aprovecha el potencial de la tecnología para agilizar trámites y mejorar el acceso a la justicia, pero sin sacrificar lo esencial: que las decisiones judiciales sigan siendo humanas, motivadas, transparentes y respetuosas de los derechos fundamentales.

Para los ciudadanos, esto significa mayor claridad sobre cómo funciona la justicia en la era digital y la garantía de que, aunque la tecnología sea una herramienta de apoyo, siempre habrá un ser humano responsable detrás de cada decisión que afecte sus derechos.