Un juez utilizó ChatGPT en un proceso judicial: Corte Constitucional puso condiciones
La Corte emitió este histórico fallo tras estudiar un caso en el que un un menor de edad diagnosticado con Trastorno del Espectro Autista (TEA) desde su nacimiento necesitaba un tratamiento de salud especializado por parte de su EPS
- Asignatura de religión no debe imponer ninguna fe a los estudiantes: Corte Constitucional
- Las novedades que trae la nueva PlayStation 5 Pro
La Corte Constitucional decretó este lunes que “la Inteligencia Artificial no puede remplazar al juez en la toma de decisiones judiciales, sin importar la complejidad del asunto sometido a estudio de la jurisdicción”, después de un caso en el que un juez usó ChatGPT en un proceso judicial.
El alto tribunal estudió este caso a petición de la Defensoría del Pueblo y concluyó que debe respetarse “el derecho a un juez natural, el cual implica como elemento esencial, la condición de ser humano del juzgador ya que el diseño institucional y normativo actual no contempla la posibilidad de un juez máquina“.
Se trata de un caso en el que estaba involucrado un menor de edad diagnosticado con Trastorno del Espectro Autista (TEA) desde su nacimiento y que necesitaba un tratamiento de salud especializado por parte de su Entidad Prestadora de Salud (EPS).
En la tutela, la madre del niño aludía que para recibir la terapia, necesitaba desplazarse en transporte urbano y no contaba con los recursos económicos suficientes ni tampoco para pagar las cuotas moderadoras y lo copagos de la EPS para acceder al médico y a los fármacos. Por ello pedía a la EPS que la exonerara del pago y autorizara el financiamiento de los desplazamientos.
En este caso, el juez empleó la IA para “formular interrogantes jurídicos sobre el derecho fundamental a la salud de menores de edad diagnosticados con trastorno de espectro autista y, acto seguido, incorporó las preguntas y respuestas en la motivación de la sentencia“.
También abordó el análisis sobre la eventual afectación de los derechos a la salud, la vida digna y la seguridad social del menor de edad.
La Corte también recordó que no es admisible que las decisiones judiciales estén determinadas por sesgos o prejuicios particulares, “que pueden estar presentes en la herramienta de IA, lo que produciría irregularidades por discriminaciones y decisiones parcializadas“.
Por último, alegó que los jueces deben garantizar un uso adecuado de la información y los datos de los implicados.
¿Uso del la IA en procesos judiciales?
En contrapartida, el Constitucional dictaminó que es “admisible emplear estas tecnologías con fines de gestión administrativa y documental; apoyo a la función judicial en actividades que no suponen una labor de creación de contenido, interpretación de hechos o textos, ni solución de casos; y corrección y síntesis de textos, siempre y cuando estos sean supervisados por el operador jurídico para determinar su precisión, coherencia y correcta aplicación”.
Finalmente, el alto tribunal indicó que el uso de este tipo de tecnologías “debe atender, como presupuesto esencial, el criterio de no sustitución de la racionalidad humana y las cargas de transparencia, responsabilidad y privacidad que corresponde asumir al juez”.
En el caso del juez, concluyó que “no se cumplieron a cabalidad los principios de transparencia y responsabilidad exigidos”, aunque “no hubo remplazo de la función judicial por parte de ChatGPT“.
Por: Agencia EFE
¿Qué dijo la Corte Constitucional?
En ese sentido, la Corte otorgó un plazo de cuatro meses al Consejo Superior de la Judicatura (CSJ) para que cree una guía sobre el uso de la inteligencia artificial en la rama judicial.