VALOR PROBATORIO DEL USO DE LA INTELIGENCIA ARTIFICIAL EN LA AUDITORÍA DE HISTORIAS CLÍNICAS Y SU UTILIZACIÓN EN LOS PROCESOS DE RESPONSABILIDAD MÉDICA

================= –>

Libertad probatoria, dictamen pericial y auditoría clínica asistida por inteligencia artificial

RESUMEN

El presente artículo plantea una reflexión sobre el valor probatorio que puede tener el uso de sistemas especializados de inteligencia artificial para la auditoría y análisis de historias clínicas dentro de los procesos de responsabilidad médica.

La posición que se sostiene parte de un principio fundamental del sistema probatorio colombiano: la libertad probatoria. Desde esta perspectiva, el dictamen pericial constituye una modalidad probatoria expresamente regulada, particularmente en los artículos 226 y 228 del Código General del Proceso, pero ello no significa que todo análisis técnico relacionado con una controversia médica deba necesariamente adquirir la naturaleza jurídica de dictamen pericial.

La complejidad de la medicina contemporánea plantea, además, dificultades frente al modelo tradicional de experticia individual. Casos médicos pueden involucrar simultáneamente conocimientos de cardiología, neumología, anestesiología, cirugía, infectología, radiología, urología, ginecología, ortopedia y otras especialidades. Pretender que un único experto pueda comprender integralmente todas las interacciones entre estas disciplinas puede resultar insuficiente.

En este contexto, la inteligencia artificial especializada puede ser utilizada como herramienta de auditoría, análisis y contraste de información clínica. La tesis de este artículo es que dicha herramienta no debe ser considerada un perito ni confundida con un dictamen pericial, pero tampoco debe ser excluida del proceso por el simple hecho de haber sido elaborada con inteligencia artificial.

Su valor probatorio debe analizarse desde la libertad probatoria, permitiendo su incorporación al proceso, su conocimiento por la contraparte, su contradicción y, finalmente, su valoración por parte del juez.

1. INTRODUCCIÓN

La responsabilidad médica constituye uno de los ámbitos más complejos de la responsabilidad jurídica, debido a la naturaleza altamente especializada de los hechos que deben ser establecidos dentro de un proceso.

La determinación de si existió una actuación médica adecuada, una omisión, un retraso diagnóstico, una deficiencia en la vigilancia del paciente, una interpretación incorrecta de determinados signos clínicos o una desviación respecto de protocolos y guías médicas exige, en muchas ocasiones, el análisis de grandes cantidades de información.

La historia clínica contemporánea puede contener cientos o incluso miles de registros: notas médicas, notas de enfermería, resultados de laboratorio, imágenes diagnósticas, informes quirúrgicos, registros de anestesia, medicamentos administrados, signos vitales, interconsultas, órdenes médicas, evoluciones, protocolos institucionales y múltiples documentos adicionales.

A esta complejidad documental se agrega la complejidad científica.

Un paciente puede ser atendido simultáneamente por diferentes especialistas y, en consecuencia, un resultado adverso puede no depender exclusivamente de una actuación individual, sino de la interacción entre múltiples decisiones médicas.

En este escenario surge una pregunta que merece ser estudiada:

¿Puede utilizarse una auditoría clínica realizada con asistencia de inteligencia artificial como elemento probatorio dentro de un proceso de responsabilidad médica, aun cuando no constituya un dictamen pericial en los términos tradicionales?

La respuesta que se propone en este artículo es afirmativa.

La inteligencia artificial no debe ser convertida artificialmente en un perito. Pero tampoco debe ser convertida, por esa misma razón, en una herramienta probatoria prohibida.

2. EL PUNTO DE PARTIDA: LA LIBERTAD PROBATORIA

El análisis debe comenzar por la libertad probatoria.

El Código General del Proceso reconoce diferentes medios de prueba y, dentro de ellos, contempla expresamente el dictamen pericial. Al mismo tiempo, establece una fórmula de apertura hacia otros medios que puedan resultar útiles para formar el convencimiento del juez.

Esta concepción resulta especialmente importante cuando aparecen nuevas tecnologías que no existían o no tenían las características actuales al momento de estructurarse las categorías probatorias tradicionales.

La evolución tecnológica no necesariamente exige crear una nueva categoría jurídica cada vez que aparece una herramienta diferente.

Por el contrario, cuando un instrumento puede aportar información relevante para la formación del convencimiento judicial, su análisis puede realizarse dentro del principio de libertad probatoria, respetando siempre la posibilidad de contradicción y la valoración judicial.

Por ello, la pregunta no debería formularse exclusivamente en términos de si una auditoría realizada mediante inteligencia artificial es o no un dictamen pericial.

La pregunta correcta es:

¿Puede esa auditoría aportar información útil para la formación del convencimiento del juez y puede su contenido ser conocido, controvertido y valorado por las partes y por el juez?

Si la respuesta es afirmativa, no existe razón para excluirla automáticamente por el solo hecho de haber utilizado inteligencia artificial.

3. EL DICTAMEN PERICIAL Y EL ARTÍCULO 226 DEL CÓDIGO GENERAL DEL PROCESO

El artículo 226 del Código General del Proceso regula el dictamen pericial como medio de prueba destinado a aquellos hechos que requieren conocimientos científicos, técnicos o artísticos especiales.

La norma establece, entre otros aspectos, que el dictamen debe ser rendido por un perito y que este debe actuar con independencia y expresar una convicción profesional real.

También exige que el experto explique los fundamentos de su conclusión, los exámenes realizados, los métodos utilizados, los experimentos o investigaciones efectuados y las bases técnicas, científicas o artísticas de sus conclusiones.

Esto permite establecer una diferencia fundamental.

Una auditoría clínica asistida por inteligencia artificial no tiene que ser presentada como un dictamen pericial para poder tener utilidad probatoria.

Si se pretendiera presentar directamente a la inteligencia artificial como el "perito", surgiría una dificultad evidente: la inteligencia artificial no posee, por sí misma, una profesión, una experiencia profesional individual ni una responsabilidad profesional equivalente a la de una persona natural que rinde un dictamen.

Por esa razón, no considero adecuado equiparar automáticamente una auditoría de inteligencia artificial con el dictamen pericial regulado por el artículo 226.

Pero de esa conclusión no puede derivarse otra completamente diferente: que el resultado de una auditoría asistida por inteligencia artificial carezca de todo valor dentro del proceso.

Una cosa no conduce necesariamente a la otra.

4. LA INTELIGENCIA ARTIFICIAL NO ES EL PERITO

Debe establecerse con claridad una distinción conceptual:

La inteligencia artificial no es el perito.

Un sistema de inteligencia artificial no debe ser presentado como una persona experta que presta juramento, declara su experiencia profesional o asume individualmente las responsabilidades propias de un dictamen.

La inteligencia artificial es una herramienta tecnológica capaz de procesar información, identificar patrones, comparar datos, recuperar información de fuentes determinadas, detectar inconsistencias y generar resultados a partir de instrucciones y fuentes de información.

Por ello, una auditoría clínica asistida por inteligencia artificial debe entenderse como el resultado de un proceso tecnológico de análisis, y no como la declaración testimonial o pericial de una máquina.

Esto no elimina necesariamente su utilidad probatoria.

Un documento puede ser relevante para el proceso sin ser un dictamen pericial.

Un análisis documental puede ser relevante sin ser un testimonio.

Una reconstrucción de información puede ser relevante sin ser una declaración personal.

De la misma manera, una auditoría clínica asistida por inteligencia artificial puede constituir un elemento de análisis dentro del proceso sin necesidad de ser transformada jurídicamente en un dictamen pericial.

5. EL ARTÍCULO 228 Y LA IMPORTANCIA DE LA CONTRADICCIÓN

El artículo 228 del Código General del Proceso resulta particularmente relevante para este análisis porque regula la contradicción del dictamen pericial.

La contradicción constituye precisamente uno de los elementos que permite enfrentar técnicamente el resultado de una experticia.

La misma lógica puede trasladarse, desde la libertad probatoria, al análisis de una auditoría clínica asistida por inteligencia artificial.

La parte que aporte el resultado de una auditoría no debería pretender que el juez la acepte de manera automática.

Por el contrario, debe permitir que la contraparte conozca el procedimiento utilizado, las fuentes consultadas, la información analizada, los criterios empleados y las conclusiones obtenidas, en la medida necesaria para ejercer adecuadamente su derecho de contradicción.

La contraparte podrá cuestionar, entre otros aspectos:

– La calidad de las fuentes utilizadas.

– La suficiencia de la información incorporada.

– La interpretación de las guías clínicas.

– La selección de los documentos.

– La metodología utilizada.

– La existencia de errores.

– La pertinencia de las conclusiones.

– La existencia de información omitida.

– La utilización incorrecta de una fuente.

– La inexistencia o incorrección de una referencia.

– La utilización de una fuente que no corresponda al período o especialidad analizada.

– Cualquier otro aspecto técnico que pueda afectar la confiabilidad del resultado.

Precisamente allí se encuentra una de las fortalezas del modelo propuesto: la inteligencia artificial no debe quedar fuera del proceso; debe quedar sometida al proceso.

6. LA COMPLEJIDAD DE LA MEDICINA CONTEMPORÁNEA

El problema adquiere una dimensión mayor cuando se analiza la estructura real de los casos de responsabilidad médica.

Un paciente puede ingresar a una institución hospitalaria por una determinada condición y durante su atención ser valorado por diferentes profesionales.

Puede intervenir un médico general, un internista, un cirujano, un anestesiólogo, un cardiólogo, un neumólogo, un infectólogo, un radiólogo y personal de enfermería, entre otros.

Una complicación puede surgir de la interacción entre decisiones adoptadas por varios de estos profesionales.

Por ejemplo, una decisión tomada en anestesiología puede tener consecuencias sobre un paciente con una condición cardiológica que, a su vez, requiere vigilancia respiratoria y tratamiento farmacológico específico.

En esos casos, el análisis aislado de una sola especialidad puede resultar insuficiente.

El problema se vuelve todavía más complejo cuando se pretende condensar todo el análisis en un único dictamen.

7. EL PROBLEMA DEL EXPERTO ÚNICO FRENTE A CASOS MULTIDISCIPLINARIOS

El modelo tradicional de experticia plantea una dificultad evidente cuando el caso es multidisciplinario.

Un médico puede ser un excelente cardiólogo y, sin embargo, no ser especialista en neumología.

Un excelente neumólogo no necesariamente tiene conocimientos especializados en anestesiología.

Un cirujano puede tener una enorme experiencia quirúrgica, pero no necesariamente puede responder con el mismo nivel de profundidad sobre determinados aspectos de infectología o neurología.

Esto no significa que los expertos humanos sean insuficientes.

Significa que ningún ser humano puede dominar simultáneamente todas las especialidades médicas existentes con el mismo nivel de profundidad.

Una institución especializada puede reunir diferentes profesionales para producir un informe multidisciplinario. Sin embargo, entonces aparece otra cuestión:

¿Quién es realmente el experto que debe responder por el análisis?

¿El médico que firma?

¿Todos los integrantes del equipo?

¿Puede cada especialista responder únicamente por su disciplina?

¿Quién responde por las interacciones entre las distintas especialidades?

Estas preguntas adquieren especial importancia cuando se analiza la contradicción del dictamen.

8. LA CAPACIDAD DE PROCESAMIENTO MULTIDISCIPLINARIO DE LA INTELIGENCIA ARTIFICIAL

Una de las características que diferencia a determinados sistemas especializados de inteligencia artificial consiste en su capacidad para analizar grandes cantidades de información y relacionar fuentes pertenecientes a diferentes áreas de conocimiento.

Una auditoría clínica puede requerir, simultáneamente, la revisión de:

– Historia clínica.

– Protocolos hospitalarios.

– Guías clínicas.

– Literatura médica.

– Resultados de laboratorio.

– Imágenes diagnósticas.

– Medicamentos.

– Notas de enfermería.

– Registros de anestesia.

– Procedimientos quirúrgicos.

– Evolución del paciente.

– Tiempos de respuesta.

– Interconsultas.

– Diagnósticos.

– Tratamientos.

– Estándares relacionados con diferentes especialidades.

Un sistema especializado puede procesar esta información de manera sistemática y buscar relaciones que podrían pasar inadvertidas durante una revisión exclusivamente manual.

La utilidad de esta capacidad no consiste en sustituir al médico.

Consiste en ampliar la capacidad de análisis de la información disponible.

9. NO TODA INTELIGENCIA ARTIFICIAL ES IGUAL

Es necesario realizar una distinción fundamental.

No toda inteligencia artificial funciona de la misma manera.

Una herramienta de inteligencia artificial generativa de propósito general puede generar respuestas basadas en sus modelos de entrenamiento y, dependiendo de su configuración, puede producir información incorrecta o incluso referencias inexistentes.

Esto ha generado legítimamente preocupación frente al denominado fenómeno de las "alucinaciones" de la inteligencia artificial.

Pero no todos los sistemas especializados funcionan bajo ese mismo modelo.

Existen sistemas construidos con instrucciones específicas, fuentes controladas, mecanismos de recuperación de información, bases documentales determinadas y procedimientos destinados a verificar las fuentes utilizadas.

Por esta razón, no resulta técnicamente correcto afirmar que toda inteligencia artificial es igualmente susceptible de producir resultados no confiables.

La confiabilidad debe analizarse respecto del sistema concreto, su arquitectura, sus fuentes, su metodología, sus controles y el resultado obtenido.

10. ¿QUÉ ES RAG?

Uno de los mecanismos tecnológicos que puede utilizarse para mejorar la trazabilidad de los resultados es el denominado Retrieval-Augmented Generation (RAG), o generación aumentada mediante recuperación de información.

En términos sencillos, un sistema RAG no depende exclusivamente de lo que el modelo "recuerda" de su entrenamiento.

El sistema puede realizar primero una búsqueda dentro de una biblioteca documental previamente incorporada o controlada, recuperar la información relevante y utilizarla como fundamento para generar posteriormente una respuesta.

Esto permite establecer una relación más directa entre:

FUENTE → RECUPERACIÓN → ANÁLISIS → RESULTADO.

En una auditoría clínica especializada, esta arquitectura puede utilizarse para consultar determinadas guías, protocolos, documentos científicos y fuentes previamente seleccionadas.

El resultado puede, además, ser sometido a verificación.

Por ejemplo, si un sistema señala que determinada guía recomienda una conducta clínica específica, es posible revisar la fuente y comprobar si efectivamente contiene esa recomendación.

Esta posibilidad de trazabilidad resulta especialmente relevante cuando el resultado se utiliza dentro de un proceso judicial.

11. GALEX AI COMO PRODUCTO TECNOLÓGICO ESPECIALIZADO

En este contexto se presenta GALEX AI, producto tecnológico orientado a la auditoría y análisis de historias clínicas mediante inteligencia artificial.

GALEX AI se plantea como una herramienta especializada para analizar información clínica, identificar posibles inconsistencias, desviaciones, omisiones y aspectos relacionados con la seguridad del paciente, la calidad clínica y la evaluación de historias clínicas.

GALEX AI ha sido presentado para patente mediante U.S. Provisional Patent Application No. 64/165,563.

La referencia a GALEX AI dentro de este artículo no pretende convertir el producto en un perito ni atribuirle la condición jurídica de dictamen pericial.

La finalidad es mostrar un ejemplo concreto de cómo una herramienta tecnológica especializada puede utilizarse para realizar una auditoría sistemática de información clínica.

Su utilidad, para los efectos de la tesis aquí planteada, se encuentra precisamente en su capacidad tecnológica de procesamiento, comparación, recuperación de fuentes y análisis estructurado de información.

12. BIG DATA Y ANÁLISIS DE HISTORIAS CLÍNICAS

Una de las dificultades de los procesos de responsabilidad médica consiste en el volumen de información que debe ser analizado.

El problema no siempre consiste en la ausencia de información.

En muchas ocasiones ocurre exactamente lo contrario: existe demasiada información.

Una historia clínica extensa puede contener miles de datos distribuidos en diferentes documentos.

El análisis humano puede concentrarse necesariamente en determinados documentos o períodos.

La utilización de herramientas tecnológicas permite procesar grandes volúmenes de información de manera sistemática y buscar relaciones temporales, clínicas y documentales.

Esto puede ser especialmente útil para detectar:

– Contradicciones entre notas.

– Diferencias entre diagnósticos.

– Retrasos en determinadas actuaciones.

– Órdenes no ejecutadas.

– Resultados que aparentemente no fueron atendidos.

– Cambios de tratamiento.

– Inconsistencias cronológicas.

– Omisiones documentales.

– Referencias cruzadas.

– Posibles desviaciones respecto de determinadas fuentes clínicas.

La inteligencia artificial no decide jurídicamente si existió responsabilidad médica.

Ayuda a encontrar y organizar la información que puede ser relevante para que esa cuestión sea posteriormente analizada.

13. EL PROBLEMA DE LAS LLAMADAS "ALUCINACIONES"

Una de las principales críticas que puede formularse contra el uso de inteligencia artificial consiste en la posibilidad de que genere información incorrecta.

Esta crítica es válida y no debe ser ignorada.

Sin embargo, tampoco puede utilizarse para afirmar que cualquier análisis realizado con inteligencia artificial carece de valor.

La cuestión debe trasladarse al diseño del sistema.

Un sistema especializado puede establecer controles destinados a reducir estos riesgos mediante:

– Bibliotecas documentales controladas.

– Recuperación de fuentes.

– Instrucciones específicas.

– Verificación de referencias.

– Comprobación de citas.

– Identificación de la fuente utilizada.

– Trazabilidad de los documentos consultados.

– Separación entre información encontrada y conclusión generada.

– Revisión humana cuando corresponda.

Por ello, la discusión jurídica no debería plantearse en términos abstractos de "IA sí" o "IA no".

Debe analizarse qué sistema se utilizó, cómo funcionó, qué información procesó, qué fuentes empleó y cómo puede verificarse el resultado.

14. LA EXPERIENCIA DE LA FDA CON LA INTELIGENCIA ARTIFICIAL EN MEDICINA

La incorporación de inteligencia artificial al ámbito sanitario tampoco constituye una realidad puramente experimental.

En los Estados Unidos, la Food and Drug Administration (FDA) regula dispositivos médicos que incorporan inteligencia artificial y mantiene una relación de dispositivos médicos habilitados con inteligencia artificial.

Según información oficial de la propia FDA, para septiembre de 2026 habían sido autorizados para comercialización en Estados Unidos más de 1.600 dispositivos médicos habilitados con inteligencia artificial. Estos abarcan diferentes áreas médicas y utilizan tecnologías de inteligencia artificial y aprendizaje automático para aplicaciones relacionadas, entre otras, con diagnóstico, tratamiento y apoyo a decisiones clínicas.

Esta realidad resulta relevante para la discusión planteada en este artículo.

La inteligencia artificial ya forma parte de determinadas tecnologías médicas sometidas a procesos regulatorios y utilizadas dentro del sistema sanitario estadounidense.

Por tanto, la sola utilización de inteligencia artificial no permite concluir que una herramienta sea técnicamente inútil, insegura o carente de toda capacidad para producir información relevante.

15. HIPAA Y LA PROTECCIÓN DE LA INFORMACIÓN CLÍNICA

Otro aspecto fundamental cuando se trabaja con historias clínicas es la protección de la información médica.

En los Estados Unidos, HIPAA corresponde a la Health Insurance Portability and Accountability Act of 1996, legislación federal que establece, entre otras materias, reglas relacionadas con la privacidad y seguridad de determinada información de salud.

Uno de sus conceptos centrales es el de Protected Health Information (PHI), es decir, información de salud protegida bajo las reglas aplicables.

La HIPAA contempla reglas de privacidad y seguridad. En particular, la Security Rule establece estándares para proteger la información electrónica de salud protegida y exige salvaguardas administrativas, físicas y técnicas destinadas a preservar su confidencialidad, integridad y disponibilidad.

En el desarrollo de GALEX AI se encuentra en proceso de implementación el cumplimiento de los estándares y medidas relacionados con HIPAA, particularmente aquellos vinculados con la protección de la información clínica y la seguridad de la información.

Este proceso resulta especialmente relevante para una herramienta de auditoría clínica, debido a que su utilización puede involucrar información médica sensible y requiere mecanismos adecuados para proteger la información que procesa.

16. LA AUDITORÍA DE INTELIGENCIA ARTIFICIAL COMO HERRAMIENTA DE CONTRADICCIÓN

Uno de los usos más importantes de una auditoría clínica asistida por inteligencia artificial puede encontrarse precisamente en la posibilidad de contrastar el dictamen presentado por la contraparte.

Supóngase que dentro de un proceso se presenta un dictamen médico que concluye que la actuación asistencial fue adecuada.

La parte contraria podría utilizar una herramienta de auditoría especializada para analizar:

• La historia clínica completa.
• Las fuentes médicas utilizadas.
• Las fuentes que no fueron consideradas.
• Las guías clínicas aplicables.
• La cronología de los hechos.
• Los resultados de laboratorio.
• Los procedimientos realizados.
• Las decisiones adoptadas.
• Las posibles omisiones.
• Las contradicciones internas del dictamen.

El resultado no necesariamente tendría que ser presentado como un "nuevo dictamen".

Podría ser presentado como un análisis técnico-documental asistido por inteligencia artificial, sujeto a la valoración judicial y a la contradicción de la contraparte.

La contraparte, a su vez, podría cuestionarlo.

Podría demostrar que una fuente fue interpretada incorrectamente.

Podría demostrar que una guía no era aplicable al caso.

Podría acreditar que una referencia utilizada por el sistema no existía o estaba desactualizada.

Podría demostrar que determinados documentos no fueron incorporados al análisis.

Podría aportar un análisis médico contrario.

Precisamente ese intercambio permitiría que el juez valorara el verdadero alcance del resultado.

17. LA IGUALDAD EN EL ACCESO A LA PRUEBA

Existe además una consideración práctica que no debería ser ignorada.

Los procesos de responsabilidad médica pueden enfrentar una evidente desigualdad en materia de recursos técnicos.

Las instituciones hospitalarias, las compañías aseguradoras y otros actores del sistema pueden tener capacidad económica para contratar instituciones especializadas que elaboran complejos dictámenes médicos.

Para un paciente, acceder a equipos multidisciplinarios de expertos puede representar un costo considerable.

En algunos casos, un estudio especializado puede tener un valor equivalente a varios salarios mínimos.

Esto puede producir una desigualdad práctica en la capacidad de analizar técnicamente una historia clínica.

La utilización de herramientas de inteligencia artificial especializadas puede reducir parcialmente esa barrera.

No significa que la tecnología sustituya al experto humano.

Significa que puede permitir que una parte que no dispone de los mismos recursos económicos tenga una herramienta adicional para comprender, analizar y cuestionar técnicamente la información médica que constituye el centro del litigio.

Desde esta perspectiva, la tecnología puede contribuir a democratizar el acceso al análisis especializado de la información clínica.

18. VENTAJAS DEL ANÁLISIS ASISTIDO POR INTELIGENCIA ARTIFICIAL

La utilización de sistemas especializados puede ofrecer determinadas ventajas frente a un análisis exclusivamente manual.

18.1. Capacidad de procesamiento

Puede analizar grandes volúmenes de información en períodos considerablemente menores.

18.2. Análisis multidisciplinario

Puede consultar y relacionar información perteneciente a diferentes áreas médicas.

18.3. Trazabilidad

Puede permitir identificar las fuentes utilizadas para generar determinadas conclusiones.

18.4. Consistencia

Puede aplicar los mismos criterios de búsqueda a grandes cantidades de información.

18.5. Detección de patrones

Puede identificar relaciones, contradicciones y elementos que podrían pasar inadvertidos durante una revisión exclusivamente manual.

18.6. Acceso a fuentes

Cuando el sistema está construido sobre bibliotecas controladas, puede recuperar información específica para realizar el análisis.

18.7. Rapidez

Permite realizar una primera revisión sistemática de una historia clínica extensa en un tiempo considerablemente menor.

Estas ventajas no convierten a la inteligencia artificial en un juez ni en un médico.

La convierten en una herramienta de análisis.

19. LÍMITES DE LA AUDITORÍA ASISTIDA POR INTELIGENCIA ARTIFICIAL

Reconocer el valor potencial de la inteligencia artificial no significa desconocer sus límites.

Una auditoría asistida por inteligencia artificial debe poder ser examinada.

Debe ser posible conocer, en la medida necesaria:

– Qué información fue suministrada.

– Qué documentos fueron analizados.

– Qué fuentes fueron consultadas.

– Qué metodología se utilizó.

– Qué instrucciones fueron impartidas al sistema.

– Qué resultados produjo.

– Cuáles fueron las conclusiones obtenidas.

También debe reconocerse que una herramienta tecnológica puede equivocarse.

Precisamente por eso su resultado debe estar sometido a contradicción y valoración judicial.

La propuesta de este artículo no consiste en sustituir al juez por una inteligencia artificial.

Tampoco consiste en sustituir al médico por una inteligencia artificial.

Consiste en permitir que una herramienta tecnológica especializada pueda aportar información al proceso y ser confrontada por las partes.

20. LA POSICIÓN QUE SE PROPONE

A partir de las consideraciones anteriores, la posición que se propone es la siguiente:

Primero: el sistema procesal reconoce la libertad probatoria y permite utilizar medios útiles para la formación del convencimiento del juez.

Segundo: el dictamen pericial constituye una modalidad probatoria específica y regulada, particularmente en el artículo 226 del Código General del Proceso.

Tercero: una auditoría realizada mediante inteligencia artificial no debe ser presentada artificialmente como si la inteligencia artificial fuera un perito humano.

Cuarto: el hecho de que una auditoría no sea un dictamen pericial no significa que carezca de toda posibilidad de utilización probatoria.

Quinto: una auditoría clínica asistida por inteligencia artificial puede ser presentada como un elemento técnico-documental de análisis dentro del marco de la libertad probatoria.

Sexto: dicho elemento debe poder ser conocido y controvertido por la contraparte.

Séptimo: la contraparte debe tener la posibilidad de cuestionar las fuentes, metodología, instrucciones, documentos, referencias, interpretaciones y conclusiones utilizadas.

Octavo: corresponde finalmente al juez valorar el resultado dentro del conjunto de las pruebas practicadas y aportadas al proceso.

Noveno: la complejidad multidisciplinaria de determinados casos de responsabilidad médica constituye una razón adicional para explorar herramientas capaces de analizar simultáneamente grandes cantidades de información proveniente de diferentes especialidades.

Décimo: la utilización de inteligencia artificial no debe ser considerada, por sí misma, una razón para excluir una determinada información del proceso.

21. UNA NUEVA FORMA DE ENTENDER LA PRUEBA TÉCNICA

El desarrollo tecnológico obliga a reconsiderar algunas categorías tradicionales sin necesidad de destruirlas.

El dictamen pericial continuará teniendo una función fundamental.

El médico experto continuará siendo indispensable.

El conocimiento profesional humano seguirá siendo necesario para interpretar determinados fenómenos clínicos y para asumir las responsabilidades propias de una opinión profesional.

Pero ello no significa que el proceso judicial deba permanecer limitado a las herramientas tecnológicas disponibles hace décadas.

La medicina ha cambiado.

Las historias clínicas han cambiado.

La cantidad de información disponible ha cambiado.

La complejidad de los tratamientos ha cambiado.

Y también han cambiado las herramientas disponibles para analizar esa información.

La inteligencia artificial puede convertirse, en este contexto, en una herramienta complementaria para el ejercicio del derecho de defensa y para el análisis técnico de la información médica.

22. CONCLUSIÓN

La discusión sobre el valor probatorio de la inteligencia artificial en los procesos de responsabilidad médica no debería reducirse a determinar si la inteligencia artificial puede ser considerada un "perito".

La inteligencia artificial no es el perito.

Pero tampoco debe concluirse que, por no ser un perito, todo resultado generado mediante inteligencia artificial carece de valor dentro del proceso.

La libertad probatoria permite considerar otros elementos útiles para la formación del convencimiento judicial, mientras que las reglas sobre dictamen pericial establecen las condiciones aplicables cuando se pretende utilizar formalmente ese medio de prueba.

En consecuencia, una auditoría clínica asistida por inteligencia artificial puede ocupar un espacio diferente: el de una herramienta técnica de análisis y contraste, cuyo resultado puede ser incorporado al debate procesal, sometido a contradicción y finalmente valorado por el juez.

La cuestión fundamental no debería ser quién o qué produjo la información, sino qué información produjo, cómo fue obtenida, sobre qué fuentes se construyó, qué metodología se utilizó, si puede ser verificada y si la contraparte tuvo una oportunidad real de controvertirla.

En un proceso de responsabilidad médica, donde pueden coexistir cientos o miles de documentos y múltiples especialidades médicas, excluir una herramienta de análisis únicamente porque utiliza inteligencia artificial podría significar desaprovechar una capacidad tecnológica que puede contribuir a descubrir información relevante para el proceso.

Por ello, la tesis que aquí se sostiene puede resumirse en una proposición:

"La inteligencia artificial no debe ser convertida en perito, pero tampoco debe ser convertida en una prueba prohibida por el solo hecho de ser inteligencia artificial."

El verdadero desafío jurídico consiste en establecer las condiciones bajo las cuales sus resultados puedan ingresar al proceso, ser conocidos, examinados, controvertidos y valorados racionalmente.

Y precisamente allí se encuentra el punto de encuentro entre la tecnología y el derecho probatorio: no en sustituir al experto, sino en ampliar la capacidad de análisis de la información que el juez debe valorar.

23. LA CRÍTICA A LA REFERENCIA AUTOMÁTICA A WIKIPEDIA Y A LA INTELIGENCIA ARTIFICIAL COMO SINÓNIMO DE FALTA DE PRECISIÓN

Existe una objeción que probablemente aparecerá con frecuencia cuando una auditoría clínica asistida por inteligencia artificial sea presentada dentro de un proceso judicial:

¿La información fue obtenida mediante inteligencia artificial? ¿Fue obtenida de Wikipedia?

Estas preguntas pueden parecer razonables a primera vista, pero resultan insuficientes si se utilizan como argumento para descartar automáticamente el resultado de un análisis.

En realidad, existe aquí un problema conceptual similar al que se presentaría si se preguntara, respecto de cualquier documento jurídico o científico: ¿fue elaborado utilizando Word?, ¿fue consultado en Google?, ¿fue encontrado en una biblioteca?, ¿fue elaborado utilizando una base de datos?

El instrumento utilizado para acceder, organizar o procesar la información no determina, por sí solo, la veracidad o falsedad de la información.

23.1. EL EJEMPLO DE WIKIPEDIA

Wikipedia constituye un ejemplo particularmente ilustrativo.

Un juez podría preguntar:

"¿La información fue tomada de Wikipedia?"

La pregunta es legítima si tiene como finalidad determinar la fuente utilizada. Pero no debería convertirse automáticamente en una conclusión:

"Si fue tomada de Wikipedia, entonces es falsa."

Wikipedia puede contener información que debe ser comprobada y contrastada con sus fuentes. Por supuesto, ello no convierte a Wikipedia en una fuente científica primaria ni significa que todo su contenido sea necesariamente correcto.

Pero precisamente ahí se encuentra el punto central.

Si una persona consulta Wikipedia para conocer qué es una enfermedad y posteriormente verifica esa información directamente en una guía médica, en un artículo científico o en una fuente institucional, el problema no es que haya consultado Wikipedia.

La cuestión relevante es cuál es la fuente que finalmente sustenta la afirmación.

Por tanto, si en un proceso judicial se pretende cuestionar una información porque "apareció en Wikipedia", la verdadera pregunta debería ser:

¿Cuál es la fuente original que sustenta esa información y puede ser verificada?

23.2. EL MISMO RAZONAMIENTO DEBE APLICARSE A LA INTELIGENCIA ARTIFICIAL

La misma lógica debe utilizarse frente a la inteligencia artificial.

Preguntar:

"¿Esta auditoría fue realizada con inteligencia artificial?"

puede ser una pregunta pertinente para conocer la metodología utilizada.

Pero convertir automáticamente la respuesta afirmativa en:

"Entonces la información no es confiable"

constituiría un razonamiento incompleto.

La inteligencia artificial es una herramienta tecnológica, no una fuente científica única y homogénea.

No existe "la inteligencia artificial" como si todos los sistemas funcionaran de la misma manera.

Existen modelos generales, modelos especializados, sistemas conectados a bases documentales, sistemas con mecanismos de recuperación de información, sistemas con bibliotecas controladas, sistemas que utilizan fuentes externas y sistemas que incorporan mecanismos de verificación.

Por ello, sería conceptualmente incorrecto equiparar un sistema especializado de auditoría clínica con una conversación informal realizada con cualquier sistema generativo.

23.3. LA PREGUNTA CORRECTA NO ES "¿UTILIZÓ IA?", SINO "¿QUÉ HIZO LA IA?"

Esta distinción resulta fundamental.

Si un juez pregunta:

¿La auditoría fue realizada con inteligencia artificial?

la respuesta puede ser:

Sí, fue realizada con asistencia de inteligencia artificial.

Pero inmediatamente debería poder explicarse:

– Qué documentos fueron analizados.

– Qué fuentes fueron consultadas.

– Qué biblioteca documental se utilizó.

– Qué guías clínicas fueron recuperadas.

– Qué criterios fueron empleados.

– Qué instrucciones recibió el sistema.

– Qué resultados produjo.

– Cuáles fueron las referencias utilizadas.

– Si esas referencias existen.

– Si corresponden realmente al contenido citado.

– Y si las conclusiones pueden ser verificadas.

Es decir, la pregunta sobre la utilización de inteligencia artificial debe conducir a una auditoría de la metodología y no a una descalificación automática de la herramienta.

23.4. LA INTELIGENCIA ARTIFICIAL Y WIKIPEDIA: UNA ANALOGÍA ÚTIL, PERO NO UNA EQUIVALENCIA TÉCNICA

La comparación con Wikipedia permite formular una crítica todavía más profunda.

Sería tan equivocado afirmar que:

"Todo lo que proviene de Wikipedia es falso"

como afirmar que:

"Todo lo producido mediante inteligencia artificial es falso."

Ambas afirmaciones parten de la misma falacia: confundir el medio de acceso o procesamiento de la información con la calidad de la información misma.

Sin embargo, tampoco debe afirmarse que Wikipedia y la inteligencia artificial son técnicamente iguales.

No lo son.

Wikipedia es una enciclopedia colaborativa cuyo contenido se construye y modifica mediante una comunidad de editores y cuyas políticas exigen verificabilidad y fuentes. La inteligencia artificial, por su parte, puede ser utilizada de múltiples maneras y mediante arquitecturas tecnológicas completamente diferentes.

La analogía es otra:

el nombre de la herramienta no determina por sí mismo la calidad del resultado.

Lo que debe examinarse es el procedimiento utilizado para obtenerlo.

23.5. ¿PUEDE WIKIPEDIA EQUIVOCARSE? NATURALMENTE. ¿PUEDE EQUIVOCARSE LA INTELIGENCIA ARTIFICIAL? TAMBIÉN.

Wikipedia puede contener errores, información incompleta, referencias deficientes o contenidos que posteriormente sean corregidos.

La inteligencia artificial también puede producir errores, incluso información aparentemente convincente pero incorrecta.

La diferencia fundamental está en lo que ocurre después.

En un sistema serio de análisis, una afirmación no debería ser aceptada simplemente porque la produjo una inteligencia artificial.

Debe poder verificarse.

Y aquí aparece una diferencia fundamental entre una inteligencia artificial utilizada de manera informal y una herramienta especializada de auditoría.

Si un sistema genera una conclusión sin identificar de dónde obtuvo la información, la posibilidad de verificarla es limitada.

Pero si el sistema recupera una guía clínica específica, identifica el documento, señala el apartado correspondiente y permite comprobar la información utilizada, el análisis cambia radicalmente.

La cuestión deja de ser:

"¿La inteligencia artificial puede alucinar?"

La respuesta es evidente: sí, determinados sistemas pueden generar información incorrecta.

La pregunta jurídicamente relevante pasa a ser:

¿El resultado concreto presentado al proceso puede ser verificado?

23.6. LA "ALUCINACIÓN" NO PUEDE PRESUMIRSE POR EL SOLO HECHO DE UTILIZAR INTELIGENCIA ARTIFICIAL

Existe una tendencia comprensible a asociar inteligencia artificial con el fenómeno conocido como hallucination, entendido como la generación de información falsa o incorrecta presentada con apariencia de certeza.

Ese riesgo existe y debe ser controlado.

Pero una posibilidad técnica no equivale a una presunción de falsedad.

Sería equivalente a sostener que todo documento electrónico es falso porque puede ser alterado digitalmente, que todo documento impreso es falso porque puede ser falsificado o que todo testimonio humano es falso porque una persona puede mentir.

El derecho probatorio no funciona de esa manera.

La posibilidad de error conduce a mecanismos de verificación, contradicción y valoración.

No necesariamente conduce a la exclusión automática del medio.

La misma lógica debería aplicarse a la inteligencia artificial.

23.7. LA PRUEBA DEBE SER CONFRONTADA, NO DESCARTADA POR SU ETIQUETA

Este es, quizá, el punto central de la tesis.

Cuando una parte presenta una auditoría clínica asistida por inteligencia artificial, la contraparte debe poder cuestionarla.

Puede afirmar:

– "La fuente citada no dice eso."

– "La guía utilizada no era aplicable."

– "El sistema omitió determinada información."

– "La historia clínica fue interpretada incorrectamente."

– "La conclusión no se desprende de los documentos."

– "La referencia utilizada está desactualizada."

– "El sistema confundió dos medicamentos."

– "El análisis no tuvo en cuenta determinada circunstancia clínica."

Todas estas son objeciones legítimas.

Pero existe una diferencia sustancial entre decir:

"La auditoría es incorrecta porque su conclusión es técnicamente equivocada"

y decir:

"La auditoría es incorrecta porque utilizó inteligencia artificial."

La primera es una verdadera contradicción técnica.

La segunda es una descalificación basada exclusivamente en el instrumento utilizado.

23.8. UN JUEZ NO DEBERÍA PREGUNTARSE ÚNICAMENTE QUIÉN PRODUJO LA INFORMACIÓN

En última instancia, el juez no debería limitar su análisis a determinar quién o qué produjo la información, sino también qué información se produjo y cómo puede ser comprobada.

Un experto humano puede equivocarse.

Una institución médica puede equivocarse.

Un artículo científico puede contener un error.

Una guía clínica puede ser posteriormente modificada.

Wikipedia puede contener información incorrecta.

Una inteligencia artificial puede producir una respuesta incorrecta.

Ninguno de estos hechos permite, por sí solo, establecer que el resultado concreto carece de valor.

Lo que importa es la posibilidad de examinar, contrastar, verificar y controvertir la información.

Por ello, si una auditoría clínica asistida por inteligencia artificial identifica una posible desviación médica, la pregunta no debería ser simplemente:

"¿Eso lo dijo una inteligencia artificial?"

La pregunta debería ser:

"¿Cuál es la fuente, cuál fue el método de análisis, qué documentos fueron examinados y puedo verificar la conclusión?"

Si la respuesta permite realizar esa comprobación, la herramienta ha cumplido precisamente una de las funciones más importantes que puede aportar al proceso: hacer visible información que puede posteriormente ser discutida y valorada.

24. CONSIDERACIÓN FINAL DEL AUTOR

La incorporación de inteligencia artificial al análisis de historias clínicas no pretende sustituir al médico, al abogado ni al juez.

Pretende proporcionar una herramienta adicional para enfrentar una realidad que ya existe: la extraordinaria cantidad de información médica que puede integrar un proceso de responsabilidad médica y la creciente complejidad multidisciplinaria de las decisiones clínicas.

Rechazar una auditoría simplemente porque utilizó inteligencia artificial equivaldría a juzgar el valor de la información por la herramienta utilizada para encontrarla y no por su contenido, sus fuentes, su metodología y su posibilidad de verificación.

La inteligencia artificial, al igual que cualquier otra herramienta, puede utilizarse correctamente o incorrectamente.

Por eso, no debe existir ni una aceptación ciega de sus resultados ni una descalificación automática por su origen tecnológico.

Debe existir contradicción.

Debe existir verificación.

Debe existir trazabilidad.

Y debe existir valoración judicial.

Esa es precisamente la razón por la cual la propuesta de este artículo no pretende que el juez "crea" en la inteligencia artificial.

Pretende algo mucho más sencillo:

que el juez permita que el resultado de una auditoría clínica asistida por inteligencia artificial sea presentado, examinado y controvertido, para que finalmente sea el juez —y no la etiqueta "inteligencia artificial"— quien determine el valor que dicho elemento pueda tener dentro del proceso.