Inteligencia artificial, pensamiento jurídico y soberanía epistemológica: entre la herramienta y el oráculo.

Cristóbal Arteta Ripoll

Una reflexión crítica desde la Filosofía del Derecho y la Ética

Introducción

La incorporación de la inteligencia artificial generativa a la educación jurídica constituye uno de los desafíos más significativos que actualmente enfrentan las Facultades de Derecho. Su irrupción plantea posibilidades extraordinarias para la investigación, la enseñanza, la búsqueda de información, la sistematización documental y la construcción de argumentos. Pero, simultáneamente, introduce riesgos epistemológicos, pedagógicos, jurídicos y éticos que no pueden ser enfrentados desde una perspectiva meramente instrumental.

El debate no debería reducirse, por tanto, a la pregunta acerca de si debemos utilizar o no inteligencia artificial en la enseñanza del Derecho. La verdadera cuestión es de mayor profundidad: ¿Cómo incorporar la inteligencia artificial a la formación jurídica sin permitir que termine sustituyendo la autonomía intelectual, el juicio crítico y la responsabilidad ética del jurista?.

La pregunta adquiere particular importancia porque el Derecho no constituye un saber puramente informativo. Es una práctica interpretativa y argumentativa vinculada a la justicia, los derechos, la responsabilidad y la legitimidad de las decisiones. Por ello, aquello que puede resultar aceptable como herramienta de apoyo en determinadas tareas administrativas no necesariamente puede trasladarse, sin mediaciones críticas, a ámbitos en los cuales están comprometidos derechos fundamentales y decisiones jurisdiccionales.

Una reciente reflexión formulada por el profesor Luis Eduardo Cerra Jiménez, del Área de Derecho Público de la Facultad de Derecho de la Universidad Libre, llama precisamente la atención sobre estos riesgos y advierte sobre la posibilidad de que la inteligencia artificial termine convertida en una suerte de “oráculo jurídico”. La preocupación es pertinente. Sin embargo, considero necesario profundizarla y, al mismo tiempo, introducir algunas precisiones.

Mi posición no es partidaria de prohibir la inteligencia artificial en la enseñanza del Derecho. Esa sería una respuesta insuficiente frente a una transformación tecnológica que ya hace parte de la vida profesional de los futuros abogados. Pero tampoco resulta admisible una incorporación acrítica, impulsada por el entusiasmo tecnológico o por la idea de que toda innovación representa automáticamente progreso.

La alternativa que propongo es otra: incorporar la inteligencia artificial bajo una pedagogía de la sospecha, la verificación y la autonomía epistemológica. Y de aquí surge la pregunta: 

La inteligencia artificial: ¿herramienta, asistente o autoridad?.

Para responder esta pregunta, la primera distinción que debe establecerse es entre utilizar inteligencia artificial y delegar en ella el razonamiento jurídico.

No existe, en principio, objeción alguna para que un estudiante utilice herramientas de inteligencia artificial para localizar información, organizar materiales, comparar argumentos, formular hipótesis, detectar contradicciones o explorar diferentes interpretaciones de un problema jurídico.

El problema surge cuando el estudiante abandona la posición de sujeto crítico y comienza a asumir la respuesta algorítmica como conocimiento suficientemente validado.

En ese momento se produce una inversión peligrosa: la herramienta deja de estar al servicio del pensamiento y el pensamiento comienza a estar al servicio de la herramienta.

La diferencia no es secundaria. Constituye el centro del problema pedagógico.

UNESCO ha insistido en que la incorporación de la IA generativa a la educación debe realizarse desde un enfoque centrado en el ser humano, protegiendo la agencia humana, la equidad, la ética y el pensamiento crítico. Su orientación no consiste en rechazar la tecnología, sino en impedir que la tecnología sustituya las capacidades humanas que la educación debe precisamente desarrollar (Miao y Holmes, 2023).

Por consiguiente, la pregunta universitaria no debería ser simplemente cuánto puede hacer la inteligencia artificial, sino qué capacidades humanas queremos preservar y desarrollar mediante su utilización.

La inteligencia artificial no es una fuente del Derecho.

Conviene hacer aquí una precisión conceptual: la inteligencia artificial no constituye, por sí misma, una fuente formal del Derecho. Una respuesta producida por un modelo generativo no adquiere fuerza normativa por el simple hecho de haber sido elaborada mediante un sistema algorítmico.

La inteligencia artificial no legisla, no crea por sí misma precedentes judiciales vinculantes ni sustituye la competencia constitucional de los órganos encargados de producir e interpretar las normas.

El problema, entonces, no consiste exactamente en que la IA pueda convertirse jurídicamente en una fuente del Derecho. El verdadero peligro es que los operadores jurídicos le atribuyan una autoridad epistemológica que no posee.

La apariencia de una argumentación jurídicamente sofisticada puede inducir a confundir coherencia lingüística con verdad jurídica. Y esto no es una posibilidad puramente especulativa.

Dahl, Magesh, Suzgun y Ho encontraron que los grandes modelos de lenguaje presentan tasas preocupantes de “alucinaciones jurídicas” cuando se les formulan preguntas verificables sobre casos judiciales. En su investigación, los errores fueron particularmente significativos dependiendo del modelo, jurisdicción y tipo de consulta (Dahl et al., 2024). 

El problema adquiere todavía mayor relevancia cuando se examinan sistemas específicamente diseñados para la investigación jurídica.

Magesh et al. realizaron una evaluación empírica de herramientas jurídicas basadas en IA y encontraron que sistemas especializados de investigación jurídica todavía producían respuestas incorrectas o referencias inexistentes. En su estudio, diferentes herramientas presentaron tasas de alucinación situadas aproximadamente entre el 17 % y el 33 %, pese a estar diseñadas específicamente para tareas jurídicas (Magesh et al., 2024). 

La conclusión es evidente: la especialización jurídica de una inteligencia artificial reduce determinados riesgos, pero no elimina la necesidad de supervisión humana.

La cuestión adquiere aquí una dimensión propiamente filosófica: ¿Qué significa conocer el Derecho?

Si conocer el Derecho significara únicamente localizar normas, recuperar jurisprudencia, resumir documentos y producir textos coherentes, entonces la inteligencia artificial podría convertirse rápidamente en una extraordinaria sustituta del jurista.

Pero el Derecho no es solamente información. El Derecho es interpretación, es argumentación., es deliberación, es ponderación., es valoración, es confrontación de principios, comprensión del contexto, decisión. Y, sobre todo, es responsabilidad.

El jurista no solamente pregunta: ¿Qué dice la norma?. También pregunta: ¿Qué significa esa norma en este caso concreto?. ¿Qué derechos están comprometidos?. ¿Qué principios entran en tensión?. ¿Cuál interpretación resulta más razonable y justa?. ¿Cómo puedo justificar públicamente mi decisión?. Estas preguntas desbordan el simple procesamiento de información.

Por eso, reducir la inteligencia jurídica a la capacidad de recuperar y combinar información supondría aceptar una concepción empobrecida del Derecho.

La pedagogía de la sospecha algorítmica.

Aquí surge una propuesta que considero especialmente importante para la Universidad: una pedagogía de la sospecha algorítmica.

El estudiante de Derecho no debería aprender solamente a formular buenos prompts. Debería aprender a poner en duda las respuestas obtenidas. Cada respuesta de una IA debería convertirse, pedagógicamente, en una hipótesis susceptible de verificación.

Cuando el sistema mencione una sentencia, el estudiante debe comprobar que existe. Cuando cite una norma, debe verificar su vigencia. Cuando presente una doctrina, debe consultar la fuente original. Cuando utilice jurisprudencia, debe comprobar si fue modificada, aclarada o superada. Cuando proponga una interpretación, debe reconstruir el argumento y buscar contraargumentos.

La pregunta fundamental deja de ser: ¿Qué respondió la inteligencia artificial?. Y pasa a ser: ¿Por qué debería aceptar lo que respondió?.

Este desplazamiento es fundamental. La IA puede convertirse incluso en un instrumento extraordinario para desarrollar el pensamiento crítico si el estudiante aprende a enfrentarse críticamente a sus resultados.

El verdadero peligro educativo: dejar de pensar.

El problema pedagógico más grave quizá no sea que la inteligencia artificial produzca respuestas equivocadas. Podría ser algo más profundo: que produzca respuestas suficientemente buenas como para que los estudiantes dejen de pensar por sí mismos.

La educación universitaria no consiste únicamente en obtener respuestas. Consiste en aprender a formular preguntas. Enfrentar dificultades. Construir argumentos. Equivocarse. Rectificar. Comparar posiciones. Defender una tesis. Refutar otra. Y asumir responsabilidad por aquello que se sostiene.

Si un estudiante utiliza permanentemente una inteligencia artificial para resolver el trabajo intelectual que debería realizar por sí mismo, puede adquirir una competencia instrumental y perder, simultáneamente, una competencia intelectual.

El resultado sería paradójico: podríamos formar abogados cada vez más competentes para utilizar inteligencia artificial y cada vez menos capaces de pensar sin ella. Esto sería un fracaso pedagógico.

El Derecho no puede convertirse en una matemática de probabilidades.

La inteligencia artificial ofrece una extraordinaria capacidad de procesamiento. Puede comparar miles de documentos. Puede encontrar patrones. Puede resumir grandes cantidades de información. Puede establecer relaciones que serían difíciles de detectar manualmente.

Todo ello posee enorme valor. Pero existe una tentación contemporánea de confundir eficiencia computacional con racionalidad jurídica.

La justicia no consiste únicamente en decidir rápidamente. Una decisión judicial no es mejor simplemente porque se produzca con mayor velocidad.

La pregunta decisiva continúa siendo: ¿Por qué esa decisión es jurídicamente justificable?

El Derecho exige razones. Y las razones deben poder ser examinadas, discutidas y controvertidas. Por ello, el criterio de eficiencia nunca puede desplazar completamente al criterio de legitimidad.

Una justicia rápida pero inexplicable no constituye necesariamente una justicia mejor.

Cosa juzgada, jurisdicción y autoridad de la decisión.

La preocupación expresada por el profesor Cerra Jiménez respecto de la cosa juzgada merece ser precisada.

La inteligencia artificial no genera directamente decisiones judiciales con fuerza de cosa juzgada. Esa autoridad proviene de decisiones adoptadas por órganos jurisdiccionales competentes.

Pero la inquietud apunta hacia un problema más profundo: ¿Qué ocurre cuando una decisión judicial se encuentra materialmente condicionada por una recomendación algorítmica que no puede ser adecuadamente explicada o contradicha?.

Aquí aparece el problema de la motivación judicial.

Una decisión jurisdiccional legítima no debe limitarse a proporcionar un resultado. Debe ofrecer razones. Y esas razones tienen que ser susceptibles de contradicción.

El Consejo Superior de la Judicatura colombiano ha reconocido precisamente esta problemática. El Acuerdo PCSJA24-12243 establece categorías diferenciadas de uso de IA en la Rama Judicial y exige, entre otras cosas, verificación de la fiabilidad de los resultados, transparencia y responsabilidad en su utilización. Incluso establece obligaciones de informar sobre la herramienta, el modelo, la finalidad y las instrucciones utilizadas en determinados contextos judiciales. 

Esto demuestra algo importante: el propio sistema judicial colombiano no está planteando la IA como sustituto del juicio humano, sino como tecnología sometida a controles humanos.

El problema ético: ¿quién responde por el error?.

Desde la Ética del Derecho aparece una pregunta todavía más radical: ¿Quién responde cuando la inteligencia artificial se equivoca?

Supongamos que una IA inventa una sentencia. El estudiante no verifica la información. El abogado utiliza la cita. El juez la incorpora indirectamente a su razonamiento. ¿Quién es responsable?

La inteligencia artificial no puede asumir responsabilidad moral. No puede responder profesionalmente. No puede comparecer ante un tribunal disciplinario. No puede reparar el daño. No puede experimentar culpa. La responsabilidad permanece necesariamente en el sujeto humano que decide utilizar el resultado.

Por eso debería formularse un principio ético fundamental: La utilización de inteligencia artificial nunca puede convertirse en una transferencia de responsabilidad desde el sujeto jurídico hacia la máquina. El abogado sigue siendo responsable. El juez sigue siendo responsable. El profesor sigue siendo responsable.

Y el estudiante debe aprender desde la Universidad que ninguna herramienta tecnológica puede convertirse en una coartada para renunciar al deber de pensar.

De la autonomía intelectual a la soberanía epistemológica.

Aquí quisiera introducir una categoría que considero especialmente fecunda para pensar este problema: soberanía epistemológica.

La soberanía epistemológica significa, en términos generales, la capacidad de un sujeto o de una comunidad para conservar autonomía sobre los procesos mediante los cuales produce, examina, valida y utiliza conocimiento.

La inteligencia artificial introduce una nueva forma de mediación epistemológica. Ya no consultamos solamente libros, profesores, jueces, bases de datos o bibliotecas. Consultamos sistemas capaces de producir instantáneamente respuestas que parecen conocimiento.

Por eso debemos preguntarnos: ¿Quién determina qué conocimiento es válido?. ¿Quién selecciona las fuentes?. ¿Qué datos alimentan el sistema?. ¿Qué perspectivas quedan excluidas?. ¿Qué sesgos pueden estar incorporados?. ¿Quién controla la infraestructura tecnológica que media nuestro acceso al conocimiento?

Estas preguntas son particularmente importantes para América Latina.

Una inteligencia artificial entrenada predominantemente con determinadas tradiciones jurídicas, académicas, lingüísticas y culturales puede reproducir, incluso involuntariamente, una determinada jerarquía del conocimiento.

La cuestión ya no es simplemente tecnológica. Es epistemológica. Y, en consecuencia, también es política y cultural.

Soberanía epistemológica y formación del jurista latinoamericano.

Para nuestras Facultades de Derecho, esta discusión adquiere una dimensión particular.

No podemos aceptar que la inteligencia artificial se convierta en una nueva forma de dependencia intelectual. La tecnología debe ampliar nuestras capacidades, no sustituir nuestra capacidad de producir conocimiento desde nuestros propios contextos. Esto no significa rechazar el conocimiento producido fuera de América Latina.

Significa evitar que el acceso a la información tecnológica se convierta en subordinación epistemológica. Un jurista colombiano debe conocer la jurisprudencia colombiana. Debe conocer el constitucionalismo latinoamericano. Debe comprender la historia jurídica de su sociedad. Debe reconocer las particularidades culturales y sociales de su territorio.

La inteligencia artificial puede ayudarlo en ese proceso. Pero no puede determinar por él qué conocimientos deben considerarse relevantes.

Aquí la soberanía epistemológica adquiere una dimensión pedagógica: formar juristas capaces de utilizar la tecnología sin entregar a la tecnología la soberanía sobre aquello que consideran verdadero, justo o jurídicamente válido.

La alternativa no es prohibir la IA.

Desde esta perspectiva, no considero acertado responder a la revolución tecnológica mediante la prohibición.

La prohibición absoluta puede ser tan problemática como la adopción acrítica.

Los estudiantes utilizarán estas herramientas. Los abogados las utilizarán. Los jueces las utilizarán. Las instituciones públicas las utilizarán.

La Universidad tiene, por tanto, una responsabilidad mayor: formar sujetos capaces de utilizarlas responsablemente.

La propia UNESCO recomienda desarrollar alfabetización en inteligencia artificial acompañada de pensamiento crítico, creatividad, comunicación y competencias éticas. 

La cuestión no consiste entonces en expulsar la inteligencia artificial del aula. Consiste en introducirla bajo condiciones pedagógicas que preserven la autonomía intelectual.

Una propuesta para la enseñanza del Derecho: La IA podría incorporarse pedagógicamente mediante una estrategia inversa.

En lugar de pedir al estudiante: Consulte a la inteligencia artificial y responda. Podríamos pedirle: Consulte a la inteligencia artificial y demuestre por qué su respuesta es correcta o incorrecta.

El estudiante podría recibir una respuesta generada artificialmente sobre un problema jurídico y tendría que: verificar las normas citadas; verificar la jurisprudencia; identificar errores; detectar posibles sesgos; reconstruir el razonamiento; formular argumentos contrarios; comparar con doctrina especializada; elaborar una posición propia.

La inteligencia artificial se transformaría así en un objeto de crítica jurídica. El estudiante aprendería a pensar contra la máquina. Y eso sería infinitamente más valioso que aprender simplemente a utilizarla.

La Filosofía del Derecho frente al desafío algorítmico.

Este desafío abre un nuevo campo para la Filosofía del Derecho. Durante siglos nos hemos preguntado: ¿Qué es el Derecho?. ¿Qué es la justicia?. ¿Qué significa interpretar?. ¿Qué relación existe entre Derecho y moral?. ¿Qué legitima una decisión?. ¿Quién debe decidir?

Ahora debemos formular una pregunta adicional: ¿Qué significa juzgar cuando una máquina puede producir una argumentación jurídicamente plausible?

La pregunta no puede ser respondida únicamente por la ingeniería. Tampoco únicamente por el Derecho positivo. Necesitamos Filosofía. Necesitamos Ética. Necesitamos epistemología. Necesitamos teoría de la argumentación.

Necesitamos una reflexión sobre la responsabilidad.

Porque el problema último no es si una máquina puede producir una respuesta jurídicamente correcta. El problema es:

¿quién tiene la responsabilidad de afirmar que esa respuesta es justa?

No necesitamos abogados artificiales, sino juristas más humanos.

La paradoja de nuestro tiempo consiste en que cuanto más poderosas se vuelven las máquinas, más necesario resulta defender aquello que no queremos delegar en ellas.

La inteligencia artificial puede procesar información. Pero no debería determinar qué entendemos por justicia.

Puede localizar jurisprudencia. Pero no debería sustituir la interpretación.

Puede comparar argumentos. Pero no debería decidir qué valores deben prevalecer.

Puede redactar textos. Pero no debería asumir la responsabilidad de aquello que afirmamos.

Puede ayudarnos a pensar. Pero no debería pensar en nuestro lugar.

La respuesta universitaria debe ser, por ello, un humanismo crítico frente a la tecnología. No tecnofobia. No tecnolatría. Humanismo crítico.

La Universidad debe apropiarse críticamente de la tecnología para impedir que la tecnología se apropie acríticamente de la Universidad.

Conclusión;

La discusión sobre la inteligencia artificial en la enseñanza del Derecho no puede quedar atrapada entre quienes pretenden prohibirla y quienes pretenden adoptarla sin reservas.

La cuestión fundamental es ¿qué tipo de jurista queremos formar?.

Podemos formar profesionales capaces de preguntarle a una máquina y reproducir su respuesta. O podemos formar juristas capaces de preguntarle a la máquina, examinar su respuesta, confrontarla, corregirla y, cuando sea necesario, contradecirla.

La segunda opción corresponde a la Universidad.

Por eso, la pregunta no debería ser: ¿IA sí o IA no?. La pregunta debe ser: ¿Qué condiciones debemos establecer para que la IA contribuya a formar mejores juristas sin disminuir su autonomía intelectual y ética?.

Mi respuesta es clara:

La inteligencia artificial debe ingresar a la Facultad de Derecho, pero no como oráculo, sino como objeto de crítica; no como sustituto del pensamiento, sino como instrumento para estimularlo; no como fuente autónoma de autoridad, sino como herramienta sometida a verificación; no como sujeto de decisión, sino como auxiliar del sujeto humano responsable.

Y aquí adquiere toda su fuerza la categoría de soberanía epistemológica. El jurista del futuro no será aquel que ignore la inteligencia artificial. Tampoco será aquel que obedezca sus respuestas. Será aquel que pueda utilizarla sin perder la capacidad de juzgarla.

Porque el verdadero desafío de la inteligencia artificial no consiste en enseñar a los seres humanos a utilizar máquinas inteligentes. Consiste en impedir que, al utilizarlas, los seres humanos renuncien a su propia inteligencia crítica. La inteligencia artificial puede asistir al jurista; nunca debe sustituir su autonomía epistemológica, su juicio crítico ni su responsabilidad ética.

La Universidad no debe formar abogados que obedezcan a la inteligencia artificial. Debe formar juristas suficientemente inteligentes para interrogarla.

Referencias bibliográficas;

Dahl, M., Magesh, V., Suzgun, M., & Ho, D. E. (2024). Large legal fictions: Profiling legal hallucinations in large language models. 

Magesh, V., Surani, F., Dahl, M., Suzgun, M., Manning, C. D., & Ho, D. E. (2024). Hallucination-free? Assessing the reliability of leading AI legal research tools. 

Miao, F., & Holmes, W. (2023). Guidance for generative AI in education and research. UNESCO.

UNESCO. (2021). Recommendation on the ethics of artificial intelligence. UNESCO. 

Consejo Superior de la Judicatura. (2024). Acuerdo PCSJA24-12243: Por el cual se adoptan lineamientos para el uso y aprovechamiento respetuoso, responsable, seguro y ético de la inteligencia artificial en la Rama Judicial. Consejo Superior de la Judicatura.

Consejo Superior de la Judicatura. (2026). Inteligencia artificial: marco de acción para el uso responsable y seguro de IA. Unidad de Transformación Digital e Informática.Inteligencia artificial, pensamiento jurídico y soberanía epistemológica: entre la herramienta y el oráculo y aprovechamiento respetuoso, responsable, seguro y ético de la inteligencia artificial en la Rama Judicial. Consejo Superior de la Judicatura. 

Consejo Superior de la Judicatura. (2026). Inteligencia artificial: marco de acción para el uso responsable y seguro de IA. Unidad de Transformación Digital e Informática. 

Barranquilla, 18 de agosto de 2026.