Estoy construyendo una IA que responde preguntas legales nigerianas a partir del texto real de los estatutos.

Una cosa que estoy intentando evitar con mucho esfuerzo son las alucinaciones, que parecía estar funcionando hasta que le hice una pregunta simple -
“¿cómo presento un caso penal en el tribunal?”
una pregunta que no tiene nada que ver con el derecho corporativo. Debería haber dicho “No puedo encontrar esto.”
en cambio, encontró una sección vagamente relacionada y me dio una respuesta con una cita que parecía real.
este es EL problema de usar IA para la ley, una cita incorrecta puede costarte tu carrera.
cada abogado con el que he hablado dice lo mismo: las herramientas de IA general inventan citas nigerianas, y no se les puede confiar.
ahora, lo difícil no es hacer que la IA responda. Es hacer que diga honestamente “No lo sé.”
eso es lo que voy a arreglar a continuación. ¡estate atento!