я создаю ИИ, который отвечает на нигерийские юридические вопросы, исходя из текста действующих законов.

одна из задач — сильно предотвратить галлюцинации, что, похоже, работало, пока я не задал ему простой вопрос —
«как подать уголовное дело в суд?»
вопрос, который не имеет ничего общего с корпоративным правом. Он должен был сказать «я не могу найти этого».
вместо этого он нашел косвенно связанный раздел и уверенно дал ответ с настоящей цитатой.
это ПРОБЛЕМА при использовании ИИ для права, неправильная цитата может стоить вам карьеры.
каждый юрист, с которым я говорил, говорит то же самое: общие инструменты ИИ придумывают нигерийские цитаты, и им нельзя доверять.
теперь, сложная часть — не заставить ИИ отвечать, а заставить его честно сказать «я не знаю».
именно это я собираюсь исправить дальше. будь там!