Крупные AI-компании, оказывается, очень любят нанимать философов？！

Последняя версия «устава Claude» разработана при ведущей роли философа Аманда,
в ключевых должностях Anthropic как минимум 4 философа, в DeepMind — минимум 10, а когда OpenAI формировала правила поведения для ChatGPT, она также консультировалась со сотнями специалистов по этической философии.
AI приносит целую цепочку сложных проблем, а именно с ними философы особенно хорошо справляются.
Во‑первых, философы могут очертить для AI границы поведения.
AI нужно решать, какие запросы следует отклонять, что защищать в первую очередь, когда безопасность и желания пользователя конфликтуют: эти вопросы связаны с пониманием вреда, честности и ответственности — тем, чем философы давно занимаются в исследованиях.
Они способны превращать размытые ценностные суждения в принципы, которым модель может следовать.
Во‑вторых, философская подготовка может снизить чрезмерную уверенность AI и его стремление угождать.
AI склонен давать утвердительные ответы, когда не уверен, и продолжает отвечать в русле мнения пользователя.
Философская подготовка уделяет внимание проверке предпосылок и аргументации: сократические непрерывные вопросы могут помочь модели обнаружить противоречия и признать границы своего знания.
Наконец, философы могут помочь AI работать с выборами, у которых нет стандартных ответов.
Как уменьшить вред при авариях беспилотников, как реагировать модели эмоциональной поддержки, когда возникает риск самоповреждения, — в этих ситуациях нет простых решений.
Философы давно изучают подобные вопросы: они подтверждают, какие красные линии нельзя пересекать, а затем анализируют, какие последствия повлечёт каждый вариант.