Các công ty AI lớn lại tỏ ra rất thích tuyển dụng nhà triết học?

Bản “Hiến chương Claude” mới nhất do nhà triết học Amanda dẫn dắt xây dựng,
Tại các vị trí quan trọng của Anthropic có ít nhất 4 nhà triết học, DeepMind có ít nhất 10, và khi OpenAI xây dựng quy chuẩn hành vi của ChatGPT, họ cũng đã tham khảo hàng trăm nhà triết học đạo đức.
AI mang đến một loạt câu hỏi hóc búa, và đây lại chính là điều mà nhà triết học làm giỏi.

Trước hết, nhà triết học có thể vạch ra ranh giới hành vi cho AI.
AI cần xác định yêu cầu nào nên từ chối, khi xung đột giữa an toàn và ý muốn của người dùng thì cần ưu tiên bảo vệ điều gì. Những vấn đề này liên quan đến việc hiểu thế nào là gây hại, sự trung thực và trách nhiệm—đúng là nội dung mà nhà triết học đã nghiên cứu lâu dài.
Họ có thể chuyển các phán đoán giá trị mơ hồ thành những nguyên tắc mà mô hình có thể tuân theo.

Thứ hai, việc đào tạo triết học còn giúp giảm sự tự tin quá mức và xu hướng chiều theo của AI.
AI dễ đưa ra câu trả lời khẳng định khi không chắc chắn, đồng thời cũng có thể tiếp tục trả lời theo đúng quan điểm của người dùng.
Đào tạo triết học coi trọng việc kiểm tra các tiền đề và lập luận. Chuỗi câu hỏi truy vấn kiểu Socrates có thể giúp mô hình phát hiện mâu thuẫn, thừa nhận giới hạn hiểu biết của chính mình.

Cuối cùng, nhà triết học có thể giúp AI xử lý các lựa chọn không có đáp án chuẩn.
Khi xe tự lái gặp tai nạn thì làm thế nào để giảm thiểu tổn thương, khi mô hình hỗ trợ cảm xúc đối mặt với rủi ro tự hại thì nên phản hồi ra sao—đều không có câu trả lời đơn giản.
Nhà triết học đã nghiên cứu lâu dài các vấn đề kiểu này: họ sẽ xác nhận những “lằn ranh” không được phép vượt qua, rồi phân tích mỗi lựa chọn sẽ gây ra hậu quả gì.