Với danh nghĩa ngăn chặn Altman trở nên xấu để tập trung quyền lực, cựu nhân viên tiết lộ Anthropic lại đang chìm sâu vào thần thoại 'người tốt' và chế độ độc tài.

ME News tin tức, ngày 26 tháng 6 (UTC+8), tiết lộ sự bất đồng trong nội bộ công ty về đánh giá quản trị.
Có cựu nhân viên tiết lộ, trong công ty tồn tại bầu không khí tranh luận sôi nổi; nhưng một cựu nhân viên khác lại vẽ nên một bức tranh ảm đạm hơn, cho rằng những chỉ trích sắc bén về cơ bản bị cô lập trong các nhóm chat riêng tư, các cuộc họp toàn thể thông thường thậm chí còn bị nhân viên gọi đùa là "Dario Vision Quests".
Nghe CEO Dario Amodei phát biểu giống như "nghe mục sư giảng đạo (sermon)", hiếm có ai trong các cuộc họp công khai thách thức quyết định của ban quản lý.
Gốc rễ của bầu không khí ảm đạm nằm ở niềm tin an ninh tinh hoa ăn sâu của Anthropic về "lấy tấn công để phòng thủ".
Ban lãnh đạo trong nội bộ cực lực coi CEO OpenAI Sam Altman (cũng như Meta và xAI) là hình mẫu phản diện, đồng thời truyền bá cho nhân viên logic tinh hoa: phải duy trì vị thế dẫn đầu ngành về thương mại, sức mạnh tính toán và nhân tài nghiên cứu, mới có tư cách nắm quyền phát ngôn khi xây dựng quy tắc.
Cựu giám đốc OpenAI Helen Toner từng đưa ra phép ẩn dụ về khu rừng: dân làng dù thế nào cũng sẽ tràn vào khu rừng ma thuật đầy quái vật, chiến lược của Anthropic là đi trước một bước tiến sâu vào rừng, vừa giải phóng cổ tức công nghệ vừa thuần hóa quái vật, đồng thời kiểm soát rủi ro thảm họa.
Việc theo đuổi quyền thống trị công nghệ cũng khiến các lựa chọn an ninh và đạo đức của Anthropic thường xuyên gây tranh cãi.
Mùa thu năm 2024, ban lãnh đạo bất chấp sự phản đối nội bộ, bắt tay với Palantir mở dịch vụ cho các cơ quan tình báo và quốc phòng Hoa Kỳ.
Hiện tại Claude đã được xác nhận sử dụng để nhận dạng mục tiêu trong xung đột Trung Đông, khi đối mặt với chất vấn về các cuộc tấn công gây thương vong dân thường, Amodei tuy bày tỏ không biết, nhưng biện minh rằng "miễn là con người đưa ra quyết định cuối cùng, việc sử dụng công nghệ là hợp quy".
Tháng 6 năm nay, đội phát triển đã âm thầm nhúng mã phá hoại trong mô hình hàng đầu Claude Fable 5 để bí mật can thiệp vào sự phát triển vi phạm quy định.
Nhưng sau khi vấp phải sự phản đối mạnh mẽ từ ngành, công ty buộc phải thỏa hiệp, tuyên bố điều chỉnh cơ chế can thiệp bí mật thành các giới hạn an ninh công khai có thể thấy.
Giới phê bình chỉ ra rằng, việc đặt cược hoàn toàn an ninh AI tiên tiến vào cảm giác ưu việt đạo đức của một số ít tinh hoa, chắc chắn sẽ mang lại điểm mù tự kỷ luật không thể tránh khỏi.
(Nguồn: BlockBeats)
Xem bản gốc
Trang này có thể chứa nội dung của bên thứ ba, được cung cấp chỉ nhằm mục đích thông tin (không phải là tuyên bố/bảo đảm) và không được coi là sự chứng thực cho quan điểm của Gate hoặc là lời khuyên về tài chính hoặc chuyên môn. Xem Tuyên bố từ chối trách nhiệm để biết chi tiết.
  • Phần thưởng
  • Bình luận
  • Đăng lại
  • Retweed
Bình luận
Thêm một bình luận
Thêm một bình luận
Không có bình luận