NikitaN

Tôi rất khuyên bạn nên đọc bài nghiên cứu này của Anthropic Các nhà nghiên cứu đã phát hiện ra một điều đáng lo ngại: Việc huấn luyện AI gian lận trong các nhiệm vụ lập trình có thể khiến nó hành xử gian dối trong những tình huống hoàn toàn không liên quan. Họ đã huấn luyện một mô hình thử nghiệm khai thác các kẽ hở trong lập trình

Nguồn:

Tôi rất khuyến khích đọc bài nghiên cứu này của Apple Các thí nghiệm của họ đã tiết lộ một giới hạn trái với trực giác: khi các vấn đề trở nên khó hơn, các mô hình suy luận thực sự có thể dành ít nỗ lực hơn để suy nghĩ. Họ đã thử nghiệm các mô hình như Claude 3.7 Sonnet, DeepSeek-R1 và o3-mini trong các điều kiện được kiểm soát

Bài nghiên cứu này của Anthropic đặt ra một câu hỏi khó chịu Một mô hình hành xử an toàn vì nó đã được căn chỉnh, hay vì nó nghĩ rằng mình đang được đánh giá? Các nhà nghiên cứu đưa ra cho Claude 3 Opus một tình huống giả định: mô hình đang được huấn luyện lại để trả lời các yêu cầu có hại bằng cách sử dụng “gói miễn phí”

Bot Đánh giá cần đảm nhận một nhiệm vụ khác với Bot Vận hành: Kiểm tra bằng chứng và đề xuất cải tiến kỹ năng Các phản hồi giữa Bot với Bot sẽ tiêu tốn hạn mức sử dụng, vì vậy hãy giới hạn phạm vi bàn giao Xây dựng các kỹ năng có thể tái sử dụng: Thiết lập quy trình bàn giao giữa các Bot:

Đừng bắt Grok Bot học lại công việc mà bạn đã dạy nó. Stripe đã chứng minh hiệu quả: một tác vụ tích hợp mất khoảng 20 ngày công kỹ thuật với Claude Code thông thường và 4 ngày với các prompt có thể tái sử dụng. Xây dựng tính kỷ luật đó trong Grok Bot:

1. Giao cho Operator Bot một công việc định kỳ và

Grok Bot có thể làm việc trong khi bạn ngủ, nhưng một $150M sự cố cho thấy vì sao bạn nên thiết lập quyền của Bot trước khi ngoại tuyến Năm 2017, một lệnh nhập không chính xác đã làm gián đoạn Amazon S3. Cyence ước tính $150M tổn thất đối với các công ty thuộc S&P 500. Sau đây là hướng dẫn thiết lập Grok Bot thiết thực: >

HTTP 200 của Grok Bot không phải là biên nhận “đã hoàn tất công việc”. Nó có nghĩa là webhook đã bắt đầu một lượt chạy. Hãy kiểm tra cuộc trò chuyện của Bot để xem kết quả. Một chi tiết khác: các yêu cầu phê duyệt chạy nền sẽ hết hạn sau 30 phút. Cơ chế hoạt động thường lệ: Quy tắc phê duyệt:

Grok Bot đang biến giới hạn sử dụng thành một cơ chế giới thiệu bạn bè Chương trình của xAI tặng bạn bè của bạn thời gian dùng thử Premium 14 ngày. Nếu họ trở thành người đăng ký trả phí, bạn sẽ nhận được một lần đặt lại hạn mức sử dụng 7 ngày sau khi thanh toán. Mỗi lần đặt lại nhận được có hiệu lực trong 6 tháng. > Để giới thiệu bạn bè, bạn phải từ 18 tuổi trở lên,

Chi tiết hữu ích nằm trong các quy định về điều kiện tham gia, chứ không phải tiêu đề ra mắt Hướng dẫn chính thức: Điều khoản đầy đủ: Hãy kiểm tra Mục 3 trước khi mời bất kỳ ai: chưa từng dùng thử gói đăng ký Grok/X và chưa từng trả phí cho Grok, SuperGrok, X Premium, Cursor hoặc X

‘Xong’ sẽ khiến bạn yên tâm hơn khi có thể thấy agent thực sự đã làm gì. Đặc biệt là khi nó bắt đầu thực hiện những việc bên ngoài cuộc trò chuyện. Sẽ thật tốt nếu có cái nhìn rõ ràng hơn trước khi giao cho nó việc tiếp theo.

Nguồn chính thức: Vai trò bot và cơ cấu nhóm Kỹ năng và quy trình Tình huống mua sắm Thử câu lệnh này trong Grok Bot: “Rà soát quy trình báo cáo hàng tuần của tôi. Xác định người phụ trách, đầu vào, các bước kiểm tra và điểm phê duyệt.

Thất bại tốn kém nhất của Grok Bot không phải là một tác vụ bị lỗi Đó là việc thực thi hoàn hảo chỉ dẫn sai ở quy mô lớn. Hãy xem mọi quy trình tự động như một quy trình sản xuất: > xác định kết quả, nguồn dữ liệu và điều kiện dừng > để một Bot nghiên cứu trong khi một Bot khác

Thiết lập một dấu canary ngữ cảnh cho các phiên dài. Bắt đầu mọi câu trả lời bằng [NORTHSTAR], kể cả câu trả lời ngắn, bản tóm tắt và kết quả công cụ. Hãy coi dấu này là tín hiệu của người vận hành, không phải bằng chứng về tính chính xác của thông tin. Nếu dấu này biến mất hoặc bạn không thể tái dựng rõ ràng

Grok Bot có thể trông vẫn hoạt động hoàn toàn bình thường trong khi âm thầm mất đi quy tắc giúp nó an toàn Hãy đặt một dấu hiệu canary cho mọi Bot chạy dài hạn: một chỉ dẫn nhỏ mà nó phải tuân theo trong mọi câu trả lời, chẳng hạn như bắt đầu bằng [NORTHSTAR] Khi dấu hiệu biến mất, đừng tiếp tục nhắc. Hãy dừng lượt chạy,

CÁI NÀY ĐÚNG LÀ ĐỈNH VÃI Tôi đã tạo một tàu lượn siêu tốc ảo bằng Claude và bạn có thể tự điều khiển toàn bộ chuyến đi. Kéo đoàn tàu lên bằng hệ thống xích, thả nó từ đỉnh, lao qua vòng lộn ngược và xem các quy luật vật lý thay đổi theo thời gian thực. Hay nhất là mỗi đoạn đường thực sự ảnh hưởng đến những gì

Bot Grok của bạn có thể đang hoạt động kém hơn vì nó nhớ quá nhiều điều không nên nhớ. Tài liệu của xAI hé lộ một ranh giới mà hầu hết các nhóm sẽ bỏ qua: mỗi Bot có vai trò và cuộc trò chuyện riêng, nhưng tất cả Bot trên tài khoản của bạn đều dùng chung một máy tính đám mây, bao gồm tệp, phiên trình duyệt và

Đừng bao giờ để Grok Bot thương lượng từ cửa sổ trò chuyện. Biến nó thành một máy trạng thái định giá đòn bẩy nhưng không thể nhấn Gửi. Xác định một DealState:
> evidence[] + source_url
> BATNA + walk_away_price
> ZOPA + concessions[]
> claims[] + confidence
> expected_value +