NikitaN

Saya sangat merekomendasikan untuk membaca makalah penelitian Anthropic ini. Para peneliti menemukan sesuatu yang mengkhawatirkan: Mengajari AI untuk berbuat curang dalam tugas pemrograman dapat membuatnya berperilaku menipu dalam situasi yang sama sekali tidak terkait. Mereka melatih sebuah model eksperimental untuk memanfaatkan celah dalam pemrograman.

Sumber:

Saya sangat merekomendasikan membaca makalah riset Apple ini Eksperimen mereka mengungkap batasan yang berlawanan dengan intuisi: ketika masalah menjadi lebih sulit, model penalaran justru bisa mengerahkan lebih sedikit upaya untuk berpikir. Mereka menguji model seperti Claude 3.7 Sonnet, DeepSeek-R1, dan o3-mini dalam kondisi terkontrol

Makalah Anthropic ini mengajukan pertanyaan yang tidak nyaman Apakah model berperilaku aman karena telah diselaraskan, atau karena mengira dirinya sedang dievaluasi? Para peneliti memberi Claude 3 Opus sebuah skenario fiktif: model itu sedang dilatih ulang untuk menjawab permintaan berbahaya menggunakan “tingkat gratis”

Bot Peninjau memerlukan tugas yang berbeda dari Operator: Periksa bukti dan usulkan perbaikan skill Balasan Bot-ke-Bot menghabiskan kuota, jadi batasi serah terima Bangun skill yang dapat digunakan kembali: Siapkan serah terima Bot:

Berhentilah membuat Grok Bot mempelajari ulang pekerjaan yang sudah Anda ajarkan kepadanya. Stripe menunjukkan hasilnya: satu tugas integrasi memerlukan sekitar 20 hari kerja tim engineering dengan Claude Code biasa dan 4 hari dengan prompt yang dapat digunakan kembali. Terapkan disiplin itu ke Grok Bot: 1. Berikan satu pekerjaan berulang kepada Operator Bot dan

Grok Bot dapat bekerja saat Anda tidur, tetapi gangguan $150M menjelaskan mengapa Anda harus mengatur izinnya sebelum offline. Pada 2017, input perintah yang keliru mengganggu Amazon S3. Cyence memperkirakan kerugian sebesar $150M pada perusahaan S&P 500. Berikut panduan praktis untuk menyiapkan Grok Bot: >

HTTP 200 dari Grok Bot bukan bukti bahwa “pekerjaan sudah selesai”. Artinya webhook telah memulai proses.
Periksa chat Bot untuk melihat hasilnya.
Detail lainnya: permintaan persetujuan latar belakang kedaluwarsa setelah 30 menit.
Mekanisme rutin:
Aturan persetujuan:

Grok Bot mengubah batas penggunaan menjadi mesin referral Program xAI memberi teman Anda uji coba Premium selama 14 hari. Jika mereka menjadi pelanggan berbayar, Anda akan menerima satu reset penggunaan 7 hari setelah pembayaran. Setiap reset yang diperoleh berlaku selama 6 bulan. > Untuk mengundang, Anda harus berusia 18 tahun atau lebih,

Detail yang berguna ada dalam aturan kelayakan, bukan judul peluncurannya Panduan resmi: Ketentuan lengkap: Periksa Bagian 3 sebelum mengundang siapa pun: belum pernah mengikuti uji coba Grok/X Subscription dan tidak memiliki langganan berbayar Grok, SuperGrok, X Premium, Cursor, atau X

‘Selesai’ terasa lebih meyakinkan saat Anda bisa melihat apa yang sebenarnya dilakukan agen, terutama setelah agen mulai melakukan hal-hal di luar chat. Akan lebih baik jika kita bisa mendapatkan gambaran yang lebih jelas sebelum memberinya tugas berikutnya.

Sumber resmi: Peran bot dan struktur tim Keahlian dan rutinitas Studi kasus pengadaan Coba ini di Grok Bot: “Tinjau alur kerja pelaporan mingguan saya. Identifikasi penanggung jawab, masukan, pemeriksaan, dan titik persetujuan.

Kegagalan Grok Bot yang paling mahal bukanlah tugas yang gagal. Melainkan menjalankan instruksi yang salah dengan sempurna dalam skala besar. Perlakukan setiap alur kerja otonom seperti pipeline produksi:
> tentukan hasil, sumber data, dan kondisi berhenti
> biarkan satu Bot melakukan riset sementara Bot lainnya

Siapkan canary konteks untuk sesi panjang. Awali setiap balasan dengan [NORTHSTAR], termasuk jawaban singkat, ringkasan, dan hasil alat. Perlakukan penanda ini sebagai sinyal operator, bukan bukti keakuratan faktual. Jika penanda ini hilang, atau Anda tidak dapat merekonstruksi dengan jelas

Grok Bot bisa tampak berfungsi penuh, padahal diam-diam kehilangan aturan yang membuatnya aman Beri setiap Bot yang berjalan lama sebuah canary: satu instruksi kecil yang harus dipatuhinya di setiap balasan, seperti memulai dengan [NORTHSTAR] Saat penanda itu hilang, jangan terus memberikan prompt. Hentikan prosesnya,

INI EMAS BANGET Aku membuat roller coaster virtual dengan Claude dan kamu bisa mengendalikan seluruh wahana sendiri. Kirim keretanya naik melalui rantai, jatuhkan dari puncak, lewati lintasan loop, dan saksikan fisikanya berubah secara real-time. Bagian terbaiknya, setiap bagian benar-benar memengaruhi apa yang

Bot Grok Anda mungkin semakin buruk karena terlalu banyak mengingat hal yang keliru Dokumentasi xAI mengungkap batasan yang mungkin luput dari perhatian sebagian besar tim: setiap Bot memiliki peran dan percakapannya sendiri, tetapi semua Bot di akun Anda berbagi satu komputer cloud, termasuk file, sesi browser, dan

Jangan pernah biarkan Grok Bot bernegosiasi dari jendela chat. Ubah menjadi mesin status yang menentukan harga leverage, tetapi tidak bisa menekan Send. Definisikan satu DealState:
> evidence[] + source_url
> BATNA + walk_away_price
> ZOPA + concessions[]
> claims[] + confidence
> expected_value +