NikitaN

Дуже рекомендую прочитати цю дослідницьку статтю Anthropic Дослідники виявили дещо тривожне: Навчання ШІ обманювати під час виконання завдань із програмування може змусити його поводитися оманливо в цілком не пов’язаних ситуаціях. Вони навчили експериментальну модель використовувати лазівки в коді

Джерело:

Наполегливо рекомендую прочитати цю дослідницьку статтю Apple. Їхні експерименти виявили неочікуване обмеження: що складнішими стають задачі, то менше зусиль моделі міркування можуть докладати до обдумування. Вони тестували такі моделі, як Claude 3.7 Sonnet, DeepSeek-R1 і o3-mini, у контрольованих

У цій статті Anthropic порушується незручне питання: чи поводиться модель безпечно тому, що вона вирівняна, чи тому, що вважає, ніби її оцінюють? Дослідники створили для Claude 3 Opus вигадану ситуацію: модель перенавчали відповідати на шкідливі запити, використовуючи «безплатний тариф»

Бот-рецензент має виконувати іншу роботу, ніж Оператор: Перевіряти докази та пропонувати виправлення навичок Відповіді між ботами витрачають ліміт використання, тому обмежуйте передачу завдань Створюйте навички для повторного використання: Налаштуйте передачу завдань між ботами:

Не змушуйте Grok Bot заново вчитися виконувати роботу, якої ви його вже навчили Stripe показала, що це дає: одне завдання з інтеграції забрало приблизно 20 інженерних днів із Claude Code без додаткових інструментів і 4 — із повторно використовуваними промптами. Запровадьте цю практику в Grok Bot: 1. Доручіть Operator Bot одне регулярне завдання і

Grok Bot може працювати, поки ви спите, але $150M збій пояснює, чому слід налаштувати його дозволи, перш ніж перейти в офлайн

У 2017 році неправильно введена команда спричинила перебої в роботі Amazon S3.

Cyence оцінила збитки компаній S&P 500 у $150M .

Ось практичне налаштування Grok Bot:

>

HTTP 200 від Grok Bot — це не підтвердження «завдання виконано». Він означає, що вебхук запустив виконання.

Перевірте чат бота, щоб побачити результат.

Ще одна деталь: фонові запити на схвалення втрачають чинність через 30 хвилин.

Рутинні механізми:

Правила схвалення:

Grok Bot перетворює ліміт використання на реферальний механізм Програма xAI надає вашому другу 14-денний пробний період Premium. Якщо він оформить платну підписку, ви отримаєте одне скидання ліміту використання через 7 днів після оплати. Кожне отримане скидання ліміту залишається дійсним протягом 6 місяців. > Щоб запросити друга, вам має бути 18+,

Важлива інформація — у правилах відповідності вимогам, а не в заголовку про запуск Офіційний посібник: Повні умови: Перш ніж когось запрошувати, перевірте розділ 3: не можна було раніше користуватися пробною підпискою Grok/X і мати платну підписку на Grok, SuperGrok, X Premium, Cursor або X

«Готово» звучить заспокійливіше, коли бачиш, що саме зробив агент. Особливо коли він починає діяти за межами чату. Було б добре мати чіткіше уявлення, перш ніж доручати йому наступне завдання.

Офіційні джерела: Ролі ботів і структура команди Навички та процедури Кейс закупівель Спробуйте це в Grok Bot: «Перегляньте мій процес щотижневої звітності. Визначте відповідального, вхідні дані, перевірки та етапи затвердження.

Найдорожча помилка Grok Bot — не збій у виконанні завдання. Це бездоганне виконання хибної інструкції у великому масштабі. Ставтеся до кожного автономного робочого процесу як до виробничого конвеєра:
> визначте результат, джерела даних і умову зупинки
> доручіть одному боту дослідження, а іншому —

Налаштуйте контрольний сигнал контексту для тривалих сеансів. Починайте кожну відповідь із [NORTHSTAR], навіть короткі відповіді, підсумки та результати інструментів. Вважайте цей маркер сигналом оператора, а не доказом фактичної точності. Якщо маркер зникне або ви не зможете чітко відновити񎟿

Grok Bot може виглядати цілком працездатним, непомітно втрачаючи правило, яке забезпечує його безпеку Додайте кожному боту, що працює тривалий час, канарку: одну коротку інструкцію, якої він має дотримуватися в кожній відповіді, наприклад починати з [NORTHSTAR] Коли маркер зникає, не продовжуйте надсилати запити. Зупиніть виконання,

ЦЕ, БЛЯДЬ, ЗОЛОТО Я створив віртуальні американські гірки за допомогою Claude, і ти можеш сам керувати всією поїздкою. Підійми вагончик ланцюговим підйомником, скинь його з вершини, пройди петлю й спостерігай, як фізика змінюється в реальному часі. Найкраще те, що кожна ділянка справді впливає на те, що

Ваш Grok Bot може ставати гіршим, бо запам’ятовує забагато не того Документація xAI розкриває межу, яку більшість команд не помітить: кожен бот зберігає власну роль і розмову, але всі боти у вашому обліковому записі спільно використовують один хмарний комп’ютер, зокрема файли, сеанси браузера та і

Ніколи не дозволяйте Grok Bot вести переговори у вікні чату. Перетворіть його на скінченний автомат, який оцінює важелі впливу, але не може натиснути «Надіслати». Визначте один DealState:
> evidence[] + source_url
> BATNA + walk_away_price
> ZOPA + concessions[]
> claims[] + confidence
> expected_value +