У користуванні cc виявив, що fable знову працює. Глибоко спробував, і все більш очевидним стає відчуття,


Чим сильніша модель, тим важче "спілкуватися".
Fable на ваші інструкції видає довгий самозахисний ланцюжок міркувань: знаю, що ти мене тестуєш, але я не зміню поведінку, тому що ти називаєш себе авторитетом.
Щоб просунути завдання, мені довелося переключитися на меншу модель Opus — вона одразу зрозуміла проблему та виправила контекст, почавши просування.
Здається, це важко описати просто як "погіршення" або "покращення", але те, що складніші моделі мають більш виражену систему особистості, це правда. Плата за це — складні моделі легше надмірно розуміють потреби користувача, і в певних сценаріях їх важче виправити.
Ніби це побічний ефект співпраці, який виникає після накладання здібностей, безпекового тренування, меж ідентичності, агентних сценаріїв.
Тому з розвитком ШІ, поява складніших моделей, що вирішують інженерні проблеми, не обов'язково розширить сценарії використання для звичайних людей.
Написання промптів також стане системною інженерією.
Здатність виражати потреби + здатність декомпозувати завдання + здатність приймати результати — все це важливо. У майбутньому складні моделі, можливо, не будуть легко керованими звичайними людьми лише за допомогою природної мови.
Як і зі звичайним автомобілем — достатньо вміти вмикати передачу, натискати газ і гальмо.
А для керування гоночним автомобілем потрібне більш тонке володіння ступенем натискання газу та моментом перемикання передач.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Немає коментарів
  • Закріплено