я не хотів агента ШІ з доступом до всього мого життя.


я хотів агента, з яким команда зможе зрештою спілкуватися безпосередньо.
але я не хотів, щоб "поговорити з агентом ABALLE" таїло в собі приховане значення "дати команді бічний хід у мій особистий сховище Obsidian."
тому я налаштував Olivia: @NousResearch агент Hermes для ABALLE, що працює на VPS, живе у Discord, з політикою дозволів, підписаною @Ledger.
повний сховище залишається локальним.
VPS отримує курований пакет контексту ABALLE.
Olivia може читати нотатки ABALLE, зустрічі, операційні документи та матеріали репозиторію.
мета не лише зручність.
мета — ізоляція.
контекст ABALLE має бути поділений з Olivia.
мої нотатки для торгівлі, контакти, приватні проекти та несуміжний матеріал сховища не повинні.
вона може писати до роботи + вихідної скриньки.
вона не може тихо редагувати моє сховище Obsidian.
вона не має sudo, доступу до торгівлі, особистих контактів, широкого .env і ключів Shopify/Omnisend/Meta у реальному часі.
потім я підписав маніфест дозволу з моїм Ledger.
Мій Ledger схвалює політику.
Unix-права, конфіг Hermes, systemd і обмежені обгортки забезпечують її дотримання.
ця ізоляція — те, що робить можливим версію для команди пізніше.
інші люди можуть взаємодіяти з Olivia у Discord і передавати сигнали назад у систему.
але Olivia має лише ту частину контексту у формі ABALLE, яку їй надали.
не все, що я знаю.
не все, над чим я працюю.
не все у сховищі.
це здається правильним примітивом.
безпека агента не повинна базуватися на "промпт сказав бути обережним."
вона має бути:
1. явна політика
2. підписана влада
3. обмежений час виконання
4. переглянута вихідна скринька
5. новий підпис для нових повноважень
наступне: Omnisend.
Olivia має мати можливість читати метрики списків/привітальних потоків і створювати проєктні черновики кампаній.
але не відправляти.
не планувати.
не змінювати контакти.
не змінювати теги.
не торкатися автоматизацій.
обмежена автономія > один бог-агент.
модель має значення.
архітектура дозволів має ще більше значення.
Переглянути оригінал
Ця сторінка може містити контент третіх осіб, який надається виключно в інформаційних цілях (не в якості запевнень/гарантій) і не повинен розглядатися як схвалення його поглядів компанією Gate, а також як фінансова або професійна консультація. Див. Застереження для отримання детальної інформації.
  • Нагородити
  • Прокоментувати
  • Репост
  • Поділіться
Прокоментувати
Додати коментар
Додати коментар
Немає коментарів
  • Закріплено