Tôi đã đọc bài báo mới của PIArena về tiêm lệnh (prompt injection).

Điều tôi rút ra rõ ràng là. An ninh ở lớp mô hình là không đủ.
Bài báo cho thấy:
- Các biện pháp phòng thủ thất bại trên nhiều nhiệm vụ
- Các hệ thống bị phá vỡ dưới các cuộc tấn công thích ứng
- Khả năng tổng quát vẫn còn yếu
Điều này chỉ ra một vấn đề sâu hơn. Bạn không thể dựa vào trí tuệ một mình để thực thi kết quả.
Đây là nơi @BosonProtocol trở nên quan trọng.
Boson không phụ thuộc vào hành vi của mô hình. Nó thực thi kết quả ở cấp độ giao thức.
- Quỹ bị khóa trước khi thực thi
- Thanh toán theo các quy tắc đã định sẵn
- Động lực phù hợp với tất cả các bên tham gia
Ngay cả khi một đại lý bị thao túng, giao dịch vẫn được giải quyết chính xác.
- Bạn cần cả hai lớp.
- Trí tuệ để quyết định.
- Giao thức để thực thi.
PIArena làm nổi bật khoảng cách đó. Boson lấp đầy nó.
Thật đáng đọc:
Thêm về Giao thức Boson: