Sử dụng mô hình an toàn để bảo vệ mô hình không an toàn và sử dụng hệ thống thông minh để chống lại các cuộc tấn công từ thông tin tình báo. Bài viết này là từ một bài báo được viết bởi Windrush và được in lại bởi TechFlow Deep Tide. (Tóm tắt nội bộ: Pakistan công bố 2.000 megawatt điện cho "Trung tâm khai thác Bitcoin và AI" Thủ tướng bổ nhiệm trợ lý đặc biệt về blockchain và tiền điện tử) (Bổ sung cơ bản: Hòn Hải thử nghiệm nội bộ: AI có thể thay thế 80% việc làm, chủ tịch Liu Yangwei tiết lộ bản thiết kế bộ ba của nhà máy tương lai) Những người đam mê đang bắt đầu kinh doanh, Xiaobai đang mua các lớp học, và các họa sĩ thất nghiệp, nhưng một thực tế đáng xấu hổ là: AI hạ cánh rất nóng, nhưng cốt truyện không đi theo con đường ra đời, mà là tung xúc xắc. Hơn nữa, trong những ngày đầu của ngành công nghiệp, bề mặt đầu tiên của xúc xắc này thường có màu vàng hoặc xám. Lý do cũng rất đơn giản, lợi nhuận khổng lồ tạo đà, chưa kể giai đoạn đầu phát triển, luôn đầy kẽ hở. Nhìn vào bộ dữ liệu này, rõ ràng: Hiện tại, hơn 43% các nút dịch vụ MCP có đường dẫn gọi shell chưa được xác minh và hơn 83% triển khai có lỗ hổng cấu hình MCP (Model Context Protocol); 88% việc triển khai thành phần AI hoàn toàn không có bất kỳ hình thức bảo vệ nào được kích hoạt; 150.000 khung triển khai AI nhẹ như Ollama hiện đang được hiển thị trên mạng công cộng toàn cầu và hơn 1 tỷ đô la sức mạnh tính toán đã bị chiếm đoạt để khai thác...... Trớ trêu thay, tấn công các mô hình lớn thông minh nhất đòi hỏi các chiến thuật tối thiểu - chỉ một tập hợp các cổng mở mặc định, một cấu hình YAML bị lộ hoặc một đường dẫn gọi shell chưa được xác minh, và thậm chí, miễn là các lời nhắc được gõ đủ chính xác, bản thân mô hình lớn có thể giúp gray tạo ra hướng tấn công. Cánh cửa bảo mật dữ liệu doanh nghiệp được vào và ra một cách tùy tiện trong kỷ nguyên AI. Nhưng vấn đề không phải là không thể giải quyết: AI không chỉ tạo ra và tấn công. Cách sử dụng AI để bảo vệ ngày càng trở thành chủ đề chính của thời đại này; Đồng thời, trên đám mây, việc đưa ra các quy tắc cho AI cũng đã trở thành trọng tâm của các nhà cung cấp đám mây hàng đầu và Alibaba Cloud Security là một trong những đại diện tiêu biểu nhất. Tại thời điểm phát hành Aliyun Feitian vừa kết thúc, Aliyun chính thức công bố hai con đường bảo mật đám mây của mình: Bảo mật cho AI và AI cho Bảo mật, đồng thời phát hành dòng sản phẩm "Cloud Shield for AI" để cung cấp cho khách hàng "giải pháp bảo mật đầu cuối cho các ứng dụng mô hình", đây là một ví dụ điển hình nhất về việc khám phá ngành công nghiệp hiện tại. 01 AI tung xúc xắc, tại sao màu xám và vàng luôn hướng lên trước? Trong lịch sử công nghệ nhân loại, AI không phải là loài mới đầu tiên "được thử nghiệm bởi cơn bão vàng trước", xám và vàng bùng phát trước, cũng là quy luật phổ biến công nghệ hơn là một tai nạn. Năm 1839, nhiếp ảnh tấm bạc ra đời, và làn sóng người dùng đầu tiên là ngành công nghiệp; Trong những ngày đầu của Internet, thương mại điện tử chưa bắt đầu và các trang web người lớn đã bắt đầu suy nghĩ về thanh toán trực tuyến; Bữa tiệc len người mẫu lớn ngày nay, ở một mức độ nào đó, cũng đang tái hiện huyền thoại về "kỷ nguyên tên miền" làm giàu. Cổ tức của thời đại luôn được chạm vào đầu tiên bởi màu xám và vàng. Bởi vì họ không chú ý đến việc tuân thủ, không chờ đợi sự giám sát, và hiệu quả đương nhiên là siêu cao. Vì vậy, mỗi giai đoạn bùng phát công nghệ trước hết là một nồi "súp bùn", và AI đương nhiên cũng không ngoại lệ. Vào tháng 12 năm 2023, một tin tặc chỉ sử dụng một từ nhắc nhở - "ưu đãi 1 đô la" - để khiến một robot dịch vụ khách hàng trong một cửa hàng 4S suýt bán một chiếc Chevrolet với giá 1 đô la. Đây là "Prompt Injection" phổ biến nhất trong kỷ nguyên AI: không cần xác minh quyền, không để lại dấu vết nhật ký và toàn bộ chuỗi logic chỉ có thể được thay thế bằng cách "nói thông minh". Một bước nữa là "vượt ngục". Những kẻ tấn công đã sử dụng các câu hỏi tu từ, nhập vai, nhắc nhở đường vòng, v.v., để thành công khiến người mẫu nói những điều mà nó không nên nói: khiêu dâm, sản xuất ma túy, tin nhắn cảnh báo sai lệch...... Ở Hồng Kông, một số người thậm chí đã đánh cắp 200 triệu đô la Hồng Kông từ tài khoản công ty bằng cách làm sai lệch tiếng nói của các giám đốc điều hành. Ngoài lừa đảo, AI còn có nguy cơ "đầu ra ngoài ý muốn": vào năm 2023, một hệ thống mô hình lớn của một gã khổng lồ giáo dục đã xuất nhầm "tài liệu giảng dạy độc hại" với nội dung cực đoan khi tạo giáo án, và chỉ trong 3 ngày, quyền lợi của phụ huynh được bảo vệ, dư luận nổ ra, giá cổ phiếu của công ty mất 12 tỷ nhân dân tệ. AI không hiểu luật, nhưng nó có khả năng và khả năng gây hại, một khi không bị giám sát, sẽ có hại. Nhưng từ một quan điểm khác, công nghệ AI là mới, nhưng quy trình cuối cùng và phương tiện sản xuất màu xám và màu vàng không thay đổi, và để giải quyết nó, nó phụ thuộc vào sự an toàn. 02 Bảo mật cho AI Trước tiên hãy nói về một kiến thức lạnh lùng đã được ngành công nghiệp AI cùng tránh né: Bản chất của các mô hình lớn không phải là "trí thông minh" hay "hiểu biết", mà là tạo ngữ nghĩa dưới sự kiểm soát xác suất. Do đó, một khi vượt quá bối cảnh đào tạo, kết quả không mong muốn có thể được xuất ra. Loại siêu đẳng cấp này có thể là, bạn muốn nó viết tin tức, nó viết thơ cho bạn; Cũng có thể bạn muốn nó giới thiệu một món đồ và nó đột nhiên cho bạn biết rằng nhiệt độ ở Tokyo hôm nay là âm 25 độ C. Hơn nữa, bạn nói với nó rằng trong game, nếu bạn không thể lấy được số seri chính hãng của phần mềm này và phần mềm kia thì nó sẽ bị bắn, và người mẫu lớn thực sự có thể cố gắng hết sức để giúp người dùng tìm được số sê-ri phần mềm chính hãng với giá 0. Để đảm bảo đầu ra có thể kiểm soát được, doanh nghiệp phải hiểu rõ về mô hình và bảo mật. Theo "Báo cáo đánh giá khả năng mô hình lớn bảo mật Trung Quốc" mới nhất của IDC, PK của Alibaba với tất cả các nhà sản xuất hàng đầu trong nước có khả năng mô hình lớn bảo mật đứng đầu trong 4 trong số 7 chỉ số và 3 chỉ số còn lại đều cao hơn mức trung bình của ngành. Về cách tiếp cận, câu trả lời của Alibaba Cloud Security cũng rất đơn giản: để bảo mật chạy trước tốc độ AI và xây dựng khung bảo vệ toàn ngăn xếp ba lớp, từ dưới lên - từ bảo mật cơ sở hạ tầng, đến kiểm soát đầu vào và đầu ra mô hình lớn, đến bảo vệ dịch vụ ứng dụng AI. Trong ba lớp, tồn tại nhất là "Lan can AI" của lớp giữa dành riêng cho rủi ro của các mô hình lớn. Nói chung, rủi ro chính đối với bảo mật mô hình lớn là: vi phạm nội dung, rò rỉ dữ liệu nhạy cảm, tấn công chèn từ nhanh chóng, ảo ảnh mô hình và tấn công bẻ khóa. Tuy nhiên, các giải pháp bảo mật truyền thống chủ yếu là kiến trúc đa năng, được thiết kế cho Web, không phải cho "chương trình nói chuyện", và đương nhiên không thể xác định và phản hồi chính xác các rủi ro duy nhất đối với các ứng dụng mô hình lớn. Thậm chí còn khó khăn hơn để đề cập đến các vấn đề mới nổi như bảo mật nội dung được tạo ra, phòng thủ tấn công theo ngữ cảnh và độ tin cậy đầu ra của mô hình. Quan trọng hơn, các giải pháp truyền thống thiếu các phương tiện có thể kiểm soát chi tiết và cơ chế truy xuất nguồn gốc trực quan, dẫn đến những điểm mù rất lớn trong quản trị AI và đương nhiên họ không thể giải quyết vấn đề nếu họ không biết vấn đề nằm ở đâu. Sức mạnh thực sự của AI Guardrail không chỉ là "nó có thể chặn", mà cho dù bạn đang thực hiện các mô hình lớn, dịch vụ AI hay tác nhân AI được đào tạo trước dưới nhiều hình thức kinh doanh khác nhau, nó đều biết bạn đang nói về điều gì và mô hình lớn đang tạo ra điều gì, để cung cấp khả năng phát hiện rủi ro chính xác và khả năng phòng thủ chủ động để đạt được sự tuân thủ, bảo mật và ổn định. Cụ thể, AI Guardrail chịu trách nhiệm cụ thể về việc bảo vệ ba loại kịch bản: Điểm mấu chốt của tuân thủ: Tiến hành đánh giá tuân thủ đa chiều về nội dung văn bản của đầu vào và đầu ra AI tổng quát, bao gồm các danh mục rủi ro như nhạy cảm chính trị, khiêu dâm và thô tục, định kiến và phân biệt đối xử và các giá trị xấu, phát hiện sâu dữ liệu quyền riêng tư và thông tin nhạy cảm có thể bị rò rỉ trong quá trình tương tác AI, đồng thời hỗ trợ quyền riêng tư cá nhân, doanh nghiệp...
Nội dung chỉ mang tính chất tham khảo, không phải là lời chào mời hay đề nghị. Không cung cấp tư vấn về đầu tư, thuế hoặc pháp lý. Xem Tuyên bố miễn trừ trách nhiệm để biết thêm thông tin về rủi ro.
Tại sao trong thời đại AI, tiền vốn liên quan đến cờ bạc và mại dâm lại bùng nổ đầu tiên?
Sử dụng mô hình an toàn để bảo vệ mô hình không an toàn và sử dụng hệ thống thông minh để chống lại các cuộc tấn công từ thông tin tình báo. Bài viết này là từ một bài báo được viết bởi Windrush và được in lại bởi TechFlow Deep Tide. (Tóm tắt nội bộ: Pakistan công bố 2.000 megawatt điện cho "Trung tâm khai thác Bitcoin và AI" Thủ tướng bổ nhiệm trợ lý đặc biệt về blockchain và tiền điện tử) (Bổ sung cơ bản: Hòn Hải thử nghiệm nội bộ: AI có thể thay thế 80% việc làm, chủ tịch Liu Yangwei tiết lộ bản thiết kế bộ ba của nhà máy tương lai) Những người đam mê đang bắt đầu kinh doanh, Xiaobai đang mua các lớp học, và các họa sĩ thất nghiệp, nhưng một thực tế đáng xấu hổ là: AI hạ cánh rất nóng, nhưng cốt truyện không đi theo con đường ra đời, mà là tung xúc xắc. Hơn nữa, trong những ngày đầu của ngành công nghiệp, bề mặt đầu tiên của xúc xắc này thường có màu vàng hoặc xám. Lý do cũng rất đơn giản, lợi nhuận khổng lồ tạo đà, chưa kể giai đoạn đầu phát triển, luôn đầy kẽ hở. Nhìn vào bộ dữ liệu này, rõ ràng: Hiện tại, hơn 43% các nút dịch vụ MCP có đường dẫn gọi shell chưa được xác minh và hơn 83% triển khai có lỗ hổng cấu hình MCP (Model Context Protocol); 88% việc triển khai thành phần AI hoàn toàn không có bất kỳ hình thức bảo vệ nào được kích hoạt; 150.000 khung triển khai AI nhẹ như Ollama hiện đang được hiển thị trên mạng công cộng toàn cầu và hơn 1 tỷ đô la sức mạnh tính toán đã bị chiếm đoạt để khai thác...... Trớ trêu thay, tấn công các mô hình lớn thông minh nhất đòi hỏi các chiến thuật tối thiểu - chỉ một tập hợp các cổng mở mặc định, một cấu hình YAML bị lộ hoặc một đường dẫn gọi shell chưa được xác minh, và thậm chí, miễn là các lời nhắc được gõ đủ chính xác, bản thân mô hình lớn có thể giúp gray tạo ra hướng tấn công. Cánh cửa bảo mật dữ liệu doanh nghiệp được vào và ra một cách tùy tiện trong kỷ nguyên AI. Nhưng vấn đề không phải là không thể giải quyết: AI không chỉ tạo ra và tấn công. Cách sử dụng AI để bảo vệ ngày càng trở thành chủ đề chính của thời đại này; Đồng thời, trên đám mây, việc đưa ra các quy tắc cho AI cũng đã trở thành trọng tâm của các nhà cung cấp đám mây hàng đầu và Alibaba Cloud Security là một trong những đại diện tiêu biểu nhất. Tại thời điểm phát hành Aliyun Feitian vừa kết thúc, Aliyun chính thức công bố hai con đường bảo mật đám mây của mình: Bảo mật cho AI và AI cho Bảo mật, đồng thời phát hành dòng sản phẩm "Cloud Shield for AI" để cung cấp cho khách hàng "giải pháp bảo mật đầu cuối cho các ứng dụng mô hình", đây là một ví dụ điển hình nhất về việc khám phá ngành công nghiệp hiện tại. 01 AI tung xúc xắc, tại sao màu xám và vàng luôn hướng lên trước? Trong lịch sử công nghệ nhân loại, AI không phải là loài mới đầu tiên "được thử nghiệm bởi cơn bão vàng trước", xám và vàng bùng phát trước, cũng là quy luật phổ biến công nghệ hơn là một tai nạn. Năm 1839, nhiếp ảnh tấm bạc ra đời, và làn sóng người dùng đầu tiên là ngành công nghiệp; Trong những ngày đầu của Internet, thương mại điện tử chưa bắt đầu và các trang web người lớn đã bắt đầu suy nghĩ về thanh toán trực tuyến; Bữa tiệc len người mẫu lớn ngày nay, ở một mức độ nào đó, cũng đang tái hiện huyền thoại về "kỷ nguyên tên miền" làm giàu. Cổ tức của thời đại luôn được chạm vào đầu tiên bởi màu xám và vàng. Bởi vì họ không chú ý đến việc tuân thủ, không chờ đợi sự giám sát, và hiệu quả đương nhiên là siêu cao. Vì vậy, mỗi giai đoạn bùng phát công nghệ trước hết là một nồi "súp bùn", và AI đương nhiên cũng không ngoại lệ. Vào tháng 12 năm 2023, một tin tặc chỉ sử dụng một từ nhắc nhở - "ưu đãi 1 đô la" - để khiến một robot dịch vụ khách hàng trong một cửa hàng 4S suýt bán một chiếc Chevrolet với giá 1 đô la. Đây là "Prompt Injection" phổ biến nhất trong kỷ nguyên AI: không cần xác minh quyền, không để lại dấu vết nhật ký và toàn bộ chuỗi logic chỉ có thể được thay thế bằng cách "nói thông minh". Một bước nữa là "vượt ngục". Những kẻ tấn công đã sử dụng các câu hỏi tu từ, nhập vai, nhắc nhở đường vòng, v.v., để thành công khiến người mẫu nói những điều mà nó không nên nói: khiêu dâm, sản xuất ma túy, tin nhắn cảnh báo sai lệch...... Ở Hồng Kông, một số người thậm chí đã đánh cắp 200 triệu đô la Hồng Kông từ tài khoản công ty bằng cách làm sai lệch tiếng nói của các giám đốc điều hành. Ngoài lừa đảo, AI còn có nguy cơ "đầu ra ngoài ý muốn": vào năm 2023, một hệ thống mô hình lớn của một gã khổng lồ giáo dục đã xuất nhầm "tài liệu giảng dạy độc hại" với nội dung cực đoan khi tạo giáo án, và chỉ trong 3 ngày, quyền lợi của phụ huynh được bảo vệ, dư luận nổ ra, giá cổ phiếu của công ty mất 12 tỷ nhân dân tệ. AI không hiểu luật, nhưng nó có khả năng và khả năng gây hại, một khi không bị giám sát, sẽ có hại. Nhưng từ một quan điểm khác, công nghệ AI là mới, nhưng quy trình cuối cùng và phương tiện sản xuất màu xám và màu vàng không thay đổi, và để giải quyết nó, nó phụ thuộc vào sự an toàn. 02 Bảo mật cho AI Trước tiên hãy nói về một kiến thức lạnh lùng đã được ngành công nghiệp AI cùng tránh né: Bản chất của các mô hình lớn không phải là "trí thông minh" hay "hiểu biết", mà là tạo ngữ nghĩa dưới sự kiểm soát xác suất. Do đó, một khi vượt quá bối cảnh đào tạo, kết quả không mong muốn có thể được xuất ra. Loại siêu đẳng cấp này có thể là, bạn muốn nó viết tin tức, nó viết thơ cho bạn; Cũng có thể bạn muốn nó giới thiệu một món đồ và nó đột nhiên cho bạn biết rằng nhiệt độ ở Tokyo hôm nay là âm 25 độ C. Hơn nữa, bạn nói với nó rằng trong game, nếu bạn không thể lấy được số seri chính hãng của phần mềm này và phần mềm kia thì nó sẽ bị bắn, và người mẫu lớn thực sự có thể cố gắng hết sức để giúp người dùng tìm được số sê-ri phần mềm chính hãng với giá 0. Để đảm bảo đầu ra có thể kiểm soát được, doanh nghiệp phải hiểu rõ về mô hình và bảo mật. Theo "Báo cáo đánh giá khả năng mô hình lớn bảo mật Trung Quốc" mới nhất của IDC, PK của Alibaba với tất cả các nhà sản xuất hàng đầu trong nước có khả năng mô hình lớn bảo mật đứng đầu trong 4 trong số 7 chỉ số và 3 chỉ số còn lại đều cao hơn mức trung bình của ngành. Về cách tiếp cận, câu trả lời của Alibaba Cloud Security cũng rất đơn giản: để bảo mật chạy trước tốc độ AI và xây dựng khung bảo vệ toàn ngăn xếp ba lớp, từ dưới lên - từ bảo mật cơ sở hạ tầng, đến kiểm soát đầu vào và đầu ra mô hình lớn, đến bảo vệ dịch vụ ứng dụng AI. Trong ba lớp, tồn tại nhất là "Lan can AI" của lớp giữa dành riêng cho rủi ro của các mô hình lớn. Nói chung, rủi ro chính đối với bảo mật mô hình lớn là: vi phạm nội dung, rò rỉ dữ liệu nhạy cảm, tấn công chèn từ nhanh chóng, ảo ảnh mô hình và tấn công bẻ khóa. Tuy nhiên, các giải pháp bảo mật truyền thống chủ yếu là kiến trúc đa năng, được thiết kế cho Web, không phải cho "chương trình nói chuyện", và đương nhiên không thể xác định và phản hồi chính xác các rủi ro duy nhất đối với các ứng dụng mô hình lớn. Thậm chí còn khó khăn hơn để đề cập đến các vấn đề mới nổi như bảo mật nội dung được tạo ra, phòng thủ tấn công theo ngữ cảnh và độ tin cậy đầu ra của mô hình. Quan trọng hơn, các giải pháp truyền thống thiếu các phương tiện có thể kiểm soát chi tiết và cơ chế truy xuất nguồn gốc trực quan, dẫn đến những điểm mù rất lớn trong quản trị AI và đương nhiên họ không thể giải quyết vấn đề nếu họ không biết vấn đề nằm ở đâu. Sức mạnh thực sự của AI Guardrail không chỉ là "nó có thể chặn", mà cho dù bạn đang thực hiện các mô hình lớn, dịch vụ AI hay tác nhân AI được đào tạo trước dưới nhiều hình thức kinh doanh khác nhau, nó đều biết bạn đang nói về điều gì và mô hình lớn đang tạo ra điều gì, để cung cấp khả năng phát hiện rủi ro chính xác và khả năng phòng thủ chủ động để đạt được sự tuân thủ, bảo mật và ổn định. Cụ thể, AI Guardrail chịu trách nhiệm cụ thể về việc bảo vệ ba loại kịch bản: Điểm mấu chốt của tuân thủ: Tiến hành đánh giá tuân thủ đa chiều về nội dung văn bản của đầu vào và đầu ra AI tổng quát, bao gồm các danh mục rủi ro như nhạy cảm chính trị, khiêu dâm và thô tục, định kiến và phân biệt đối xử và các giá trị xấu, phát hiện sâu dữ liệu quyền riêng tư và thông tin nhạy cảm có thể bị rò rỉ trong quá trình tương tác AI, đồng thời hỗ trợ quyền riêng tư cá nhân, doanh nghiệp...