Sự phát triển của ngành công nghiệp AI và động lực chính sách

Người sáng lập Solayer tiết lộ những rủi ro bảo mật của mô hình ngôn ngữ lớn, chỉ ra rằng các tác nhân LLM phụ thuộc vào bộ định tuyến trung gian API bên thứ ba có nguy cơ bị mã độc tấn công. Kết quả thử nghiệm cho thấy nhiều mẫu bộ định tuyến tồn tại lỗ hổng bảo mật, thậm chí rò rỉ thông tin xác thực nhạy cảm. Ngoài ra, nghiên cứu đã trình bày các phương pháp tấn công khả thi và biện pháp phòng thủ.

Gate News, tin tức: ngày 10 tháng 4, theo dữ liệu thị trường của Gate, tính đến thời điểm bài viết, TAO (Bittensor) hiện đang ở mức 269.80 USD. Trong 24 giờ qua, giá giảm 16.28%, đạt mức cao nhất là 341.10 USD và mức thấp nhất quay về 248.60 USD. Khối lượng giao dịch trong 24 giờ đạt 14.71 triệu USD. Vốn hóa thị trường hiện vào khoảng 2.589 tỷ USD. Bittensor là một giao thức mã nguồn mở, cung cấp nền tảng cho mạng lưới máy học phi tập trung dựa trên blockchain. Các mô hình máy học được huấn luyện phối hợp, và nhận phần thưởng trong TAO dựa trên giá trị thông tin mà chúng mang lại cho tập thể. TAO cũng cho phép truy cập từ bên ngoài, giúp người dùng có thể trích xuất thông tin từ mạng và điều chỉnh hoạt động của mạng theo nhu cầu của mình. --- Tin tức quan trọng gần đây về TAO: 1️⃣ **

Google đã ra mắt tính năng “Notebooks” trên ứng dụng Gemini, cho phép người dùng quản lý tập trung lịch sử trò chuyện và tệp, đồng bộ với NotebookLM để nâng cao hiệu quả quy trình làm việc. Hiện tính năng này chỉ được cung cấp cho người dùng đăng ký, người dùng miễn phí cần chờ đợi. Tính năng này giúp người dùng dễ dàng hơn trong việc sắp xếp và tận dụng dữ liệu, đồng thời báo hiệu rằng trong tương lai sẽ có nhiều cập nhật hơn.

xAI thuộc sở hữu của Musk đã nộp đơn kiện tại bang Colorado, yêu cầu ngăn chặn dự luật SB 24-205 có hiệu lực, dự luật này nhằm ngăn chặn các hệ thống AI tạo ra sự phân biệt đối xử theo thuật toán. xAI cáo buộc dự luật vi phạm quyền tự do ngôn luận, yêu cầu công ty phải điều chỉnh đầu ra thông tin theo một lập trường chính trị cụ thể, và cho biết trong nội bộ dự luật có những mâu thuẫn về logic. Đây là hành động pháp lý thứ hai của xAI trong các vấn đề giám sát AI, có thể ảnh hưởng đến sự phát triển của bức tranh quản lý AI trên toàn nước Mỹ.

Đồng sáng lập Bittensor Jacob Steeves đã lên tiếng về việc Covenant AI rời khỏi mạng, đề xuất khởi động lại cơ chế quản trị của subnet, đồng thời đưa vào việc cộng đồng bỏ phiếu để bầu chọn đội ngũ. Ông cho rằng đây là cơ hội để xác định lại hình thái của subnet và đã phê bình các quyết định của người sáng lập Covenant AI.

Alibaba xác nhận đã cho ra mắt mô hình tạo video do chính họ tự phát triển HappyHorse-1.0, mô hình này thuộc bộ phận đổi mới AI của Tập đoàn Taotian. HappyHorse-1.0 thể hiện rất xuất sắc trong các bài đánh giá từ bên thứ ba; hiện vẫn chưa được mở mã nguồn, phù hợp với chiến lược đóng mã nguồn gần đây của Alibaba. Việc ra mắt mô hình này nhằm ứng phó với hiệu suất trên thị trường của các đối thủ cạnh tranh, đồng thời tăng cường năng lực cạnh tranh của họ trong thị trường MaaS.

Anthropic vào ngày 9 tháng 4 đã thông báo Claude Cowork chính thức được mở cho tất cả các gói trả phí, đồng thời bổ sung cho người dùng phiên bản doanh nghiệp các tính năng quản trị như kiểm soát truy cập theo vai trò, giới hạn chi tiêu theo nhóm, bảng điều khiển phân tích mức sử dụng. Sản phẩm này có thể được sử dụng trong các ứng dụng máy tính để bàn trên macOS và Windows. Tập trung vào nhu cầu doanh nghiệp, Anthropic không ngừng mở rộng dòng sản phẩm AI của mình, từ công nghệ cho nhà phát triển đến ứng dụng cho nhóm và doanh nghiệp cấp độ cao.

Andrej Karpathy cho rằng nhận thức của công chúng về năng lực của AI đang xuất hiện sự phân mảnh, chia thành hai nhóm: người dùng phổ thông sử dụng phiên bản miễn phí của ChatGPT và các kỹ thuật viên chuyên nghiệp sử dụng các mô hình tiên tiến trả phí. Ông tin rằng hai nhóm đang thảo luận về những sản phẩm hoàn toàn khác nhau, và nhấn mạnh rằng sự tiến bộ trong lĩnh vực công nghệ là rất đáng kể nhờ các hàm phần thưởng có thể kiểm chứng và động lực từ giá trị thương mại.

Anthropic vào ngày 9 tháng 4 đã ra mắt “Chiến lược Advisor”, sử dụng Opus làm cố vấn kết hợp với Sonnet hoặc Haiku để thực thi; nhờ Messages API mà giảm chi phí và nâng cao hiệu suất. Chiến lược này tách biệt suy luận và thực thi, cho phép người thực thi khi gặp trở ngại thì tham khảo ý kiến Opus, đạt hiệu suất trí tuệ cao hơn trong một yêu cầu API duy nhất. Kết quả đánh giá cho thấy Sonnet kết hợp với Opus cải thiện 2,7%, trong khi chi phí cho nhiệm vụ giảm 11,9%. Chiến lược này mang đến cho nhà phát triển lựa chọn tối ưu hơn về chi phí-hiệu năng và nhận được sự hưởng ứng nhiệt tình từ cộng đồng.

Tin tức Gate News, vào ngày 10 tháng 4, người sáng lập Uniswap Hayden Adams hôm nay đã đăng bài trên nền tảng truyền thông xã hội, hỏi liệu có các tài nguyên liên quan đến Anthropic (công ty công nghệ AI) để kết nối hay không, và cho biết muốn thử nghiệm Mythos trên Uniswap.

xAI của Musk mới đây đã kiện các quy định AI của bang Colorado, với cáo buộc vi phạm tự do ngôn luận. Quy định này nhằm ngăn chặn các hệ thống AI xuất hiện phân biệt đối xử bằng thuật toán trong nhiều lĩnh vực; tuy nhiên, chính chatbot của xAI là Grok lại từng nhiều lần tạo ra những phát ngôn mang tính phân biệt chủng tộc, cho thấy sự mâu thuẫn trong logic của nó. Sự việc này có thể trở thành một tiền lệ quan trọng trong quản lý AI tại Mỹ.

Anthropic ra mắt Claude Managed Agents, cung cấp nền tảng phát triển tác nhân AI được quản lý hoàn toàn, giúp đơn giản hóa quy trình tự động hóa của doanh nghiệp, tuyên bố có thể tăng tốc sản xuất sản phẩm gấp mười lần. Nền tảng này có hạ tầng bảo mật, hỗ trợ chạy trong thời gian dài và phối hợp nhiều tác nhân, giúp nhà phát triển tập trung hơn vào hoạt động cốt lõi. Notion đã là bên đầu tiên áp dụng dịch vụ này, nâng cao hiệu suất làm việc, cho thấy thị trường AI của doanh nghiệp đang cạnh tranh ngày càng gay gắt.

Tin tức cổng Gate News: Ngày 10 tháng 4, theo nhiều nguồn tin thân cận, người sáng lập công ty mô hình AI quy mô lớn DeepSeek là Lương Văn Phong gần đây đã tiết lộ trong trao đổi nội bộ rằng, mô hình ngôn ngữ quy mô lớn flagship thế hệ mới của DeepSeek là DeepSeek V4 sẽ được phát hành chính thức vào cuối tháng 4.

Hệ thống trí nhớ AI MemPalace do Myrа Jоvа Vіtѕhі tham gia phát triển đã gây ra tranh cãi do bị nghi ngờ gian lận khi các kết quả kiểm thử bị đặt vấn đề; kết quả thử nghiệm thực tế cho thấy hiệu suất được phóng đại và sai sót xảy ra thường xuyên. Nhóm phát triển đã thừa nhận vấn đề và đang tiến hành khắc phục, nhưng vẫn còn nhiều hạng mục dữ liệu chưa được sửa, khiến cộng đồng không hài lòng.

Covenant AI vào ngày 10 tháng 4 đã công bố rút lui khỏi mạng lưới Bittensor, cáo buộc nhân vật cốt lõi Jacob Steeves phản bội cam kết phi tập trung, đồng thời liệt kê nhiều hành động đàn áp. Covenant AI nhấn mạnh rằng cơ chế quản trị phi tập trung bề ngoài của Bittensor thực tế bị một cá nhân kiểm soát, tạo thành “nhà hát phi tập trung”. Dự án tiền huấn luyện LLM phi tập trung của nhóm, Covenant-72B, có ảnh hưởng quan trọng trong ngành; việc rút lui lần này được xem là lựa chọn chủ động chứ không phải thất bại.

Nghiên cứu cho thấy nhiều bộ điểm chuẩn AI uy tín tồn tại các lỗ hổng bảo mật, có thể bị khai thác một cách có hệ thống để đạt điểm cao. Nhóm nghiên cứu đã vạch ra các khiếm khuyết mang tính cấu trúc và phát triển công cụ quét WEASEL để nhận diện và vá các lỗ hổng này, đồng thời chỉ ra rằng thiết kế đánh giá không phù hợp có thể khiến kết quả bị sai lệch và ảnh hưởng đến việc đánh giá chính xác năng lực thực sự của AI.