Từ đáy, chúng tôi đã vibe-code - ForkLog

# Từ đáy lòng đến vibe coding

Hướng dẫn chạy các mô hình AI nguồn mở từ GitHub sâu thẳm

Trong quá trình phát triển AI, đã xuất hiện một hướng đi mà việc phi tập trung hóa và mã nguồn mở cho phép vượt ra khỏi các giải pháp thương mại phổ biến. Các LLM cục bộ cho phép xử lý dữ liệu một cách riêng tư, linh hoạt tùy chỉnh hệ thống theo nhiệm vụ của mình và tự kiểm soát môi trường sử dụng. Đồng thời, việc chạy các mô hình này đòi hỏi phải hiểu các công cụ cơ bản — từ kho lưu trữ và trọng số mô hình đến môi trường đám mây và thông số kỹ thuật.

Trong bài viết mới của ForkLog, chúng tôi sẽ hướng dẫn cách bắt đầu làm quen với các mô hình AI độc lập mà không tốn chi phí, những tài nguyên nào người mới nên sử dụng và các nhà phát triển giải pháp nguồn mở cung cấp gì.

Lần làm quen đầu tiên

Đối với các nhà phát triển mô hình AI nguồn mở, có hai nền tảng chính — GitHub và Hugging Face. Nền tảng đầu tiên thường được sử dụng để công bố mã nguồn, tài liệu và tập lệnh cài đặt, nền tảng thứ hai đã trở thành trung tâm toàn cầu cho trọng số mô hình, tập dữ liệu và các giải pháp ML có sẵn. Trên Hugging Face, hàng trăm nghìn mạng nơ-ron đã được huấn luyện được công bố, từ các mô hình ngôn ngữ nhỏ dành cho điện thoại thông minh, các trình tạo nội dung đa phương tiện thay thế, đến các thuật toán chuyên biệt dành cho nhà khoa học và những người đam mê.

Các chỉ số hoạt động của cộng đồng giúp chọn mô hình cần thiết. Trên GitHub, chúng được thể hiện bằng số lượng sao (stars), tần suất cập nhật (commits) và tốc độ giải quyết vấn đề (issues).

Riêng biệt, điều quan trọng là phải kiểm tra nguồn gốc của sản phẩm và tính xác thực của kho lưu trữ. Các bản dựng nguồn mở phổ biến thường trở thành mồi nhử cho tội phạm mạng phát tán mã độc dưới vỏ bọc các công cụ AI nổi tiếng.

Giai đoạn tiếp theo của việc làm quen với các mô hình AI cục bộ là thử nghiệm chức năng của chúng trong thực tế. Đối với người dùng không có phần cứng mạnh, có các nền tảng đám mây miễn phí và có điều kiện miễn phí.

Giải pháp phổ biến nhất — Google Colab — là môi trường đám mây cung cấp quyền truy cập vào bộ xử lý đồ họa (GPU) trực tiếp từ trình duyệt. Gói đăng ký miễn phí cho phép làm việc trên hệ thống với bộ tăng tốc Nvidia Tesla T4 trung bình từ hai đến bốn giờ tùy thuộc vào tải trọng. Các giải pháp thay thế bao gồm Kaggle Notebooks và Hugging Face Spaces. Nền tảng sau cho phép tương tác với các mô hình thông qua các giao diện web có sẵn như Gradio hoặc Streamlit.

Cũng cần tính đến khía cạnh pháp lý khi làm việc với các giải pháp liên bang. Nhiều dự án phổ biến có sẵn theo các giấy phép cổ điển, như MIT hoặc Apache 2.0, cho phép sử dụng chúng, bao gồm cả cho mục đích thương mại, với các hạn chế tối thiểu.

Tuy nhiên, cũng tồn tại các cách tiếp cận cụ thể. Meta phân phối các mô hình chủ lực của mình theo giấy phép riêng Llama 3.1 Community License, yêu cầu phải có giấy phép đặc biệt nếu lượng khán giả hàng tháng của dịch vụ vượt quá 700 triệu người dùng.

Các giấy phép copyleft nghiêm ngặt như GNU General Public License cũng xuất hiện, buộc phải mở mã của tất cả các sản phẩm phái sinh.

Phiên bản ChatGPT cá nhân của tôi

Từ vô số LLM mục đích chung độc lập (tương tự ChatGPT hoặc Gemini), các bảng xếp hạng độc lập dựa trên thử nghiệm mù và các chỉ số hiệu suất như Open LLM Leaderboard và Chatbot Arena giúp chọn mô hình cần thiết.

Bảng điều khiển LLM nguồn mở. Nguồn: llm-stats.Tiêu chuẩn vàng của phân khúc được coi là họ mô hình Llama của nhà phát triển Meta và Qwen của Alibaba. Các mô hình này hoạt động tốt với ngữ cảnh dài, xử lý các truy vấn nhiều bước và phù hợp cho các tác vụ vibe coding và lập trình. Nhờ khuôn khổ mở Ollama, việc cài đặt chúng chỉ bằng một lệnh.

Trong quá trình thử nghiệm để viết tài liệu này, mô hình qwen3.5:2b đã được chạy thành công trên máy tính xách tay không có card đồ họa rời, dựa trên Core i7 với 8 GB RAM và SSD, đồng thời đã đóng các ứng dụng nặng: messenger và trình duyệt.

Nguồn: Ollama.«2b» có nghĩa là 2 tỷ tham số. Giá trị càng cao, mạng nơ-ron có thể nắm bắt các mối quan hệ càng phức tạp. Ví dụ: mô hình 2b sẽ học ngữ pháp cơ bản và các lệnh đơn giản, trong khi 122b sẽ ghi nhớ các dữ kiện từ vật lý lượng tử, các chi tiết của tài liệu pháp lý và học cách lập kế hoạch nhiệm vụ mười bước trước.

Mỗi tham số chiếm dung lượng vật lý trên ổ cứng và quan trọng nhất là trong RAM. 2b đã sử dụng khoảng 4-5 GB RAM và là mức tối đa để chạy trên một máy như vậy. Đồng thời, phản hồi cho yêu cầu đơn giản nhất «xin chào!» mô hình tạo ra gần ba phút.

Ảnh chụp màn hình: ForkLog.Phân cấp tham khảo của các mô hình:

• 0.5b-2b. Nhanh, có thể chạy trên máy tính xách tay cũ và điện thoại thông minh. Lý tưởng cho các tác vụ đơn giản (định tuyến lệnh, tóm tắt cơ bản, tự động hoàn thành các dòng mã ngắn). Có xu hướng ảo giác đối với các truy vấn phức tạp;
• 3b-4b. Cân bằng giữa tốc độ và chất lượng. Tốt cho thiết bị di động, nhà thông minh và tác vụ tự động hóa. Ví dụ: có thể yêu cầu chatbot giảm ánh sáng trong phòng, bật điều hòa không khí hoặc nâng thanh chắn;
• 7b-9b. Yêu cầu khoảng 6–8 GB RAM trống. Các mô hình mạnh mẽ với hiểu biết ngữ cảnh và logic sâu, phù hợp cho lập trình và làm việc với văn bản lớn.

Trong nghiên cứu gần đây của mình về vibe coding trong Web3, Vladimir Sliver phát hiện ra rằng đối với máy cấp MacBook Air 16 GB RAM, các mô hình qwen2.5-coder:7b, qwen3:8b, llama3.2:3b, deepseek-r1:8b phù hợp. Các mô hình mạnh hơn yêu cầu đầu tư vào PC mạnh với card đồ họa cao cấp hoặc cài đặt trên các máy chủ thuê.

Xử lý dữ liệu riêng tư, in 3D và bảo vệ người dùng

Các tùy chọn tương tác với các mô hình AI nguồn mở phụ thuộc vào trình độ đào tạo của người dùng và phần cứng. Có các dự án được đóng gói trong các trình cài đặt tiện lợi (tệp có phần mở rộng .EXE) hoặc ứng dụng di động hoạt động «ngay khi xuất xưởng». Những dự án khác là các kho lưu trữ GitHub bị bỏ hoang, nơi cài đặt biến thành cuộc chiến kéo dài nhiều giờ với xung đột của các thư viện lỗi thời.

Các mô hình AI ứng dụng ngày nay được sử dụng không chỉ để tạo văn bản. Ngay cả phân tích bề mặt của hệ sinh thái cũng cho phép xác định hàng chục công cụ chuyên biệt cho các tác vụ cụ thể.

Làm việc với video và 3D:

• CogVideoX. Mô hình nguồn mở từ Zhipu AI để tạo video theo mô tả văn bản. Cho phép tạo các clip ngắn chân thực, có trọng số mở và có thể được triển khai trong các môi trường như Jupyter hoặc Colab nếu có đủ bộ nhớ video;
• DepthCrafter. Công cụ trích xuất thông tin về độ sâu trường ảnh từ video. Hữu ích cho các chuyên gia VFX và mô hình 3D. Nó cho phép tạo bản đồ độ sâu có độ chính xác cao cho mỗi khung hình của cảnh động;
• TRELLIS (Morfx 3D). Hệ thống tạo tài sản 3D tiên tiến. Dự án cho phép tạo các mô hình ba chiều chất lượng cao từ hình ảnh hoặc truy vấn văn bản, tối ưu hóa chúng để sử dụng trong các engine trò chơi.

Biến đổi ảnh chụp tàu hỏa thành đối tượng để xử lý và in 3D bằng phiên bản web của mô hình Morfx 3D. Ảnh chụp màn hình: ForkLog.Âm thanh và nhận dạng:

• CosyVoice. Mô hình tổng hợp giọng nói đa ngôn ngữ với hỗ trợ nhân bản giọng nói. Cho phép tạo ra luồng âm thanh chân thực, giữ nguyên ngữ điệu và màu sắc cảm xúc của người nói gốc;
• Whisper-WebGPU. Triển khai mô hình nhận dạng giọng nói từ OpenAI, được viết lại để hoạt động trực tiếp trong trình duyệt bằng API WebGPU. Điều này có nghĩa là việc giải mã âm thanh diễn ra cục bộ, đảm bảo quyền riêng tư hoàn toàn mà không truyền tệp âm thanh đến máy chủ bên thứ ba;
• BirdNET-Analyzer. Mạng nơ-ron từ Đại học Cornell để xác định loài chim qua tiếng hót của chúng. Không giống như ứng dụng phổ biến Merlin Bird ID, vốn phụ thuộc nhiều vào xử lý đám mây cho một số chức năng, BirdNET-Analyzer cung cấp toàn quyền kiểm soát quy trình phân tích cục bộ và có thể được sử dụng để xử lý hàng loạt gigabyte bản ghi âm thực địa.

Nguồn: BirdNET.Lập trình và bảo vệ người dùng:

• Screenshot-to-Code. Tiện ích để chuyển đổi ảnh chụp màn hình trang web hoặc ứng dụng di động thành mã HTML, Tailwind hoặc React sạch. Mặc dù dự án thường hoạt động kết hợp với các API trả phí (Claude, GPT-4), kiến trúc cho phép kết nối các mô hình đa phương thức nguồn mở;
• MinerU/Magic-PDF. Dự án để trích xuất chính xác dữ liệu có cấu trúc từ tài liệu PDF. Mô hình nhận dạng văn bản, công thức toán học và bảng, chuyển đổi bố cục phức tạp thành định dạng Markdown;
• Fawkes. Đưa ra những thay đổi vô hình với mắt người vào hình ảnh, gây nhiễu cho các hệ thống nhận dạng khuôn mặt xác định người dùng. Tải xuống cục bộ trên PC thông qua tệp có phần mở rộng .EXE và có thể được sử dụng cho hình đại diện trên mạng xã hội;
• Nightshade. «Đầu độc» pixel của hình ảnh để gây nhầm lẫn cho các thuật toán học tập của các công ty AI, nếu họ làm điều đó mà không được phép. Ví dụ: với yêu cầu «chó», mô hình sẽ tạo ra hình ảnh con mèo.

Chân dung Tổng thống Hoa Kỳ Donald Trump trước khi sử dụng Fawkes. Nguồn: Thư viện Quốc hội Hoa Kỳ. Sau khi xử lý bằng thuật toán Fawkes. Ảnh chụp màn hình: ForkLog.

Chiến đấu với thư viện và thành công đầu tiên

Sau khi cài đặt các mô hình AI với UI/UX dễ hiểu, cần phải tìm hiểu mức độ dễ dàng để triển khai một kho lưu trữ nặng trên đám mây, và miễn phí.

FLUX.1 từ startup Black Forest Labs là một trong những mô hình tạo hình ảnh tiên tiến, cạnh tranh với Midjourney và Nano Banana của doanh nghiệp. Với thiết bị cần thiết, phần mềm có thể hoạt động độc lập mà không cần truy cập internet và cho phép vượt qua kiểm duyệt.

Trong thử nghiệm, phiên bản miễn phí nhẹ nhất FLUX.1 Schnell đã được sử dụng. Để tương tác thuận tiện với các giải pháp nguồn mở, các nhà phát triển tạo ra các khuôn khổ mục tiêu như Ollama. Để tạo hình ảnh, các giao diện đồ họa ComfyUI và Forge phổ biến.

Trong quá trình cố gắng cài đặt bản triển khai Forge — cagliostro-forge-colab — đã phải dành toàn bộ một phiên truy cập GPU từ Google Colab. Vấn đề hóa ra là lỗi điển hình của người mới — không tương thích giữa phiên bản Python, môi trường đám mây và chính mô hình. Trong bốn giờ vibe coding với phiên bản miễn phí Gemini 3 Flash, không thành công.

Cuối cùng, phải từ bỏ việc cài đặt khuôn khổ và chuyển trực tiếp sang triển khai FLUX.1, nhưng vào phiên miễn phí tiếp theo vào một ngày khác.

Trong thực tế, Google Colab miễn phí tiện sử dụng hơn vào cuối tuần: lúc đó nền tảng thường cung cấp quyền truy cập lâu hơn.

Mô hình chiếm khoảng 34 GB dung lượng ổ đĩa SSD đám mây. Nhưng tất cả các quy trình liên quan đến cài đặt cuối cùng đã sử dụng khoảng 86 GB.

Tài nguyên được sử dụng của máy đám mây Google Colab. Ảnh chụp màn hình: ForkLog.Ở giai đoạn đầu, mô hình FLUX.1 Schnell không đủ bộ nhớ video của bộ tăng tốc Nvidia Tesla T4. Cấu hình chưa được điều chỉnh gặp phải giới hạn GPU, cho đến khi sau một loạt thí nghiệm đơn giản với mã, Gemini 3 Flash đã giúp sửa đổi, sử dụng tải từng bước và xóa bộ nhớ. Kết quả là, trong số 16 GB bộ nhớ video khả dụng, quá trình tạo đã sử dụng khoảng 3 GB.

Ảnh chụp màn hình: ForkLog.Quá trình tạo một hình ảnh mất khoảng bảy phút. Xem xét rằng đây là phiên bản miễn phí của mô hình nguồn mở, kết quả thật đáng ngạc nhiên.

Hình ảnh được tạo bằng FLUX.1 Schnell. Nguồn: ForkLog Khi cố gắng tạo nhiều lần hình ảnh ca sĩ nhạc rock Marilyn Manson theo phong cách Victoria với người bạn đồng hành, FLUX.1 Schnell có thể đã không nhận ra tham chiếu đến một người cụ thể và chỉ tái tạo một mẫu hình ảnh tổng quát.

Hình ảnh được tạo về nghệ sĩ với yêu cầu «vẽ Marilyn Manson theo phong cách Victoria» bằng FLUX.1 Schnell. Nguồn: ForkLog.

Phức tạp và khó tin

Các mạng nơ-ron nguồn mở từ lâu đã được sử dụng không chỉ để tạo văn bản và hình ảnh, mà còn cho các tác vụ hẹp hơn và bất thường hơn. Một ví dụ nổi bật về ứng dụng kiến trúc AI không điển hình là mô hình GameNGen, có khả năng tái tạo quá trình chơi của game bắn súng cổ điển DOOM trong thời gian thực.

Nguồn: GameNGen/Github GameNGen không mô phỏng trò chơi theo nghĩa thông thường, mà tạo video tuần tự: mô hình dự đoán khung hình tiếp theo sẽ trông như thế nào sau hành động của người dùng (ví dụ: di chuyển hoặc bắn). Do đó, kẻ thù, đối tượng và thay đổi cảnh không được «tính toán» bởi engine, mà được tái tạo trực quan như kết quả có khả năng xảy ra nhất.

Trong số các hệ thống độc lập, nổi bật là dự án Voyager — tác nhân AI cho Minecraft. Nó tự khám phá thế giới trò chơi, khai thác tài nguyên và tự học liên tục.

Cộng đồng khoa học cũng tích cực điều chỉnh AI nguồn mở cho nhu cầu của mình, ví dụ, sử dụng các thuật toán để giải mã lịch sử. Do đó, các nhà nghiên cứu từ Đại học Tel Aviv và Munich đã huấn luyện mô hình Akkademia dịch trực tiếp chữ hình nêm Akkad cổ đại sang tiếng Anh. Nó cho phép xử lý hàng nghìn bảng đất sét bị hư hỏng, tăng tốc công việc của các nhà khảo cổ học lên hàng chục lần.

Không kém phần thú vị là dự án MinD-Vis. Hệ thống này phân tích dữ liệu fMRI và cố gắng tái tạo hình ảnh mà đối tượng đang quan sát tại thời điểm quét. Nghĩa là tạo ra sự diễn giải về những gì con người đã thấy dựa trên các mẫu hoạt động não.

Những sáng kiến như vậy chứng minh rằng trí tuệ nhân tạo đã trở thành một công cụ phổ quát để khám phá và mô hình hóa thực tế. Sự chuyển giao sáng kiến từ các API doanh nghiệp đóng sang mã nguồn mở đang hình thành một mô hình phát triển công nghệ hoàn toàn mới. Ngày nay, bất kỳ nhà nghiên cứu, nhà phát triển hay người đam mê nào cũng có khả năng triển khai cơ sở hạ tầng mà vài năm trước đòi hỏi đầu tư hàng triệu đô la vào các trang trại máy chủ.

Sự phát triển của hệ sinh thái chắc chắn đi kèm với sự cải thiện trải nghiệm người dùng: các tập lệnh phức tạp được thay thế bằng các giao diện trực quan và môi trường triển khai tự động. Việc sử dụng các công cụ như Ollama và Forge chứng minh rằng quyền riêng tư, không kiểm duyệt và hiệu suất cao có thể cùng tồn tại hài hòa trong một giải pháp phần mềm. Tương lai của ngành công nghiệp AI ngày nay phụ thuộc phần lớn vào mức độ mạnh mẽ, có thể mở rộng và độc lập của hệ sinh thái nguồn mở.