Hướng Dẫn Tích Hợp Gate.AI LangChain và LangGraph

Gate.AI cung cấp các điểm cuối API tương thích với OpenAI, cho phép nhà phát triển kết hợp LangChain và LangGraph để thực hiện gọi mô hình qua route của Gate.AI. Khi ứng dụng Python cần dựa trên chuỗi prompt, luồng tác vụ dựa trên đồ thị, hoặc muốn xây dựng một cổng mô hình thống nhất không cần viết lại logic cho từng nhà cung cấp mô hình, đây là giải pháp đặc biệt quan trọng. Bài viết sẽ giới thiệu cách thiết lập môi trường cục bộ, thử nghiệm gọi LangChain, chuỗi prompt trong LangChain và một luồng công việc đơn giản của LangGraph. Nội dung không bao gồm triển khai sản phẩm, cơ sở dữ liệu vector, khả năng quan sát, cấu hình thanh toán hoặc chính sách truy cập doanh nghiệp.

Điều kiện tiên quyết

• Đã tạo khóa API Gate.AI qua tài khoản Gate.AI
• Python 3.10 trở lên và có quyền cài đặt các gói phụ thuộc

Nguồn nội dung: Tài liệu chính thức và tài liệu sản phẩm của Gate.AI, thời điểm cập nhật đến tháng 6 năm 2026.

Sau khi hoàn thành hướng dẫn này, bạn sẽ có khả năng gì?

Bạn có thể kết nối Gate.AI vào LangChain qua ChatOpenAI và tái sử dụng cùng cấu hình mô hình trong luồng công việc của LangGraph.

Giải pháp này giúp bạn:

• Gọi Gate.AI trong script Python cục bộ
• Thử nghiệm cấu hình model="auto" route qua Gate.AI
• Khi cần, thay thế auto bằng ID mô hình đã xác thực của Gate.AI
• Chạy chuỗi prompt trong LangChain
• Thực thi luồng công việc hai bước của LangGraph

Để biết thêm về tích hợp API rộng hơn, vui lòng xem tài liệu tích hợp API của nhà phát triển Gate.AI.

Bước 1: Cài đặt các gói phụ thuộc Python

Bước này sẽ cài đặt các tích hợp cần thiết cho luồng công việc cục bộ gồm LangChain OpenAI và LangGraph.

• Tạo và kích hoạt môi trường ảo:

  bash python -m venv .venv source .venv/bin/activate

  pip install -U langchain langchain-openai langgraph

• Trong PowerShell Windows, kích hoạt:

  powershell .venv\Scripts\Activate.ps1

Sau khi cài đặt, có thể import bình thường các gói langchain_openai và langgraph.

Bước 2: Lưu khóa API Gate.AI

Bước này sẽ lưu khóa API của Gate.AI ra ngoài mã nguồn.

• Trong môi trường bash, thiết lập biến môi trường:

  bash export GATEAI_API_KEY="YOUR_API_KEY"

• Trong PowerShell Windows, thiết lập:

  powershell setx GATEAI_API_KEY "YOUR_API_KEY"

Sau khi dùng setx, cần khởi động lại PowerShell để biến có hiệu lực.

Không gửi khóa API thật lên Git. Đối với dự án nhóm, khuyên dùng trình quản lý khóa, cấu hình khóa CI hoặc quy trình biến môi trường nội bộ đã được phê duyệt.

Bước 3: Cấu hình Gate.AI trong LangChain

Bước này sẽ tạo một mô hình chat trong LangChain để gửi yêu cầu tương thích OpenAI tới Gate.AI.

• Theo tài liệu Gate.AI tháng 6 năm 2026, URL cơ sở tương thích OpenAI là:

• Trong LangChain, đặt URL này làm base_url. Không cần thêm /chat/completions vào sau base_url, LangChain sẽ tự xử lý đường dẫn.

• Ví dụ:

  python import os from langchain_openai import ChatOpenAI

  llm = ChatOpenAI( model="auto", api_key=os.environ["GATEAI_API_KEY"], base_url="", temperature=0, )

  response = llm.invoke("Viết một câu giải thích mô tả chức năng của bộ định tuyến mô hình AI.") print(response.content)

Kết quả dự kiến:

Bộ định tuyến mô hình AI sẽ dựa trên nhiệm vụ, quy tắc route hoặc cấu hình để phân phối yêu cầu tới mô hình phù hợp.

Nội dung trả về thực tế có thể khác, vì Gate.AI route sẽ phản hồi động dựa trên mô hình đã chọn.

Bước 4: Xây dựng chuỗi prompt trong LangChain

Bước này sẽ kết nối prompt có thể tái sử dụng, mô hình hỗ trợ của Gate.AI và trình phân tích chuỗi đầu ra.

• Ví dụ:

  python import os from langchain_openai import ChatOpenAI from langchain_core.prompts import ChatPromptTemplate from langchain_core.output_parsers import StrOutputParser

  llm = ChatOpenAI( model="auto", api_key=os.environ["GATEAI_API_KEY"], base_url="", temperature=0, )

  prompt = ChatPromptTemplate.from_messages( [ ("system", "Bạn là trợ lý kỹ thuật ngắn gọn."), ("human", "Giải thích {topic} trong ba điểm chính."), ] )

  chain = prompt | llm | StrOutputParser()

  result = chain.invoke({"topic": "định tuyến API Gate.AI"}) print(result)

Bạn sẽ thấy một giải thích ngắn gọn gồm ba điểm chính. Nếu script báo lỗi trước khi trả về văn bản, kiểm tra khóa API, URL cơ sở và cấu hình mô hình, không nên sửa trực tiếp cấu trúc chuỗi.

Bước 5: Cấu hình Gate.AI trong LangGraph

Bước này sẽ tái sử dụng cấu hình mô hình Gate.AI trong luồng trạng thái của LangGraph.

Ví dụ dưới đây tạo một node để sinh mô tả ngắn, node khác để xem xét, giữ cho luồng đơn giản để kiểm tra chức năng cơ bản trước khi thêm công cụ, bộ nhớ, truy xuất hoặc route có điều kiện.

• Ví dụ:

  python import os from typing_extensions import TypedDict from langchain_openai import ChatOpenAI from langgraph.graph import StateGraph, START, END

  llm = ChatOpenAI( model="auto", api_key=os.environ["GATEAI_API_KEY"], base_url="", temperature=0, )

  class WorkflowState(TypedDict): topic: str draft: str review: str

  def draft_node(state: WorkflowState) -> dict: response = llm.invoke( [ ("system", "Bạn viết giải thích kỹ thuật ngắn gọn."), ("human", f"Viết một giải thích hai câu về {state['topic']}."), ] ) return {"draft": response.content}

  def review_node(state: WorkflowState) -> dict: response = llm.invoke( [ ("system", "Bạn xem xét rõ ràng của bài viết kỹ thuật."), ("human", f"Xem xét bản nháp này và đề xuất một cải tiến:

{state['draft']}"), ] ) return {"review": response.content}

builder = StateGraph(WorkflowState) builder.add_node("draft", draft_node) builder.add_node("review", review_node)

builder.add_edge(START, "draft") builder.add_edge("draft", "review") builder.add_edge("review", END)

app = builder.compile()

result = app.invoke({"topic": "Gate.AI với LangGraph"})

print("Bản nháp: ", result["draft"]) print(" Xem xét: ", result["review"])

Bạn sẽ thấy bản nháp và ý kiến xem xét. Nếu luồng chỉ trả về bản nháp, hãy xác nhận các cạnh từ draft đến review đã được thiết lập đúng.

Bước 6: Thay thế route tự động bằng mô hình chỉ định

Để kiểm soát hành vi mô hình, bạn có thể làm như sau:

• Nếu đã bật route tự động của Gate.AI và tài khoản hỗ trợ, thử nghiệm ban đầu dùng model="auto"

• Khi cần đảm bảo kết quả lặp lại, đánh giá nhất quán, kiểm tra độ trễ hoặc duyệt sản phẩm, hãy dùng ID mô hình cụ thể của Gate.AI

• Ví dụ:

  python llm = ChatOpenAI( model="YOUR_MODEL_ID", api_key=os.environ["GATEAI_API_KEY"], base_url="", temperature=0, )

ID mô hình lấy từ danh mục mô hình của Gate.AI hoặc trong bảng điều khiển của Gate.AI. Không đoán mò ID mô hình vì khả năng sử dụng phụ thuộc vào tài khoản, trạng thái sản phẩm và quy tắc của nhà cung cấp mô hình (đến tháng 6 năm 2026).

Các cấu hình quan trọng nhất là gì?

| Cấu hình | Ví dụ giá trị | Tình huống sử dụng | Mức độ quan trọng | | ------------------- | --------------------------------------------------------- | ------------------------------ | -------------------------------------------------------- | | Biến API khóa | GATEAI_API_KEY | Shell và mã Python | Đảm bảo chứng thực không xuất hiện trong mã nguồn | | URL cơ sở | | ChatOpenAI(base_url=...) | Route các yêu cầu tương thích OpenAI tới Gate.AI | | Mô hình | auto hoặc YOUR_MODEL_ID | ChatOpenAI(model=...) | Chọn route tự động hoặc chỉ định mô hình | | Nhiệt độ | 0 | ChatOpenAI(temperature=0) | Giảm biến động đầu ra trong môi trường thử nghiệm |

Để giữ hành vi route nhất quán, khuyên dùng cùng một đối tượng llm trong LangChain và LangGraph. Chỉ thay đổi model khi chuyển từ thử nghiệm route sang cố định mô hình.

Các lỗi thường gặp khi tích hợp Gate.AI với LangChain và LangGraph

Hiện tượng: Yêu cầu trả về 401, invalid_api_key hoặc lỗi xác thực

• Nguyên nhân: Khóa API Gate.AI thiếu, hết hạn, sai chính tả hoặc shell không đọc được
• Giải pháp: Chạy cùng terminal: echo $GATEAI_API_KEY để xác nhận khóa hợp lệ và đã cấu hình trong Gate.AI. Nếu thiết lập trong session khác, khởi động lại terminal.

Hiện tượng: Yêu cầu trả về 404, thất bại kết nối hoặc không tìm thấy điểm cuối

• Nguyên nhân: Cấu hình URL cơ sở sai. URL đúng là
• Giải pháp: Đảm bảo mỗi instance của ChatOpenAI có base_url đúng như trên.

Hiện tượng: Python báo lỗi ModuleNotFoundError

• Nguyên nhân: Môi trường ảo chưa cài langchain-openai hoặc langgraph
• Giải pháp: Kích hoạt môi trường ảo rồi chạy: pip install -U langchain langchain-openai langgraph

Hiện tượng: Xác thực thành công nhưng yêu cầu mô hình thất bại

• Nguyên nhân: Mô hình chọn không khả dụng, sai chính tả hoặc không hỗ trợ yêu cầu hiện tại
• Giải pháp: Thử với model="auto". Nếu cần cố định mô hình, lấy ID hợp lệ từ Gate.AI.

Hiện tượng: Luồng trong LangGraph trả về trạng thái không đầy đủ

• Nguyên nhân: Một node không trả về đúng key trong trạng thái, hoặc thiếu cạnh trong đồ thị
• Giải pháp: Đảm bảo mỗi node trả về dictionary chứa key đúng, và đồ thị có các cạnh START, các node và END.

Các bước tiếp theo có thể cấu hình hoặc xây dựng

• Tích hợp API của Gate.AI qua API nhà phát triển để mở rộng luồng công việc cục bộ
• Tham khảo hướng dẫn tích hợp Gate.AI Cursor để tích hợp trong trình chỉnh sửa mã AI
• Nếu phát triển liên quan đến Claude Code hoặc cấu hình tương thích của Anthropic, xem hướng dẫn tích hợp Gate.AI Claude Code