Panduan Integrasi Gate.AI LangChain dan LangGraph

Gate.AI menyediakan endpoint API yang kompatibel dengan OpenAI, memungkinkan pengembang untuk menghubungkan LangChain dan LangGraph melalui endpoint tersebut, sehingga model dapat dipanggil melalui routing Gate.AI. Ketika aplikasi Python membutuhkan prompt berbasis rantai, alur kerja agen berbasis graf, atau ingin membangun gateway model terpadu tanpa perlu menulis ulang logika aplikasi untuk setiap penyedia model, solusi ini sangat penting. Artikel ini akan memperkenalkan pengaturan lingkungan lokal, pengujian panggilan LangChain, prompt chain LangChain, dan sebuah alur kerja LangGraph sederhana. Konten tidak mencakup deployment produksi, basis data vektor, observabilitas, konfigurasi penagihan, atau kebijakan akses perusahaan.

Prasyarat

• Telah membuat kunci API Gate.AI melalui akun Gate.AI
• Python 3.10 atau lebih tinggi, dan memiliki izin instalasi paket dependensi

Sumber konten: Dokumentasi resmi Gate.AI dan materi produk, hingga Juni 2026.

Setelah menyelesaikan panduan ini, apa saja kemampuan yang akan Anda miliki?

Anda akan dapat mengintegrasikan Gate.AI ke dalam LangChain melalui ChatOpenAI, dan menggunakan konfigurasi model yang sama dalam alur kerja LangGraph.

Solusi ini membantu Anda untuk:

• Memanggil Gate.AI dari skrip Python lokal
• Menguji konfigurasi model="auto" yang dirutekan Gate.AI
• Jika perlu, mengganti auto dengan ID model Gate.AI yang terverifikasi
• Menjalankan prompt chain LangChain
• Melakukan alur kerja LangGraph dua langkah

Untuk memahami latar belakang integrasi API yang lebih luas, silakan lihat dokumentasi API pengembang Gate.AI.

Langkah 1: Instalasi dependensi Python

Langkah ini akan menginstal integrasi LangChain OpenAI dan paket LangGraph yang diperlukan untuk alur kerja lokal.

• Buat dan aktifkan lingkungan virtual:

  bash python -m venv .venv source .venv/bin/activate

  pip install -U langchain langchain-openai langgraph

• Perintah aktivasi di PowerShell Windows:

  powershell .venv\Scripts\Activate.ps1

Setelah instalasi, seharusnya Anda dapat mengimpor langchain_openai dan langgraph tanpa masalah.

Langkah 2: Simpan kunci API Gate.AI

Langkah ini menyimpan kunci API Gate.AI di luar kode sumber.

• Di lingkungan bash, atur variabel lingkungan:

  bash export GATEAI_API_KEY="YOUR_API_KEY"

• Di PowerShell Windows:

  powershell setx GATEAI_API_KEY "YOUR_API_KEY"

Setelah menggunakan setx, perlu restart sesi PowerShell.

Jangan kirimkan kunci API asli ke Git. Disarankan menggunakan pengelola kunci, konfigurasi kunci CI, atau proses variabel lingkungan internal yang disetujui.

Langkah 3: Konfigurasi Gate.AI di LangChain

Langkah ini membuat model chat di LangChain yang mengirim permintaan ke Gate.AI sesuai protokol OpenAI.

• Berdasarkan dokumentasi Gate.AI Juni 2026, URL dasar yang kompatibel dengan OpenAI adalah:

• Di LangChain, gunakan URL ini sebagai base_url. Tidak perlu menambahkan /chat/completions di belakangnya, karena LangChain akan otomatis menanganinya.

• Contoh:

  python import os from langchain_openai import ChatOpenAI

  llm = ChatOpenAI( model="auto", api_key=os.environ["GATEAI_API_KEY"], base_url="", temperature=0, )

  response = llm.invoke("Tulis satu kalimat yang menjelaskan apa yang dilakukan router model AI.") print(response.content)

Output yang diharapkan:

Router model AI akan mengarahkan permintaan ke model yang sesuai berdasarkan tugas, aturan routing, atau konfigurasi.

Isi respons aktual mungkin berbeda, karena routing Gate.AI akan merespons secara dinamis sesuai model yang dipilih.

Langkah 4: Bangun prompt chain LangChain

Langkah ini menghubungkan prompt yang dapat digunakan kembali, model yang didukung Gate.AI, dan parser output string.

• Contoh:

  python import os from langchain_openai import ChatOpenAI from langchain_core.prompts import ChatPromptTemplate from langchain_core.output_parsers import StrOutputParser

  llm = ChatOpenAI( model="auto", api_key=os.environ["GATEAI_API_KEY"], base_url="", temperature=0, )

  prompt = ChatPromptTemplate.from_messages( [ ("system", "Anda adalah asisten teknis yang ringkas."), ("human", "Jelaskan {topic} dalam tiga poin penting."), ] )

  chain = prompt | llm | StrOutputParser()

  result = chain.invoke({"topic": "Routing API Gate.AI"}) print(result)

Anda akan melihat penjelasan singkat dalam tiga poin. Jika skrip mengeluarkan error sebelum teks, periksa terlebih dahulu kunci API, URL dasar, dan konfigurasi model, bukan langsung mengubah struktur chain.

Langkah 5: Konfigurasi Gate.AI di LangGraph

Langkah ini mengulang konfigurasi model Gate.AI yang sama dalam alur kerja status LangGraph.

Contoh ini menggunakan satu node untuk menghasilkan penjelasan singkat, dan node lain untuk review, menjaga alur tetap sederhana, cocok untuk verifikasi fungsi dasar sebelum menambah alat, memori, pencarian, atau routing kondisi.

• Contoh:

  python import os from typing_extensions import TypedDict from langchain_openai import ChatOpenAI from langgraph.graph import StateGraph, START, END

  llm = ChatOpenAI( model="auto", api_key=os.environ["GATEAI_API_KEY"], base_url="", temperature=0, )

  class WorkflowState(TypedDict): topic: str draft: str review: str

  def draft_node(state: WorkflowState) -> dict: response = llm.invoke( [ ("system", "Anda menulis penjelasan teknis singkat."), ("human", f"Tulis penjelasan dua kalimat tentang {state['topic']}."), ] ) return {"draft": response.content}

  def review_node(state: WorkflowState) -> dict: response = llm.invoke( [ ("system", "Anda meninjau tulisan teknis untuk kejelasan."), ("human", f"Tinjau draft ini dan berikan satu saran perbaikan:\n\n{state['draft']}"), ] ) return {"review": response.content}

  builder = StateGraph(WorkflowState) builder.add_node("draft", draft_node) builder.add_node("review", review_node)

  builder.add_edge(START, "draft") builder.add_edge("draft", "review") builder.add_edge("review", END)

  app = builder.compile()

  result = app.invoke({"topic": "Gate.AI dengan LangGraph"})

  print("Draft:\n", result["draft"]) print("\nReview:\n", result["review"])

Anda akan melihat draft dan saran review yang dihasilkan. Jika alur hanya mengembalikan draft, pastikan edge dari draft ke review sudah benar.

Langkah 6: Ganti routing otomatis dengan model tertentu

Jika ingin mengunci perilaku model agar integrasi lebih terkendali, lakukan hal berikut:

• Jika routing otomatis Gate.AI diaktifkan dan akun mendukung, pengujian awal bisa pakai model="auto"

• Jika ingin hasil yang dapat direproduksi, evaluasi konsisten, pengujian latensi, atau review produksi, gunakan ID model Gate.AI yang spesifik

• Contoh:

  python llm = ChatOpenAI( model="YOUR_MODEL_ID", api_key=os.environ["GATEAI_API_KEY"], base_url="", temperature=0, )

ID model dapat diambil dari katalog model Gate.AI atau dari konsol Gate.AI. Jangan tebak-tebakan ID model secara sembarangan, karena ketersediaan tergantung akun, status produk, dan aturan penyedia model (hingga Juni 2026).

Konfigurasi paling penting apa saja?

| Parameter | Contoh nilai | Penggunaan | Penjelasan Penting | | ------------------ | --------------------------------------------------------- | ------------------------------ | ------------------------------------------------ | | Variabel API Kunci | GATEAI_API_KEY | Shell dan kode Python | Menjaga agar kredensial tidak muncul di kode sumber | | Base URL | | ChatOpenAI(base_url=...) | Mengarahkan permintaan kompatibel OpenAI ke Gate.AI | | Model | auto atau YOUR_MODEL_ID | ChatOpenAI(model=...) | Memilih routing otomatis atau model tertentu | | Temperatur | 0 | ChatOpenAI(temperature=0) | Mengurangi variabilitas output di lingkungan pengujian |

Untuk menjaga konsistensi routing, disarankan menggunakan objek llm yang sama di LangChain dan LangGraph. Hanya saat beralih dari pengujian routing ke pengujian model tetap, ubah parameter model.

Troubleshooting umum integrasi LangChain dan LangGraph dengan Gate.AI

Gejala: Respons mengembalikan 401, invalid_api_key, atau error otentikasi

• Penyebab: Kunci API Gate.AI hilang, kedaluwarsa, salah ketik, atau shell tidak bisa membacanya
• Solusi: Jalankan echo $GATEAI_API_KEY di terminal yang sama, pastikan kunci valid dan sudah dikonfigurasi di Gate.AI. Jika di sesi lain, set variabel dan restart terminal.

Gejala: Respons mengembalikan 404, gagal koneksi, atau endpoint tidak ditemukan

• Penyebab: Kesalahan konfigurasi Base URL. URL dasar kompatibel OpenAI adalah
• Solusi: Pastikan setiap instance ChatOpenAI memiliki base_url yang benar, yaitu URL Gate.AI yang sesuai.

Gejala: Python mengembalikan ModuleNotFoundError

• Penyebab: Virtual environment belum menginstal langchain-openai atau langgraph
• Solusi: Aktifkan virtual environment dan jalankan pip install -U langchain langchain-openai langgraph

Gejala: Otentikasi berhasil tetapi permintaan model gagal

• Penyebab: Model yang dipilih tidak tersedia, salah ketik, atau tidak didukung permintaan saat ini
• Solusi: Uji dulu dengan model="auto". Jika ingin model tertentu, salin ID model yang valid dari Gate.AI.

Gejala: Alur kerja LangGraph mengembalikan status tidak lengkap

• Penyebab: Node tertentu tidak mengembalikan kunci status yang diharapkan, atau struktur graf kurang lengkap
• Solusi: Pastikan setiap node mengembalikan dictionary dengan kunci yang benar, dan graf memiliki START, edge antar node, serta END.

Langkah selanjutnya: pengaturan atau pembangunan fitur apa lagi?

• Integrasi API pengembang Gate.AI untuk menghubungkan alur kerja lokal ke ekosistem API Gate.AI yang lebih luas
• Jika ingin integrasi ke editor pengkodean AI, lihat panduan integrasi Gate.AI Cursor
• Jika proses pengembangan melibatkan Claude Code dan konfigurasi kompatibel dengan Anthropic, lihat panduan integrasi Gate.AI Claude Code