Nếu bạn từng xây dựng AI agent bằng một vòng lặp while đơn giản — gọi model, chạy tool, lưu kết quả, lặp lại — bạn chắc chắn biết cái khổ: vòng lặp lạc hướng sau vài bước, crash một lần là mất trắng tiến trình, và không có cách nào để con người can thiệp trước khi agent làm điều gì đó không thể hoàn tác.
LangGraph, dự án open-source của đội LangChain, được tạo ra để giải quyết đúng vấn đề này. Đây là framework điều phối cấp thấp cho agent có trạng thái, chạy lâu dài, và hiện là một trong những nền tảng phổ biến nhất của hệ sinh thái agent (hơn 40k GitHub stars, được Klarna, Replit, Elastic dùng trong production).
Vấn đề: vì sao vòng lặp agent “thủ công” hay hỏng#
Hãy tưởng tượng agent như một shipper phải giao 20 đơn trong thành phố.
- Vòng lặp thủ công là shipper không có tờ giấy nhớ. Sau mỗi điểm giao, họ phải nhớ hết trong đầu. Mất tập trung là quên còn đơn nào. Xe hỏng (exception, timeout, deploy), cả buổi làm việc coi như mất.
- Cái bạn thực sự cần là shipper có clipboard: ghi lại trạng thái sau mỗi điểm giao, ai cũng có thể nhận việc tiếp, và quản lý có thể kiểm tra clipboard trước khi giao đơn quan trọng.
Đó chính là tư duy cốt lõi của LangGraph: trạng thái của agent là công dân hạng nhất. Framework tự lưu, khôi phục, và cho phép bạn xem/sửa trạng thái trong lúc agent đang chạy.
Giải pháp: mô hình hóa agent bằng graph#
LangGraph mô tả agent như một graph trên một state dùng chung. Cùng đi qua từng khái niệm.
1. State — bảng trắng dùng chung#
State là một cấu trúc dữ liệu (TypedDict hoặc Pydantic model) chảy xuyên suốt graph. Mỗi node đều đọc được và ghi cập nhật vào đó:
from typing import Annotated
from typing_extensions import TypedDict
from langgraph.graph.message import add_messages
class State(TypedDict):
# add_messages là "reducer": tin nhắn mới được nối vào, không ghi đè
messages: Annotated[list, add_messages]
query: strpythonPhần Annotated[list, add_messages] chính là reducer: nó báo cho LangGraph biết cách gộp các cập nhật khi nhiều node ghi vào cùng một trường — nối thêm thay vì ghi đè.
2. Node — các bước xử lý#
Node chỉ là một hàm nhận state hiện tại và trả về phần cập nhật. Điểm đặc biệt: node có thể là code Python thuần (gọi API, validate) hoặc lời gọi LLM — bạn trộn cả hai trong cùng một graph:
from langgraph.graph import StateGraph, START, END
from langchain.chat_models import init_chat_model
llm = init_chat_model("anthropic:claude-sonnet-4-5")
def chatbot(state: State):
return {"messages": [llm.invoke(state["messages"])]}
graph = StateGraph(State)
graph.add_node("chatbot", chatbot)
graph.add_edge(START, "chatbot")
graph.add_edge("chatbot", END)
app = graph.compile()
app.invoke({"messages": [{"role": "user", "content": "hi!"}]})python3. Edge — luồng điều khiển#
- Edge thường (
add_edge) luôn đi từ A đến B. - Edge có điều kiện (
add_conditional_edges) dẫn đường động theo state — đây chính là phần “agent”: LLM quyết định gọi tool hay dừng.
Hình dạng agent kinh điển trông như sau:
from langgraph.prebuilt import ToolNode, tools_condition
graph.add_conditional_edges("chatbot", tools_condition) # LLM quyết định
graph.add_node("tools", ToolNode(my_tools))
graph.add_edge("tools", "chatbot") # lặp lạipython4. Checkpointer — thực thi bền vững#
Đây là siêu năng lực của LangGraph. Thêm checkpointer và graph lưu state sau mỗi bước:
from langgraph.checkpoint.memory import InMemorySaver
checkpointer = InMemorySaver() # dùng bản lưu DB trong production
app = graph.compile(checkpointer=checkpointer)
app.invoke(
{"messages": [{"role": "user", "content": "hi!"}]},
config={"configurable": {"thread_id": "user-123"}},
)pythonthread_id định danh một phiên hội thoại. Nếu process crash giữa chừng, bạn gọi lại với cùng thread ID và nó tiếp tục từ checkpoint cuối — tờ giấy nhớ sống sót qua vụ xe hỏng.
5. Interrupt — con người tham gia vòng lặp#
Có persistence rồi, việc dừng lại chờ duyệt trở nên tầm thường:
app.invoke(input, config, interrupt_before=["tools"])pythonGraph dừng ngay trước node tools, con người kiểm tra (và có thể sửa) state, rồi tiếp tục. Điều này bắt buộc với bất kỳ agent nào có thể gửi email, chạy code hoặc tiêu tiền.
Vì sao thiết kế này hay#
| Năng lực | LangGraph cung cấp |
|---|---|
| Thực thi bền vững | Sống sót qua lỗi, tiếp tục tác vụ dài |
| Human-in-the-loop | Xem/sửa state của agent trước bước rủi ro |
| Bộ nhớ | Bộ nhớ làm việc ngắn hạn + bộ nhớ dài hạn giữa các phiên |
| Logic lai | Code xác định và bước LLM trong một graph kiểm toán được |
| Quan sát | LangSmith trace từng node và mỗi lần chuyển state |
Vì toàn bộ agent là một graph, bạn có thể trực quan hóa, phát lại, debug từng bước — điều mà vòng lặp while rối rắm không bao giờ cho được.
[!TIP] Nếu không muốn tự vẽ graph, LangChain có sẵn prebuilt agents (
create_react_agent) xây trên LangGraph, và gói cấp cao hơn Deep Agents cho agent biết lập kế hoạch, dùng subagent và file system. Bắt đầu từ đó, tụt xuống dùng LangGraph thuần khi cần điều khiển luồng tùy biến.
Khi nào nên dùng?#
Phù hợp: agent nhiều bước có gọi tool, cần luồng duyệt, chạy nhiều phút/giờ, hoặc phải sống sót qua restart — chatbot hỗ trợ khách hàng, coding agent, pipeline nghiên cứu.
Lãng phí: hỏi-đáp một lượt hay chuỗi RAG đơn giản không gọi tool. Một lời gọi LLM thường hoặc chuỗi nhỏ sẽ đơn giản hơn; LangGraph chỉ bừng sáng khi state, vòng lặp và độ tin cậy bắt đầu quan trọng.
Ví dụ thực tế#
Một graph agent hỗ trợ khách hàng đời thực:
Mỗi ô là một hàm nhỏ, dễ kiểm thử; checkpointer đảm bảo việc deploy giữa ngày không phá hủy các hội thoại đang chạy. Sự kết hợp giữa các mảnh nhỏ và state bền vững chính là thứ khiến agent sẵn sàng cho production.