Cloudflare OS: Nền tảng mở cho AI Agent và ứng dụng
Khám phá Cloudflare OS, nền tảng nguồn mở bảo mật kết hợp workspace cộng tác, runtime cô lập và Gatekeeper cho các AI Agent doanh nghiệp.
Sẽ ra sao nếu mọi người trong công ty của bạn có thể sử dụng các AI Agent để tự động hóa công việc, phân tích dữ liệu và xây dựng các ứng dụng web tùy chỉnh một cách an toàn?
Thông thường, để cấp quyền truy cập hệ thống công ty cho AI Agent, chúng ta phải cung cấp các API key. Tuy nhiên, API key thường có phạm vi quá rộng, thời hạn dài và cực kỳ nguy hiểm nếu bị rò rỉ. Nếu một agent hoạt động sai lệch hoặc bị tiêm mã độc (prompt injection), hệ thống bảo mật có thể bị xâm nhập chỉ trong tích tắc.
Để giải quyết vấn đề này, Cloudflare đã giới thiệu Cloudflare OS - một nền tảng nguồn mở được thiết kế giúp các tổ chức triển khai AI Agent một cách an toàn, chạy các luồng công việc xác định và xây dựng các ứng dụng cộng tác phù hợp với quy trình nghiệp vụ của họ.
Giải thích về Cloudflare OS (ELI5)#
Hãy tưởng tượng công ty của bạn giống như một thư viện được bảo mật nghiêm ngặt.
Bình thường, nếu một AI Agent muốn viết một báo cáo bằng cách sử dụng sách từ khu vực cấm, bạn phải đưa cho nó một chìa khóa vạn năng (API key) của thư viện. Khi đã có chìa khóa, agent có thể mở bất kỳ phòng nào, đọc bất kỳ cuốn sách nào và thậm chí có thể sao chép hoặc làm rò rỉ thông tin nhạy cảm ra thế giới bên ngoài.
Cloudflare OS hoạt động theo một cách hoàn toàn khác. Thay vì đưa cho agent chìa khóa vạn năng, nó thiết lập hai cơ chế:
- Phòng đọc cô lập (Sandboxed Reading Room): Agent được đưa vào một căn phòng an toàn để đọc sách và thực hiện công việc của mình, nhưng nó không thể tự ý rời khỏi phòng hay liên lạc với thế giới bên ngoài.
- Người thủ thư (Gatekeeper): Một người thủ thư luôn túc trực tại cửa phòng đọc. Khi agent cần một cuốn sách, nó phải yêu cầu thủ thư. Thủ thư sẽ chỉ lấy đúng cuốn sách đó, che đi các trang cực kỳ nhạy cảm và ghi nhật ký chính xác những gì agent đã đọc. Nếu agent cố tình chép thông tin nhạy cảm lên một tấm bưu thiếp để gửi ra ngoài, thủ thư sẽ chặn yêu cầu đó lại.
Cách tiếp cận này giúp việc cho phép các agent xây dựng công cụ, truy xuất cơ sở dữ liệu và thực thi mã nguồn trở nên vô cùng an toàn.
Kiến trúc cốt lõi#
Cloudflare OS được xây dựng dựa trên ba trụ cột chính:
graph TD
User[Trình duyệt Người dùng] -->|Capn Web RPC| Workspace[Workspace của Agent]
Workspace -->|Runtime V8 cô lập| Runner[Dynamic Worker / Sandbox]
Runner -->|TypeScript API bindings| Gatekeeper[Gatekeeper Worker]
Gatekeeper -->|OAuth & Audits| ExternalService[(DB Nội bộ / Github / APIs)]
style Gatekeeper fill:#ff5f07,stroke:#333,stroke-width:2px
style Runner fill:#ff9910,stroke:#333,stroke-width:2px
1. Workspace của Agent (Agent Workspace)#
Workspace là giao diện người dùng chính trên trình duyệt, kết hợp:
- Một phiên trò chuyện đang hoạt động.
- Hệ thống tệp để quản lý dữ liệu đầu vào, đầu ra và các tệp được tạo ra.
- Một môi trường thực thi mã cô lập (chạy trên các V8 isolate), cho phép agent tự viết và chạy code để phân tích thông tin thay vì phải tải toàn bộ tập dữ liệu lớn vào cửa sổ ngữ cảnh (context window) của LLM.
2. Gatekeeper: Truy cập dữ liệu an toàn#
Thay vì cấp trực tiếp thông tin xác thực API cho agent, Cloudflare OS sử dụng các Gatekeeper (Người giữ cổng).
- Gatekeeper là một Worker siêu nhẹ nằm giữa Cloudflare OS và các API bên ngoài (như GitHub hoặc cơ sở dữ liệu PostgreSQL).
- Nó cung cấp một TypeScript API giới hạn (ví dụ:
env.PROJECT.listIssues()) cho mã nguồn chạy trong môi trường cô lập. - Thông tin xác thực gốc không bao giờ rời khỏi Gatekeeper, giúp ghi nhật ký kiểm tra (audit logs) chặt chẽ, ẩn các trường thông tin nhạy cảm và giới hạn tần suất yêu cầu (rate limits).
3. Ứng dụng cá nhân và có thể tùy biến#
Trong Cloudflare OS, người dùng có thể yêu cầu agent xây dựng các ứng dụng web hoàn chỉnh.
- Mỗi ứng dụng hoạt động như một Dynamic Worker liên kết với một Durable Object Facet, cung cấp cơ sở dữ liệu SQLite cô lập riêng để quản lý trạng thái.
- Giao tiếp giữa giao diện máy khách (UI client) và máy chủ (server backend) sử dụng Cap’n Web - một giao thức RPC hướng đối tượng nguồn mở.
- Các ứng dụng có thể được chia sẻ trực tiếp với đồng nghiệp hoặc phân phối dưới dạng bản thiết kế (blueprints) (chỉ sao chép cấu trúc mã nguồn mà không kèm theo dữ liệu cá nhân hay thông tin xác thực).
Nhật ký quan sát và Dòng truyền dữ liệu (Observation Logs)#
Một trong những tính năng đột phá nhất của Cloudflare OS là khả năng theo dõi những gì agent đã nhìn thấy.
Khi một agent đọc dữ liệu thông qua Gatekeeper, tài nguyên đó sẽ được thêm vào Nhật ký quan sát (Observation Log) của nó. Nếu bạn xây dựng một bảng điều khiển hiển thị dữ liệu này và chia sẻ nó với một đồng nghiệp, Cloudflare OS sẽ kiểm tra nhật ký quan sát và xác minh xem đồng nghiệp đó có quyền truy cập trực tiếp vào nguồn dữ liệu gốc hay không. Nếu không, yêu cầu truy cập sẽ bị từ chối.
Tương tự, nếu nhật ký quan sát chứa dữ liệu nhạy cảm, công cụ chính sách của nền tảng sẽ tự động vô hiệu hóa các cuộc gọi mạng ra ngoài để ngăn chặn rò rỉ dữ liệu.
Hướng dẫn bắt đầu#
Cloudflare OS hoàn toàn là nguồn mở và có thể được triển khai lên tài khoản Cloudflare của bạn chỉ trong vài phút.
1. Nhân bản kho lưu trữ mẫu#
git clone https://github.com/cloudflare/cloudflare-os-starter.git
cd cloudflare-os-starter2. Cài đặt các gói phụ thuộc#
bun install3. Triển khai lên Cloudflare#
Cấu hình tệp wrangler.toml với Cloudflare Account ID của bạn và tiến hành triển khai:
bun run deploy[!TIP] Hãy đảm bảo cấu hình Cloudflare AI Gateway để điều phối các yêu cầu suy luận mô hình. Điều này giúp bạn theo dõi chi phí API, giới hạn lượng token sử dụng và chuyển đổi linh hoạt giữa các mô hình (như Llama 3, Claude, GPT-4).