TurboFieldfare (Phần 3): CLI, App Mac & OpenAI Server • blog.dopana

Trong phần cuối của chuỗi bài viết, chúng ta sẽ tìm hiểu cách cài đặt và tích hợp TurboFieldfare vào công việc hàng ngày thông qua giao diện dòng lệnh (CLI), ứng dụng macOS native và máy chủ OpenAI-Compatible Local API Server.

Yêu cầu hệ thống và Chuẩn bị#

Để khởi chạy TurboFieldfare trên máy Mac, bạn cần đảm bảo các điều kiện sau:

Hệ điều hành: macOS 26 trở lên với Xcode 26 và Swift 6.2+.
Phần cứng: Máy Mac Apple Silicon (M1, M2, M3, M4 hoặc M5).
Dung lượng đĩa: Tối thiểu khoảng 14.3 GB dung lượng đĩa trống cho mô hình Gemma 4 26B-A4B.

Terminal

# Clone repository và biên dịch dự án
git clone https://github.com/drumih/turbo-fieldfare.git
cd turbo-fieldfare
swift build -c release

bash

Các phương thức giao tiếp (Interface Options)#

TurboFieldfare hỗ trợ 3 hình thức tương tác chính:

CLI Mode: Giao tiếp trực tiếp trong Terminal cho nhu cầu truy vấn nhanh.
Native Mac App: Giao diện đồ họa SwiftUI mượt mà dành cho người dùng cuối.
OpenAI-Compatible Server: Khởi chạy API endpoint cục bộ tương thích tiêu chuẩn OpenAI (/v1/chat/completions), hỗ trợ tính năng Streaming và Gọi hàm (Tool Calling).

chat_request.json

{
  "model": "gemma-4-26b-a4b",
  "messages": [
    { "role": "user", "content": "Giải thích nguyên lý MoE trong AI." }
  ],
  "stream": true
}

json

Bảng so sánh Hiệu năng (Benchmark)#

Dòng Chip	RAM Hệ Thống	Generation Speed	Trạng thái RAM tiêu thụ
Apple M2 Air	8 GB	5.1 – 6.3 tok/s	~2.0 GB Resident
Apple M5 Pro	24 GB	31.0 – 35.0 tok/s	~2.0 GB Resident

[!WARNING] Mặc dù dung lượng tiêu thụ RAM luôn duy trì mức thấp (~2GB), bạn cần đảm bảo đĩa SSD NVMe của máy ở trạng thái hoạt động tốt để tránh hiện tượng nghẽn cổ đút đọc ghi I/O.

Tài liệu tham khảo#

Dự án nguồn mở: drumih/turbo-fieldfare ↗
Hướng dẫn cài đặt và mẫu câu lệnh CLI chính thức.