blog.dopana

Back

在系列的最后一部分中,我们将介绍如何通过命令行(CLI)、原生 Mac 应用以及本地 OpenAI 兼容 API 服务器 部署与使用 TurboFieldfare。

系统要求与环境准备#

部署 TurboFieldfare 需要满足以下基础条件:

  • 操作系统: macOS 26 及以上,配备 Xcode 26 与 Swift 6.2+。
  • 硬件设施: Apple Silicon 芯片 Mac (M1/M2/M3/M4/M5 系列)。
  • 磁盘存储: 至少保留约 14.3 GB 可用 SSD 空间以存放 Gemma 4 26B-A4B 权重文件。
Terminal
# 克隆代码仓库并进行 Release 编译
git clone https://github.com/drumih/turbo-fieldfare.git
cd turbo-fieldfare
swift build -c release
bash

三大常用交互界面#

TurboFieldfare 提供了丰富易用的使用模式:

  1. CLI 命令行模式: 适合在 Terminal 中快速进行交互式 Prompt 测试。
  2. Native Mac App: 基于 SwiftUI 打造的流畅原生 macOS 桌面应用程序。
  3. OpenAI 兼容本地服务器: 提供标准的 OpenAI API 端点 (/v1/chat/completions),支持流式输出 (Streaming) 与 Tool Calling (工具调用)。
chat_request.json
{
  "model": "gemma-4-26b-a4b",
  "messages": [
    { "role": "user", "content": "请简述 Mixture of Experts 的工作原理。" }
  ],
  "stream": true
}
json

硬件性能基准测试比较#

芯片型号系统内存生成速度实际 RAM 占用
Apple M2 Air8 GB5.1 – 6.3 tok/s~2.0 GB 常驻
Apple M5 Pro24 GB31.0 – 35.0 tok/s~2.0 GB 常驻

[!WARNING] 虽然内存占用始终保持在约 2GB,但仍需确保 Mac 拥有性能良好的 SSD 读写通道以获得稳定的流式推断体验。

参考资料#