工作資料留在身邊
在自己的電腦執行推論。離線本地流程可將提示與文件留在裝置內；連網工具則有各自的資料傳輸方式。
MACOS · WINDOWS · LINUX · ANDROID
0.8 PREVIEW帳戶…
你的硬件，你的 AI。強大智能，
強大智能，
就在你的電腦。
一部遊戲 PC，一台小巧 Mac。你的下一個 AI 工作空間，可能早已在桌上。找出合適模型，實測它能做到甚麼。
TokFire Bench · 免費 1–3 個並行 job · 毋須登入硬件概念示意圖
本地模型。
實在的可能。
實在的可能。
PC Mac GGUF MLX
27B更有能力的模型，
個人硬件也值得一試。
個人硬件也值得一試。
11.8 GBGSQ-RCO IQ3_S 公開檔案大小。
執行時仍需額外記憶體。
執行時仍需額外記憶體。
1 → 3測試並行 job 數目。
找出配搭的實用範圍。
找出配搭的實用範圍。
為何本地 AI，為何是現在。讓 AI 成為
讓 AI 成為
你電腦的一部分。
更小的模型檔案，讓實用的本地 AI 更易入手。自行選擇模型，在檔案所在的電腦執行推論，發揮現有硬件的用途。
自行決定如何運作
選擇模型、上下文與執行環境。保留適合工作流程的版本，按自己的時間更新。
讓顯示卡發揮用途
同一部電腦可用於編程、文件工作與聊天。本地推論毋須按 token 支付 API 費用，仍需承擔硬件與電費。
16 GB 的新機會270 億參數，
270 億參數，
更精簡的體積。
ISTA-DASLab 的 GSQ + RCO 量化，為模型各部分分配不同精度。Qwen3.8-27B IQ3_S 檔案為 11.8 GB，讓 16 GB 顯示卡成為值得探索的起點。
作者在部分測試中報告接近原模型的結果。這是壓縮精度版本，並非原始完整精度模型，亦不保證答案完全相同。
閱讀模型資料模型檔案大小 / GB公開檔案大小 · 並非實測顯示記憶體用量
還要預留工作記憶體。KV cache + 執行緩衝區 + 可選視覺／MTP 組件
QWEN3.8-27B 精選配搭
一個模型，六種起步方式。
三組 PC、三款 Mac。按公開模型大小與硬件規格挑選的入門配置，並非實測排名。
PC · 精簡 GGUF 模型
入門之選01
16 GB VRAM
RTX 5060 Ti
現代 6–8 核心 CPU
32 GB RAM · 1 TB NVMe
Qwen3.8-27BGSQ-RCO IQ3_S · GGUF11.8 GB 公開下載大小llama.cpp · CUDA
精簡的 27B 量化模型，令 16 GB 遊戲顯示卡值得一試。請選 16 GB 版本；8 GB 版本不適用此建議。
建議測試方向先測聊天，再試單一工具任務1 個 job · 4K 上下文
U配搭評級有待實測
發揮現有硬件的潛力02
24 GB VRAM
RTX 4090
現代 8 核心或以上 CPU
64 GB RAM · 2 TB NVMe
Qwen3.8-27BGSQ-RCO IQ3_S · GGUF11.8 GB 公開下載大小llama.cpp · CUDA
已有 24 GB 顯示卡？先繼續用。相同的精簡模型可留下更多空間，容納上下文與執行緩衝區。
建議測試方向測試單一 agent 工作流程1 個 job · 8K 上下文
U配搭評級有待實測
探索並行工作負載03
32 GB VRAM
RTX 5090
現代 8 核心或以上 CPU
64 GB RAM · 2 TB NVMe
Qwen3.8-27BGSQ-RCO IQ3_S · GGUF11.8 GB 公開下載大小llama.cpp · CUDA
這裡顯示記憶體最多的選擇，可留更多空間探索並行任務。用作共享伺服器前，先量度每個 job 的延遲。
建議測試方向適合嘗試 1 → 2 → 3 個並行 job1 個 job · 8K 上下文
U配搭評級有待實測
Mac · 原生 MLX 模型
小巧的本地 AI 工作站01
48 GB unified
Mac mini · M5 Pro
18-core CPU · 20-core GPU
1 TB SSD
Qwen3.8-27BMLX community · 4-bit16.1 GB 公開下載大小oMLX · MLX
統一記憶體由模型與 macOS 共用。對這個 4-bit 模型而言，48 GB 配置是合理的起點。
建議測試方向先測聊天，再試單一工具任務1 個 job · 4K 上下文
U配搭評級有待實測
日常工作的好搭檔02
64 GB unified
Mac Studio · M5 Max
18-core CPU · 40-core GPU
1 TB SSD
Qwen3.8-27BMLX community · 4-bit16.1 GB 公開下載大小oMLX · MLX
更多記憶體可留給較長的對話與其他桌面程式。先確認單一 job 的表現，再測第二個並行 job。
建議測試方向測試單一 agent 工作流程1 個 job · 8K 上下文
U配搭評級有待實測
為共享 AI 服務預留空間03
96 GB unified
Mac Studio · M5 Ultra
30-core CPU · 64-core GPU
2 TB SSD
Qwen3.8-27BMLX community · 4-bit16.1 GB 公開下載大小oMLX · MLX
額外容量適合探索並行工作，但不代表每個 job 都必然流暢。
建議測試方向適合嘗試 1 → 2 → 3 個並行 job1 個 job · 8K 上下文
U配搭評級有待實測
放得下，只是第一步。
下載大小不等於總記憶體用量。作業系統、執行環境、視覺組件與 KV cache（模型的工作記憶）都需要空間。上下文與並行 job 越多，需求越高。這些起步設定供測試使用，不保證速度或 agent 成功率。請使用支援此模型的執行環境；TokFire 尚未實測這六組配搭。
測試自己的配搭 →從「放得下」到「用得好」
找出實際可用的上限。
文字生成速度只是其中一環。TokFire 量度等待時間、任務完成情況，以及多個 job 同時執行時的變化。
先由一個 job 開始
執行聊天、商務、文件或本地 agent 工具任務，記錄完成率、首次輸出與任務延遲。
增加並行 job
以 2 或 3 個 job 同時呼叫同一模型，觀察每個 job 的反應與失敗情況，不能只看總吞吐量。
讓結果幫你做決定
查看工作負載配搭評級。本地儲存報告、以訪客身分上傳，再獨立選擇是否公開。
學習／建立／量度
探索實用指南 讓本地 AI 融入日常。
六篇實用教學：第一個助手、私人文件問答、Mac MLX、GPU 記憶體、工具 agent 及並行 job。
TOKFIRE BENCH / 0.9 DESKTOP PREVIEW讓你的電腦
讓你的電腦
用實測說話。
免費版可對同一模型執行 1–3 個並行 job。Pro 計劃一次性 HK$180，於一部已啟用裝置支援最多 20 個 job；付費版本仍待商店審批。
測試方法與限制安裝前須知
請另行安裝 Python 與相容的推論執行環境。Mac 可用 llama.cpp 執行 GGUF，或以 oMLX 執行 MLX。可選 MTP 需要相容環境與額外設定，TokFire 不會自動啟用。
Mac DMG 使用 ad-hoc 簽署，未經 Apple 公證。Windows 未簽署，仍待 Windows／GPU 實機驗證。Android 連接現有裝置端或區域網絡推論服務，不附模型引擎；仍待手機實機驗證。
Automatic upload is on before Run and can be disabled. Public sharing is separate and off by default. Failed uploads stay queued; reports are saved locally. Desktop 0.9 adds Pro parameter experiments with local-only reports; activation awaits product setup. Version 0.8 added CSV analysis, multi-page research and retry simulations with verified task checks. These are TokFire simulations, not actual third-party agent runs. Android 0.7 retains the original profiles.
下載原始碼連接桌面應用程式 →