工作资料留在身边
在自己的电脑执行推论。离线本地流程可将提示与文件留在装置内；连网工具则有各自的资料传输方式。
MACOS · WINDOWS · LINUX · ANDROID
0.8 PREVIEW帐户…
你的硬件，你的 AI。强大智能，
强大智能，
就在你的电脑。
一部游戏 PC，一台小巧 Mac。你的下一个 AI 工作空间，可能早已在桌上。找出合适模型，实测它能做到什么。
TokFire Bench · 免费 1–3 个并行 job · 毋须登入硬件概念示意图
本地模型。
实在的可能。
实在的可能。
PC Mac GGUF MLX
27B更有能力的模型，
个人硬件也值得一试。
个人硬件也值得一试。
11.8 GBGSQ-RCO IQ3_S 公开档案大小。
执行时仍需额外记忆体。
执行时仍需额外记忆体。
1 → 3测试并行 job 数目。
找出配搭的实用范围。
找出配搭的实用范围。
为何本地 AI，为何是现在。让 AI 成为
让 AI 成为
你电脑的一部分。
更小的模型档案，让实用的本地 AI 更易入手。自行选择模型，在档案所在的电脑执行推论，发挥现有硬件的用途。
自行决定如何运作
选择模型、上下文与执行环境。保留适合工作流程的版本，按自己的时间更新。
让显示卡发挥用途
同一部电脑可用于编程、文件工作与聊天。本地推论毋须按 token 支付 API 费用，仍需承担硬件与电费。
16 GB 的新机会270 亿参数，
270 亿参数，
更精简的体积。
ISTA-DASLab 的 GSQ + RCO 量化，为模型各部分分配不同精度。Qwen3.8-27B IQ3_S 档案为 11.8 GB，让 16 GB 显示卡成为值得探索的起点。
作者在部分测试中报告接近原模型的结果。这是压缩精度版本，并非原始完整精度模型，亦不保证答案完全相同。
阅读模型资料模型档案大小 / GB公开档案大小 · 并非实测显示记忆体用量
还要预留工作记忆体。KV cache + 执行缓冲区 + 可选视觉／MTP 组件
QWEN3.8-27B 精选配搭
一个模型，六种起步方式。
三组 PC、三款 Mac。按公开模型大小与硬件规格挑选的入门配置，并非实测排名。
PC · 精简 GGUF 模型
入门之选01
16 GB VRAM
RTX 5060 Ti
现代 6–8 核心 CPU
32 GB RAM · 1 TB NVMe
Qwen3.8-27BGSQ-RCO IQ3_S · GGUF11.8 GB 公开下载大小llama.cpp · CUDA
精简的 27B 量化模型，令 16 GB 游戏显示卡值得一试。请选 16 GB 版本；8 GB 版本不适用此建议。
建议测试方向先测聊天，再试单一工具任务1 个 job · 4K 上下文
U配搭评级有待实测
发挥现有硬件的潜力02
24 GB VRAM
RTX 4090
现代 8 核心或以上 CPU
64 GB RAM · 2 TB NVMe
Qwen3.8-27BGSQ-RCO IQ3_S · GGUF11.8 GB 公开下载大小llama.cpp · CUDA
已有 24 GB 显示卡？先继续用。相同的精简模型可留下更多空间，容纳上下文与执行缓冲区。
建议测试方向测试单一 agent 工作流程1 个 job · 8K 上下文
U配搭评级有待实测
探索并行工作负载03
32 GB VRAM
RTX 5090
现代 8 核心或以上 CPU
64 GB RAM · 2 TB NVMe
Qwen3.8-27BGSQ-RCO IQ3_S · GGUF11.8 GB 公开下载大小llama.cpp · CUDA
这里显示记忆体最多的选择，可留更多空间探索并行任务。用作共享伺服器前，先量度每个 job 的延迟。
建议测试方向适合尝试 1 → 2 → 3 个并行 job1 个 job · 8K 上下文
U配搭评级有待实测
Mac · 原生 MLX 模型
小巧的本地 AI 工作站01
48 GB unified
Mac mini · M5 Pro
18-core CPU · 20-core GPU
1 TB SSD
Qwen3.8-27BMLX community · 4-bit16.1 GB 公开下载大小oMLX · MLX
统一记忆体由模型与 macOS 共用。对这个 4-bit 模型而言，48 GB 配置是合理的起点。
建议测试方向先测聊天，再试单一工具任务1 个 job · 4K 上下文
U配搭评级有待实测
日常工作的好搭档02
64 GB unified
Mac Studio · M5 Max
18-core CPU · 40-core GPU
1 TB SSD
Qwen3.8-27BMLX community · 4-bit16.1 GB 公开下载大小oMLX · MLX
更多记忆体可留给较长的对话与其他桌面程式。先确认单一 job 的表现，再测第二个并行 job。
建议测试方向测试单一 agent 工作流程1 个 job · 8K 上下文
U配搭评级有待实测
为共享 AI 服务预留空间03
96 GB unified
Mac Studio · M5 Ultra
30-core CPU · 64-core GPU
2 TB SSD
Qwen3.8-27BMLX community · 4-bit16.1 GB 公开下载大小oMLX · MLX
额外容量适合探索并行工作，但不代表每个 job 都必然流畅。
建议测试方向适合尝试 1 → 2 → 3 个并行 job1 个 job · 8K 上下文
U配搭评级有待实测
放得下，只是第一步。
下载大小不等于总记忆体用量。作业系统、执行环境、视觉组件与 KV cache（模型的工作记忆）都需要空间。上下文与并行 job 越多，需求越高。这些起步设定供测试使用，不保证速度或 agent 成功率。请使用支援此模型的执行环境；TokFire 尚未实测这六组配搭。
测试自己的配搭 →从「放得下」到「用得好」
找出实际可用的上限。
文字生成速度只是其中一环。TokFire 量度等待时间、任务完成情况，以及多个 job 同时执行时的变化。
先由一个 job 开始
执行聊天、商务、文件或本地 agent 工具任务，记录完成率、首次输出与任务延迟。
增加并行 job
以 2 或 3 个 job 同时呼叫同一模型，观察每个 job 的反应与失败情况，不能只看总吞吐量。
让结果帮你做决定
查看工作负载配搭评级。本地储存报告、以访客身分上传，再独立选择是否公开。
学习／创建／测量
探索实用指南 让本地 AI 融入日常。
六篇实用教程：第一个助手、私人文档问答、Mac MLX、GPU 内存、工具 agent 及并发 job。
TOKFIRE BENCH / 0.9 DESKTOP PREVIEW让你的电脑
让你的电脑
用实测说话。
免费版可对同一模型执行 1–3 个并行 job。Pro 计划一次性 HK$180，于一部已启用装置支援最多 20 个 job；付费版本仍待商店审批。
测试方法与限制安装前须知
请另行安装 Python 与相容的推论执行环境。Mac 可用 llama.cpp 执行 GGUF，或以 oMLX 执行 MLX。可选 MTP 需要相容环境与额外设定，TokFire 不会自动启用。
Mac DMG 使用 ad-hoc 签署，未经 Apple 公证。Windows 未签署，仍待 Windows／GPU 实机验证。Android 连接现有装置端或区域网络推论服务，不附模型引擎；仍待手机实机验证。
Automatic upload is on before Run and can be disabled. Public sharing is separate and off by default. Failed uploads stay queued; reports are saved locally. Desktop 0.9 adds Pro parameter experiments with local-only reports; activation awaits product setup. Version 0.8 added CSV analysis, multi-page research and retry simulations with verified task checks. These are TokFire simulations, not actual third-party agent runs. Android 0.7 retains the original profiles.
下载原始码连接桌面应用程式 →