Runitlocal.io – 在你自己的硬件上运行 AI

你的 Mac 现在就能运行 AI。

Qwen3 4B 大约 22 tok/s，大约是阅读速度。适合日常快速聊天和摘要。

第一次用？安装 Ollama，然后把那段内容粘贴到终端里。

Safari 不会显示你的 Mac 用的是什么芯片。选一下，答案会更准确。

你的 Mac 能运行的所有模型

使用 Ollama，默认 4-bit 大小。速度是根据内存带宽估算的，通常与实际结果相差约三分之一以内。

• Qwen3 4B日常快速聊天和摘要~22 tok/s可用qwen3:4b

• Qwen3 8B聊天和写作的可靠全能选手~11 tok/s可用qwen3:8b

• Gemma 3 12B既能读图像也能读文本~7 tok/s慢gemma3:12b

• Qwen3 14B在推理和代码方面明显更聪明~6 tok/s慢qwen3:14b

• gpt-oss 20BOpenAI 的开源模型。速度快，推理强需要 16 GB太大gpt-oss:20b

• Gemma 3 27BGoogle 同尺寸下最好的开源模型需要 19 GB太大gemma3:27b

• Qwen3 30B-A3B小模型速度下的 30B 智能需要 21 GB太大qwen3:30b

• Qwen3 32B强大的编程和长回答能力需要 22 GB太大qwen3:32b

• Llama 3.3 70B接近大型云端模型需要 45 GB太大llama3.3:70b

• gpt-oss 120BOpenAI 最大的开源模型需要 67 GB太大gpt-oss:120b

• Qwen3 235B-A22B阿里巴巴的旗舰开源模型，用于多 GPU 机器需要 144 GB太大qwen3:235b

• DeepSeek R1 671B完整的 DeepSeek R1，用于最大的机器需要 406 GB太大deepseek-r1:671b

你的 GPU 由浏览器读取，绝不会发送给我们。除非标记为实测，速度均为估算。在自己的机器上测过？发给我们。

其他一切，一键即达