Newshot Translation(model translation, not the source's own text)
| Ask HN：哪款开源 LLM 在本地运行效果最好，需要什么硬件？ | ||
|---|---|---|
| 3 分，来自 donkan168，17 分钟前 │ 隐藏 │ 过去 │ 收藏 │ 5 条评论 |
| jpsanders 3 分钟前 │ 下一条 [–] 如果你有一块 GTX 1060 6GB，这个可能对你有帮助：" https://github.com/jpsanders/pascal-llm-stack " 回复 | jpsanders 3 分钟前 │ 下一条 [–] 如果你有一块 GTX 1060 6GB，这个可能对你有帮助：" https://github.com/jpsanders/pascal-llm-stack " 回复 | ||
|---|---|---|---|
| jpsanders 3 分钟前 │ 下一条 [–] 如果你有一块 GTX 1060 6GB，这个可能对你有帮助：" https://github.com/jpsanders/pascal-llm-stack " 回复 | |||
| tourmalinetaco 7 分钟前 │ 上一条 │ 下一条 [–] 你可以试试：https://runitlocal.io/ 几天前在这里看到的，你输入自己的 GPU，它能帮你大致了解自己能跑什么。不过，具体模型的权重会因用例而差别很大。你想要代码生成？创意写作？Assistant 工作负载？我建议你在 Google/AI 上搜一下“[RunItLocal 返回的模型] for [用例]”。回复 | tourmalinetaco 7 分钟前 │ 上一条 │ 下一条 [–] 你可以试试：https://runitlocal.io/ 几天前在这里看到的，你输入自己的 GPU，它能帮你大致了解自己能跑什么。不过，具体模型的权重会因用例而差别很大。你想要代码生成？创意写作？Assistant 工作负载？我建议你在 Google/AI 上搜一下“[RunItLocal 返回的模型] for [用例]”。回复 | ||
| tourmalinetaco 7 分钟前 │ 上一条 │ 下一条 [–] 你可以试试：https://runitlocal.io/ 几天前在这里看到的，你输入自己的 GPU，它能帮你大致了解自己能跑什么。不过，具体模型的权重会因用例而差别很大。你想要代码生成？创意写作？Assistant 工作负载？我建议你在 Google/AI 上搜一下“[RunItLocal 返回的模型] for [用例]”。回复 | |||
| donkan168 4 分钟前 │ 父级 │ 下一条 [–] 哦谢谢你，我会看看的，好资源，再次感谢 回复 | donkan168 4 分钟前 │ 父级 │ 下一条 [–] 哦谢谢你，我会看看的，好资源，再次感谢 回复 | ||
| donkan168 4 分钟前 │ 父级 │ 下一条 [–] 哦谢谢你，我会看看的，好资源，再次感谢 回复 | |||
| spottedmarley 15 分钟前 │ 上一条 [–] 最好的什么？回复 | spottedmarley 15 分钟前 │ 上一条 [–] 最好的什么？回复 | ||
| spottedmarley 15 分钟前 │ 上一条 [–] 最好的什么？回复 | |||
| donkan168 10 分钟前 │ 父级 [–] 有道理，我主要指的是推理和编程方面，不过也欢迎分享你在用的任何模型及其优势 回复 | donkan168 10 分钟前 │ 父级 [–] 有道理，我主要指的是推理和编程方面，不过也欢迎分享你在用的任何模型及其优势 回复 | ||
| donkan168 10 分钟前 │ 父级 [–] 有道理，我主要指的是推理和编程方面，不过也欢迎分享你在用的任何模型及其优势 回复 |
几天前在这里看到的，你输入自己的 GPU，它能帮你大致了解自己能跑什么。不过，具体模型的权重会因用例而差别很大。你想要代码生成？创意写作？Assistant 工作负载？我建议你在 Google/AI 上搜一下“[RunItLocal 返回的模型] for [用例]”。