除了购买各种订阅和api服务，还有一种选择就是本地运行模型，但是这个一般来讲还是只能运行一些参数量比较小的，随着开源权重模型的发展，这个方向也在慢慢的改变，当然差距肯定是有的，只是本地我们可以用来做些辅助工作之前很多情况下一般都只是能作为玩具，并且由于ollama和lm studio还是有一些性能损耗之前有了解到llama.cpp这个开源项目，貌似很多lm studio等都是基于它构建的，那么直接

Read the original article