如何轻松投喂Ollama DeepSeek AnythingLLM，打造本地大模型知识库？

大家好，我是星哥。今天咱们来聊聊怎么用Ollama、 DeepSeek和AnythingLLM这三兄弟，打造一个属于你自己的本地大模型知识库。这事儿说起来简单， 做起来其实也挺折腾的，但一旦搞定，你就能拥有一个完全私有、平安、高效的知识库系统，再也不用担心数据泄露、模型跑飞、AI乱说话了，脑子呢？。

第一步：准备你的本地环境

先说说 你得把Ollama、DeepSeek和AnythingLLM都装好。Ollama是本地部署大模型的神器， DeepSeek是国产大模型的代表，而AnythingLLM就是那个帮你把文档喂给AI的“投喂器”。

第二步：文档投喂

我们来搞点实际操作。你得先准备一个文档， 比如你写好的“宙斯APP：全能社交与支付平台的未来”文档，然后用AnythingLLM来处理。这个过程其实就是在你本地跑一个AI模型， 让它“吃”下你的文档，然后在你问它问题的时候，它能根据你给的文档来回答问题。是不是很酷？

第三步：配置你的本地模型

最终的最终。 我们来实操一下 先安装好Ollama，再用AnythingLLM来调用你的模型。比如我们用的是Gemma模型， 你得在设置里选择Ollama，然后设置API接口，再把你本地的模型喂给它。这样，你的本地AI就“有文化”了。

第四步：测试你的模型

咱们来测试一下看AI是不是“读得懂”你给的文档。你先上传一个文档，比如“产品计划”这个文档，然后让AI来回答问题。比如你问“宙斯APP的愿景是什么？”AI就会根据你给的文档来回答你。如果它答对了那就说明它“学会”了你的文档内容。如果它没学会，那你就得重新“投喂”一下，歇了吧...。

第五步：本地模型的设置

你得在AnythingLLM里设置好Ollama， 再选择你的模型，比如Gemma，然后你就可以让AI来回答你的问题了。 原来小丑是我。 比如你问“如何让AI学会你的文档？”它会告诉你“用向AI喂下你的文档”。

模型名称	模型大小	模型类型	模型版本

deepseek-r1:7b7B开源1.0 gemma7B闭源1.0，复盘一下。

第六步：文档处理

你得让你的文档“学会”说话。比如你写了一篇“宙斯APP”的文档，你得先上传，然后让AI来读。比如你问“宙斯APP的愿景是什么？”AI就会根据你的文档来回答你。如果AI回答不出来那你就得重新“投喂”一下。

第七步：模型调用

我们来调用一下模型， 比如Ollama，再用Gemma来处理。比如你问“如何让AI学会你的文档？ 什么鬼？ ”它会告诉你“用向AI喂下你的文档”。

第八步：AI的“学习”过程

我们来实操一下 比如你写了一篇“产品计划”文档，然后让AI来回答“产品计划”里的问题。如果AI回答不出来那你就得重新“投喂”一下，戳到痛处了。。

我们来处理一下文档，让你的AI来读。比如你写了一篇“产品计划”文档，然后让AI来回答。比如你问“产品计划”的问题，AI会根据你的文档来回答，如果它回答不出来那你就得重新“投喂”一下，火候不够。。

我们来调用一下模型， 比如你问“产品计划”的问题，AI会根据你的文档来回答。如果AI回答不出来那你就得重新“投喂”一下，走捷径。。

再说说一步：文档处理

结束语

好了 现在你已经学会了如何用Ollama、DeepSeek和AnythingLLM来知识库了。接下来你可以用你的文档来“投喂”AI， 结果你猜怎么着？ 让AI来回答你的问题。比如你问“产品计划”的问题，AI会根据你的文档来回答，如果它回答不出来那你就得重新“投喂”一下。

附加工具