如何轻松投喂Ollama DeepSeek AnythingLLM,打造本地大模型知识库?
- 内容介绍
- 文章标签
- 相关推荐

大家好,我是星哥。今天咱们来聊聊怎么用Ollama、 DeepSeek和AnythingLLM这三兄弟,打造一个属于你自己的本地大模型知识库。这事儿说起来简单, 做起来其实也挺折腾的,但一旦搞定,你就能拥有一个完全私有、平安、高效的知识库系统,再也不用担心数据泄露、模型跑飞、AI乱说话了,脑子呢?。
第一步:准备你的本地环境
先说说 你得把Ollama、DeepSeek和AnythingLLM都装好。Ollama是本地部署大模型的神器, DeepSeek是国产大模型的代表,而AnythingLLM就是那个帮你把文档喂给AI的“投喂器”。
第二步:文档投喂
我们来搞点实际操作。你得先准备一个文档, 比如你写好的“宙斯APP:全能社交与支付平台的未来”文档,然后用AnythingLLM来处理。这个过程其实就是在你本地跑一个AI模型, 让它“吃”下你的文档,然后在你问它问题的时候,它能根据你给的文档来回答问题。是不是很酷?
第三步:配置你的本地模型
最终的最终。 我们来实操一下 先安装好Ollama,再用AnythingLLM来调用你的模型。比如我们用的是Gemma模型, 你得在设置里选择Ollama,然后设置API接口,再把你本地的模型喂给它。这样,你的本地AI就“有文化”了。
第四步:测试你的模型
咱们来测试一下看AI是不是“读得懂”你给的文档。你先上传一个文档,比如“产品计划”这个文档,然后让AI来回答问题。比如你问“宙斯APP的愿景是什么?”AI就会根据你给的文档来回答你。如果它答对了那就说明它“学会”了你的文档内容。如果它没学会,那你就得重新“投喂”一下,歇了吧...。
第五步:本地模型的设置
你得在AnythingLLM里设置好Ollama, 再选择你的模型,比如Gemma,然后你就可以让AI来回答你的问题了。 原来小丑是我。

大家好,我是星哥。今天咱们来聊聊怎么用Ollama、 DeepSeek和AnythingLLM这三兄弟,打造一个属于你自己的本地大模型知识库。这事儿说起来简单, 做起来其实也挺折腾的,但一旦搞定,你就能拥有一个完全私有、平安、高效的知识库系统,再也不用担心数据泄露、模型跑飞、AI乱说话了,脑子呢?。
第一步:准备你的本地环境
先说说 你得把Ollama、DeepSeek和AnythingLLM都装好。Ollama是本地部署大模型的神器, DeepSeek是国产大模型的代表,而AnythingLLM就是那个帮你把文档喂给AI的“投喂器”。
第二步:文档投喂
我们来搞点实际操作。你得先准备一个文档, 比如你写好的“宙斯APP:全能社交与支付平台的未来”文档,然后用AnythingLLM来处理。这个过程其实就是在你本地跑一个AI模型, 让它“吃”下你的文档,然后在你问它问题的时候,它能根据你给的文档来回答问题。是不是很酷?
第三步:配置你的本地模型
最终的最终。 我们来实操一下 先安装好Ollama,再用AnythingLLM来调用你的模型。比如我们用的是Gemma模型, 你得在设置里选择Ollama,然后设置API接口,再把你本地的模型喂给它。这样,你的本地AI就“有文化”了。
第四步:测试你的模型
咱们来测试一下看AI是不是“读得懂”你给的文档。你先上传一个文档,比如“产品计划”这个文档,然后让AI来回答问题。比如你问“宙斯APP的愿景是什么?”AI就会根据你给的文档来回答你。如果它答对了那就说明它“学会”了你的文档内容。如果它没学会,那你就得重新“投喂”一下,歇了吧...。
第五步:本地模型的设置
你得在AnythingLLM里设置好Ollama, 再选择你的模型,比如Gemma,然后你就可以让AI来回答你的问题了。 原来小丑是我。

