如何巧妙优化llm与RAG的学习效果？
- 内容介绍
- 文章标签
- 相关推荐
拖延症患者的RAG复盘：从入门到想放弃，再到不得不学
这是一篇拖延了半年的文章。真的，半年前我就想写这玩意儿了当时就计划写一篇的文章，不过之后事情太多有些搁置。今天终于是打算拿出来一番那个。毕竟 年初有计划做一下基于LLM大模型的应用，正好公司有业务需求，于是学习了一下RAG的相关知识，一边看字节开源的 eino 框架学习开发，一边补充这 agent，mcp，rag相关的知识。
从一个旁观者的角度看... 说实话，这过程简直像是在坐过山车。有时候觉得大模型简直神了有时候又觉得它笨得像头猪。如果你是一位没有接触过AI开发， 只局限于使用AI工具的朋友，可能会对提及的这些名词有些疑惑，可能经常看到一些新闻携带这些名词。别怕，我也经常懵。
为什么我们需要RAG？主要原因是大模型爱撒谎
RAG的提出是主要原因是大模型存在幻觉问题， 大预言模型虽然看上去万能，但其实很多时候会一本正经的胡说八道。如果是编程开发中出现这种问题，问题不大，大不了跑一下发现编译不通过重新编码。但是在医生，讼师等行业如果出现这种现象，那么就会导致严重的问题。为了解决这个问题，业界提出了RAG方法 Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks。
未来可期。 然后 介绍一下rag技术的基本原理.#人工智能#程序员#学习#机器学习#产品经理#转行通义千问3-Reranker-0.6B一键部署.rag 检索增强 LLM ,简单来说,就是给 LLM 提供外部数据库,对于用户问题 ,通过一些信息检索 的技术,先从外部数据库中检索出和用户问题相关的信息,然后让 LLM 结合这些相关信息....
佛系。 一开始的版本就是在与AI交互的过程中，在prompt中，特别是 role 中的 system中，写入相关知识内容，防止AI胡编乱造。但是当相关知识内容变得庞大后单纯的在prompt中内置全部资料的方法就失效了。
拖延症患者的RAG复盘：从入门到想放弃，再到不得不学
这是一篇拖延了半年的文章。真的，半年前我就想写这玩意儿了当时就计划写一篇的文章，不过之后事情太多有些搁置。今天终于是打算拿出来一番那个。毕竟 年初有计划做一下基于LLM大模型的应用，正好公司有业务需求，于是学习了一下RAG的相关知识，一边看字节开源的 eino 框架学习开发，一边补充这 agent，mcp，rag相关的知识。
从一个旁观者的角度看... 说实话，这过程简直像是在坐过山车。有时候觉得大模型简直神了有时候又觉得它笨得像头猪。如果你是一位没有接触过AI开发， 只局限于使用AI工具的朋友，可能会对提及的这些名词有些疑惑，可能经常看到一些新闻携带这些名词。别怕，我也经常懵。
为什么我们需要RAG？主要原因是大模型爱撒谎
RAG的提出是主要原因是大模型存在幻觉问题， 大预言模型虽然看上去万能，但其实很多时候会一本正经的胡说八道。如果是编程开发中出现这种问题，问题不大，大不了跑一下发现编译不通过重新编码。但是在医生，讼师等行业如果出现这种现象，那么就会导致严重的问题。为了解决这个问题，业界提出了RAG方法 Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks。
未来可期。 然后 介绍一下rag技术的基本原理.#人工智能#程序员#学习#机器学习#产品经理#转行通义千问3-Reranker-0.6B一键部署.rag 检索增强 LLM ,简单来说,就是给 LLM 提供外部数据库,对于用户问题 ,通过一些信息检索 的技术,先从外部数据库中检索出和用户问题相关的信息,然后让 LLM 结合这些相关信息....
佛系。 一开始的版本就是在与AI交互的过程中，在prompt中，特别是 role 中的 system中，写入相关知识内容，防止AI胡编乱造。但是当相关知识内容变得庞大后单纯的在prompt中内置全部资料的方法就失效了。