行业快讯与友商动态 2024年第21期: RAG(基于检索增强的内容生成)产品和方案逐渐增多了，如微软开源GraphRAG项目，InfiniFlow开源项目RAGFlow，Elastic推出低代码平台Playground，利用Elasticsearch加速RAG开发等。 RAG通过搜索内部信息给LLM提供与用户提问最相关的内容，来帮助LLM做最终的答案生成。随着LLM的爆炸性增长，每家使用LLM的

在说重排工具之前，我们要先了解一下 RAG。 检索增强生成（RAG）是一种新兴的 AI 技术栈，通过为大型语言模型（LLM）提供额外的“最新知识”来增强其能力。 基本的 RAG 应用包括四个关键技术组成部分： Embedding 模型：用于将外部文档和用户查询转换成 Embedding 向量 向量数据库：用于存储 Embedding 向量和执行向量相似性检索（检索出最相关的 Top-K 个信息）

微软开源了基于图的 RAG 工具 GraphRAG，可以在私有或以前未见过的数据集上进行问题解答。 GraphRAG 通过创建知识图谱来增强模型的推理和生成性能，使用 LLM GPT-4 对 GraphRAG 和传统 RAG 进行评估， GraphRAG 在全面性和多样性方面优于传统 RAG。 与使用纯文本片段的简单语义搜索不同，GraphRAG 从原始文本中提取知识图谱、构建知识模块结构、生成摘

上周，PingCAP AI Lab 数据科学家孙逸神的文章《当前都在堆长窗口，还需要 RAG 吗？》从用户的角度谈了长窗口&RAG 的看法，引起了众多同行的围观，本周我们采访了张粲宇，看看搞向量数据库的业内人士，是怎么看待这个问题的？ 作者简介 张粲宇，Zilliz Senior Product Manager。Milvus 产品负责人，主导向量数据库 Milvus 关键特性的定义与产品路线图的规

基于RAG+大模型的应用已经成为当前AI应用领域的一个热门方向。RAG(Retrieval-Augmented Generation)将检索和生成两个步骤相结合，利用外部知识库来增强生成模型的能力(如下图来自网络)。 图片 在RAG赋能的大模型应用中，关键的一步是将文本数据向量化后存储在向量数据库中(如上图的红框)，以实现快速的相似度搜索，从而检索与输入查询相关的文本片段，再将检索到的文本输入给生