介绍
面向文档的代理开始在商业领域受到关注。公司越来越多地利用这些工具来利用内部文档，从而增强其业务流程。麦肯锡最近的一份报告 [1] 强调了这一趋势，表明生成式人工智能每年可以为全球经济带来 2.6-4.4 万亿美元的增长，并使当前工作活动实现 70% 的自动化。该研究将客户服务、销售和营销以及软件开发确定为将受到转型影响的主要部门。大多数变化来自这样一个事实：通过使用面向文档的代理等解决方案，员工和客户可以更轻松地访问为公司内这些领域提供支持的信息。
以目前的技术，我们仍然面临一些挑战。即使您考虑具有 100k 令牌限制的新大型语言模型 (LLM)，这些模型的上下文窗口仍然有限。虽然 100k 代币似乎是一个很大的数字，但当我们考虑为客户服务部门等提供支持的数据库的规模时，它是一个很小的数字。经常出现的另一个问题是模型输出的不准确性。在本文中，我们将提供构建面向文档的代理的分步指南，该代理可以处理任何大小的文档并提供可验证的答案。
我们使用矢量数据库 ChromaDB 来增强模型上下文长度功能，并使用 Langchain 来促进架构中不同组件之间的集成。作为我们的法学硕士，我们使用 OpenAI 的 chatGPT。由于我们想要为我们的应用程序提供服务，因此我们使用 FastAPI 来创建端点，以便用户与我们的代理进行交互。最后，我们的应用程序使用 Docker 进行容器化，这使我们能够轻松地将其部署在任何类型的环境中。
矢量数据库：语义搜索应用程序的核心
矢量数据库对于释放生成式人工智能的力量至关重要。这些类型的数据库经过优化，可以处理向量嵌入——包含来自原始数据的丰富语义信息的数据表示。与传统的标量数据库不同，传统的标量数据库难以应对矢量嵌入的复杂性，矢量数据库对这些嵌入进行索引，将它们与其源内容相关联&