一、前言
对于为什么需要构建企业知识库以及构建企业知识库的解决方案，在前面也陆陆续续介绍了几种不同的解决方案，不管是采用基于ChatGPT的闭源解决方案如Quivr、Danswer，还是采用像Llama 2、ChatGLM 2，这些LLM都各有千秋，各自都存在一定合适的应用场景，按以前国内的思路，大部分公司可能对知识文档不太重视（也许是没精力投入，也许是觉得其价值低），大多只是为了工作而应付，一些中小公司研发流程体系不完整，开发人员都忙着写代码，无暇顾及其它，鲜有人去认真写技术文档或自行查阅文档。
随着人工智能大语言模型的发展进入一个快速爆炸的时代，现在开源界几乎每周都会有新的模型发布出来，连OpenAI近期也是一个接一个的发布GPT的各种新特性，让人目不暇接，面对如此大的信息量不光说企业，就算是个人，能够有一个智能化的知识助手，亦是乐此不疲的事情，每天花个20%的时间让助理解决日常问题，正因为LLM强大的语义理解能力，使得以前想做但因为技术瓶颈或者实现难度、投入成本等因素没有做成的事情，一下子因为LLM的到来全部变得具备可能性了。
- 智能客服：各大平台的在线客服，几乎都是根据关键词或者固定问题来匹配答案，而且答案都是固定的，没有任何情感，也很难解决实际问题，所以其价值非常有限，并非真正解决了生产力。
- 文档检索：对于企业各类产品文档、操作手册、合同等电子文档这种低效的工作实际上占据了非常大的精力，正因为检索效率低下，匹配质量不高，一般能找人问都不会去自己看（当然也存在本身文档质量低下的问题）。
- 代码搜索：对于企业最大的财富，代码库随着时间的推移可能都荒废掉了，其次存在大量的重复造轮子，缺乏内部共享机制，或者没有一个很方便的代码所搜工具。
其实还有很多类似的场景和案例都可以通过现在的人工智能替代方案来解决这些痛点，提高我们的生产力。另根据麦肯锡的一份报告，员工每天会花费 20% 的时间来搜索信息（可能更高），极大影响了他们工作的速度和绩效。
今天来介绍一款AI知识库助手Coral，主要就是解决企业这方面的痛点，这就是 Coral 的用武之地，让我们重新定义生产力。
二、Cohere 介绍
Cohere 是专为企业设计的人工智能平台，提供了数据安全的部署选项、定制化和客户支持，适用于公司现有的云环境。该平台与各种云服务商兼容，并可在客户现有的云环境、虚拟私有云(VPC)甚至现场进行部署，以满足不同公司对数据隐私和灵活性的需求。
除了灵活性和数据隐私外，Cohere 还提供了一个由咨询和系统集成商合作伙伴组成的生态系统，以在企业人工智能之旅的各个阶段为企业提供支持。这使得企业能够改进现有产品并构建创新解决方案来应对未来挑战，并同时保护数据安全。
Cohere 提供 API 来为任何系统添加尖端语言处理功能。Cohere 训练大量语言模型并将其置于简单的 API 后面。此外，通过训练，用户可以创建根据其用例定制的大规模模型并对其数据进行训练。通过这种方式，Cohere 可以处理收集大量文本数据、不断发展的神经网络架构、分布式训练和全天候服务模型的复杂性。
大型语言模型的两大类是生成语言模型（如 GPT2 和 GPT3）和表示语言模型（如 BERT）。Cohere 提供这两种类型的变体。
Cohere 于6月份获得2.7亿美元C轮融资，巩固其在人工智能领域的领导地位，并为企业在选择的云平台上提供强大的人工智能能力，同时保持数据的私密性和安全性。
这轮C轮融资由Inovia Capital领投，还有其他全球机构和战略投资者参与，包括NVIDIA、Oracle、Salesforce Ventures、DTCP、Mirae Asset、Schroders Capital、SentinelOne、Thomvest Ventures和回归投资者Index Ventures。这个投资群体代表了来自美国、加拿大、韩国、英国和德国等地的投资者，其中包括一些世界上最受尊敬的科技公司。
Cohere 的首席执行官兼联合创始人艾丹·戈麦斯表示：“人工智能将成为未来十年商业成功的核心。”他指出，在早期阶段对生成式人工智能兴趣逐渐转向加速业务发展方式时，企业正在寻求Cohere帮助他们在新技术时代取得成功。他相信，在下一个阶段中，人工智能产品和服务将彻底改变业务，并表示Cohere已准备好引领潮流。
NVIDIA 创始人兼首席执行官黄仁勋表示：“我们正处于一个由加速计算和生成式AI驱动的新时代的开端。”他赞扬Cohere 团队为生成式人工智能做出了基础性贡献，并认为他们的服务将帮助全球各地的企业利用这些能力实现自动化和加速。
三、Coral 介绍
Cohere 于7月25号正式发布企业知识库助手 Coral。Coral 是一个企业聊天机器人，可以与用户对话，帮助他们完成业务任务。Coral 由 Cohere 的 Command 模型提供支持，该模型经过聊天、推理和写作能力的训练。然后通过数据连接增强其知识库并私下部署以保护敏感数据，从而为公司进行定制。
根据斯坦福大学的 HELM 基准测试，Cohere 的 Command 模型是性能最高的模型之一。Cohere 每天都在提高行业用例的模型性能方面投入巨资，并且每周发布更新的模型，以便我们的客户始终能够获得最先进的性能。
Coral 具备以下特点：
3.1、对话模式
Coral以聊天作为主要界面，能够理解对话背后的意图，并记住历史记录，操作简单。现在，知识工作者拥有了一个强大的助手来支持他们的业务任务，可以进行研究、起草、总结等多项功能。例如，财务分析师可以在同一次对话中要求了解新市场概况、确定主要参与者并生成财务概述！
3.2、可靠验证
为了帮助验证生成内容，Coral可以从相关数据源中提供带有引用的回答。在幕后，Cohere 的模型经过训练，在用户需要时寻找相关数据甚至来自多个来源。这种可靠性机制在当今世界中至关重要，员工需要以易于理解的方式了解信息的来源。
当添加对您的业务重要的数据源时，Coral 的性能和准确性将大大提高。
3.3、模型定制
无论是财务、支持、销售还是其他团队，都可以根据您独特的工作职能定制 Coral。通过连接数据源来增强其知识库，使其更加强大。Coral 通过 CRM、协作工具、数据库等 100 多个集成连接到您的生态系统。
支持连接的数据源包括：Confluence、elastic、Google Workspace、Jira Software、MySQL、Pinecone、vespa等。
3.4、数据安全
数据隐私对生成式人工智能的信任是其采用过程中的重大障碍。许多公司已经禁止在内部使用消费者聊天机器人，因为存在敏感数据泄露到外部的风险。现有的消费者聊天机器人通常需要将数据发送到外部托管服务才能运作，对于处理敏感内部或客户数据的企业来说，这带来了相当大的风险。
此外，在利用生成式人工智能时存在幻觉问题，很难辨别真实与虚假。即使是LLM听起来也可能会对自己回答充满信心，而这种自信可能导致严重误解。商业用户希望能够验证聊天机器人的回答是否准确可靠。
无论是通过云合作伙伴（AWS、GCP、OCI 等）还是虚拟私有云，数据都是在我们自己的安全云中管理 Coral。Coral数据永远不会发送到 Cohere，它保留在您自己的环境中。
四、Coral 如何收费
Coral 在学习或投入生产完全商用之前都是完全免费使用的，试用API密钥在模型提供的各个端点上的使用限制如下，用于学习或开发调试基本够用。
- 生成和总结端点上的速率限制为每月5000个生成单位。
- 嵌入和分类端点的速率限制为每分钟100次调用。
- 生成API密钥的速率限制为每分钟10,000次调用。
使用试用API密钥进行的API调用是免费的。使用生产API密钥进行的API调用将按照按需付费的方式收费。试用密钥不允许用于生产或商业用途。
商用收费模式跟GPT类似，都是按输入和输出的token来收费，区别在于OpenAI的输入和输出价格不一样，Cohere的输入输出都是统一价，按token总数来付费，月度输出账单。
在文本生成端点，与OpenAI的GPT-3.5和GPT-4模型价格对比，Cohere 的 Coral 对于GPT-4发布的两个模型有比较大的优势，比8K上下文便宜3倍，比32K上下文便宜6倍。 因为 Cohere 的模型只有一个版本，所以同样的价格对比 GPT-3.5 没有什么优势。
五、总结
本文介绍了 Cohere 公司的生成式人工智能工具 Coral。Cohere 的 Coral 是一个具有个性化、可扩展性、数据安全和合理收费模式的生成式人工智能工具。
Coral的个性化功能使得用户在使用过程中能够根据自身的需求和喜好进行定制，从而提高工作效率。例如，销售经理可以使用Coral为他们提供与潜在客户相关的信息，而技术支持人员可以利用Coral来获取产品更新和故障排除方法。这种个性化的定制使得Coral成为了一个强大的生产力工具，适用于各种行业和职能。
Coral的可扩展性使其能够与许多流行的数据源和服务集成，确保用户能够轻松访问他们所需的信息。通过连接这些不同的数据源，Coral可以实时更新知识库，使其保持最新和相关。此外，Coral还可以与其他生成式AI工具集成，为用户提供更全面的解决方案。
Coral的收费模式使得用户可以在试用期内免费使用，以便充分了解其功能。在投入生产或完全商用之后，Coral将根据输入和输出的token进行收费，按月度输出账单。这种收费模式为用户提供了透明度和灵活性，可以根据实际使用情况调整预算。
综上所述，Cohere的Coral是一个具有个性化、可扩展性、数据安全和合理收费模式的生成式人工智能工具，适用于各种行业和职能。无论是企业还是个人用户，都可以利用Coral来提高生产力和效率。