通过代码仓库可以快速创建企业或个人知识库,通过将文档上传到代码仓库,并配置知识库相关流水线,可以自动将文档内容经过大模型处理后上传到知识库,供页面问答和OPENAPI等场景调用, 可用于快速构建 RAG(Retrieval-Augmented Generation)应用。
https://cnb.cool/opencamp/learning-ai/project-1-knowledge-base
使用 CNB 知识库插件将仓库的文档导入到 CNB 的知识库中, 插件在云原生构建中运行, 会自动处理文档切片、分词、向量化等操作。 知识库构建完成后,可以被下游的 LLM 应用使用。
知识库构建完成后,使用 CNB 的 Open API 进行召回,并结合 LLM 模型生成回答。
常见的 RAG 应用运行流程如下:
1.用户提问
2.理解用户问题后,使用 Query 调用知识库检索。如上文所述,使用 CNB 的 Open API 进行检索,获取相关文档片段
3.拿到从 CNB 知识库检索的结果后,构建拼接 Prompt 问题 + 知识上下文,例如拼接后 prompt 一般会这样:
用户提问:{用户问题}
知识库:
{从知识库检索到的内容}
请根据以上知识库,回答用户的问题。4.将拼接后的 prompt 发送给 LLM 模型,生成回答,返回给用户