张梦飞：AI商用级问答场景，怎么让AI+知识库回答的更准确？一篇专门为小白讲透RAG而作的教程（上篇）

2024年4月30日创建

🎂

作者：张梦飞

在前边把AI大模型能力接入微信后，发现很多朋友想要落地的应用场景，是让用知识库回答问题。​

但目前大模型存在幻觉，一不留神就胡乱回答，这在严肃的商用场景下是不可接受的。当我想要解决此问题时，发现虽然资料很多，但是多数太偏“技术向”，对于很多和我一样的非技术从业者来说，犹如天书一般。有落地需求的朋友们，即使完成了通路搭建，也无法真正的应用。​

落地场景，幻觉是不得不直面的问题。而非技术从业者的小白们，很难找到一个“说人话”的文章，让他们完全了解并应用。​

而我对此比较感兴趣，同时作为产品经理，有一些用户思维和技术基础。因此我斗胆在整理、学习了多位前辈的成果后，写一篇讲给“小白”们的教程。​

以下内容，如有错漏，欢迎补充、批评、指正。

原本是想把讲清楚+如何应用全写在一起的，但发现全文太长，且测试还要花些时间，因此先发上篇。​

如果我直接讲理论部分，我相信小白强迫自己看了前200字就会关掉窗口。因此，我们先将这个过程具象化。​

一、对话示例

以下是一个问答机器人的界面。这是一个示例，你可以把右侧的对话当做是微信的对话框，这些对话交互是可以在任何一个受支持的窗口下实现的。​

上方页面左侧画红框的地方，是这个“问答机器人”的配置，右侧是与“机器人”的一轮对话。​

问答机器人的配置这里有三处配置：

•
AI模型​

•
提示词​

•
知识库。​

模型、提示词、知识库三者可以想象成：

•
大语言模型：是一个学习过无数本书、拥有无穷智慧的人。他读过无数的书、看过无数的段子，因此对公共知识、学识技能、日常聊天十分擅长。然而，在工作场景下，只会聊天侃大山可不行，你想让他帮你干活。这个时候，就需要“提示词”出场了，​

•
提示词：是你告诉这个全知全能的人，他是一个什么样的角色、他要专注于哪些技能，让他能够按照你的想法，变成一个你需要的“员工”。​

•
知识库，相当于你给这个“聪明”员工的发放了一本工作手册。即使是看过再多的书、浏览过再多的文字，也不会准确的知道见到老板娘过来吃饭要打三折，张梦飞过去吃饭要打骨折。而知识库，就是把这些内容写在了工作手册上。让这个聪明的员工，见到有人来的时候，就翻一翻手册，然后再做出反应。​

那我这里的设定：

•
AI模型：这里使用的是阿里千问模型。​

•
提示词：这里设定的角色是“美嘉”，是按照美嘉的人设、背景和对话风格做的设定。​

•
知识库：这里放的是《爱情公寓》全季的剧情，让“美嘉”拥有了自己过往的“记忆”，知道自己做过什么、好朋友是谁等等。​

右侧是一个十分简单的问答，我问：

“你是谁？你和子乔在台球厅吵架那次是为了什么吵架？”

她的回复是：

“我是陈美嘉，那次在台球厅和吕子乔吵架是因为他约会被人撞见，我讽刺他脸大影响信号，他还反击我。后来谈到过去的事情，我指责他忘恩负义，他就说我平。最后，我伤心地说要分手，因为他之前甩过我。”​

其中，她是陈美嘉，这里是人设中的设定。 吵架的经过是知识库中的内容。​

张梦飞 ：AI商用级问答场景，怎么让AI+知识库回答的更准确？一篇专门为小白讲透RAG而作的教程（上篇）​