From 6fa9dc180c21e6ebe7fd516c980f19a632677e21 Mon Sep 17 00:00:00 2001 From: Jun Zhang Date: Fri, 8 Sep 2023 11:15:46 +0800 Subject: [PATCH] =?UTF-8?q?Updated=20=E8=B6=85=E9=9F=B3=E6=95=B0=E8=AE=BE?= =?UTF-8?q?=E8=AE=A1=E6=80=9D=E8=B7=AF=20(markdown)?= MIME-Version: 1.0 Content-Type: text/plain; charset=UTF-8 Content-Transfer-Encoding: 8bit --- 超音数设计思路.md | 4 ++-- 1 file changed, 2 insertions(+), 2 deletions(-) diff --git a/超音数设计思路.md b/超音数设计思路.md index cd934da..b1873e1 100644 --- a/超音数设计思路.md +++ b/超音数设计思路.md @@ -76,7 +76,7 @@ Schema mapper会将所有达到匹配阈值要求的schema项及其相似度得 当前的设计方案是，三方插件可以通过WebPage或者WebService两种方式来注册，后续会当作是一种工具来使用。当用户输入问题时，如何选择出合适的插件工具？经典的方式有以下两种： -- **向量召回：**插件在注册时可以设定一些示例问题，提前通过LLM向量化存储到向量数据库。解析输入问题时，将输入文本同样经过LLM向量化后，从向量数据库根据相似度来召回，通过最匹配的示例问题找到相对应的插件； -- **函数调用：**插件在注册时可以配置函数名称和描述，利用LLM的function call能力来直接根据输入问题选择函数，并找到对应的插件。 +- **向量召回**：插件在注册时可以设定一些示例问题，提前通过LLM向量化存储到向量数据库。解析输入问题时，将输入文本同样经过LLM向量化后，从向量数据库根据相似度来召回，通过最匹配的示例问题找到相对应的插件； +- **函数调用**：插件在注册时可以配置函数名称和描述，利用LLM的function call能力来直接根据输入问题选择函数，并找到对应的插件。 两种方式可以结合使用，优先走向量召回流程，如果相似度没有达到配置的阈值，则继续用函数调用来选择。