diff --git a/超音数设计思路.md b/超音数设计思路.md index cd934da..b1873e1 100644 --- a/超音数设计思路.md +++ b/超音数设计思路.md @@ -76,7 +76,7 @@ Schema mapper会将所有达到匹配阈值要求的schema项及其相似度得 当前的设计方案是,三方插件可以通过WebPage或者WebService两种方式来注册,后续会当作是一种工具来使用。当用户输入问题时,如何选择出合适的插件工具?经典的方式有以下两种: -- **向量召回:**插件在注册时可以设定一些示例问题,提前通过LLM向量化存储到向量数据库。解析输入问题时,将输入文本同样经过LLM向量化后,从向量数据库根据相似度来召回,通过最匹配的示例问题找到相对应的插件; -- **函数调用:**插件在注册时可以配置函数名称和描述,利用LLM的function call能力来直接根据输入问题选择函数,并找到对应的插件。 +- **向量召回**:插件在注册时可以设定一些示例问题,提前通过LLM向量化存储到向量数据库。解析输入问题时,将输入文本同样经过LLM向量化后,从向量数据库根据相似度来召回,通过最匹配的示例问题找到相对应的插件; +- **函数调用**:插件在注册时可以配置函数名称和描述,利用LLM的function call能力来直接根据输入问题选择函数,并找到对应的插件。 两种方式可以结合使用,优先走向量召回流程,如果相似度没有达到配置的阈值,则继续用函数调用来选择。