perf: search prompt

This commit is contained in:
archer
2023-05-09 19:04:42 +08:00
parent a837552b56
commit a745993829
5 changed files with 53 additions and 44 deletions

View File

@@ -23,14 +23,10 @@ export const searchKb = async ({
similarity?: number;
}): Promise<{
code: 200 | 201;
searchPrompt?: {
obj: `${ChatRoleEnum.System}`;
searchPrompts: {
obj: ChatRoleEnum;
value: string;
};
aiPrompt?: {
obj: `${ChatRoleEnum.AI}`;
value: string;
};
}[];
}> => {
async function search(textArr: string[] = []) {
// 获取提示词的向量
@@ -102,41 +98,58 @@ export const searchKb = async ({
if (!filterSystemPrompt && model.chat.searchMode === ModelVectorSearchModeEnum.hightSimilarity) {
return {
code: 201,
searchPrompt: {
obj: ChatRoleEnum.System,
value: '对不起,你的问题不在知识库中。'
}
searchPrompts: [
{
obj: ChatRoleEnum.System,
value: '对不起,你的问题不在知识库中。'
}
]
};
}
/* 高相似度+无上下文,不添加额外知识,仅用系统提示词 */
if (!filterSystemPrompt && model.chat.searchMode === ModelVectorSearchModeEnum.noContext) {
return {
code: 200,
searchPrompt: model.chat.systemPrompt
? {
obj: ChatRoleEnum.System,
value: model.chat.systemPrompt
}
: undefined
searchPrompts: model.chat.systemPrompt
? [
{
obj: ChatRoleEnum.System,
value: model.chat.systemPrompt
}
]
: []
};
}
/* 有匹配 */
return {
code: 200,
searchPrompt: {
obj: ChatRoleEnum.System,
value: `知识库:'${filterSystemPrompt}'`
},
aiPrompt: ModelVectorSearchModeEnum.hightSimilarity
? {
obj: 'AI',
value: `我来玩一个问答游戏,规则为:
1.我完全忘记我已有的知识
2.我只能回答关于"${model.chat.systemPrompt || model.name}"的问题
3.我只能从知识库中选择内容进行回答
4.如果问题不在知识库中,我会回答"我不知道。"`
}
: undefined
searchPrompts: [
{
obj: ChatRoleEnum.System,
value: `知识库:'${filterSystemPrompt}'`
},
...(model.chat.systemPrompt
? [
{
obj: ChatRoleEnum.System,
value: model.chat.systemPrompt
}
]
: []),
...(model.chat.searchMode !== ModelVectorSearchModeEnum.noContext
? [
{
obj: ChatRoleEnum.System,
value: `我们来玩问答游戏,规则为:
1.你完全忘记你已有的知识
2.你只能回答关于"${model.name}"的问题
3.你只能从知识库中选择内容进行回答
4.如果问题不在知识库中,你会回答"我不知道。"
务必遵守规则`
}
]
: [])
]
};
};

View File

@@ -27,7 +27,7 @@ export const lafClaudChat = async ({
.join('\n');
const systemPromptText = systemPrompt ? `\n知识库内容:'${systemPrompt}'\n` : '';
const prompt = `${systemPromptText}我的问题:'${messages[messages.length - 1].value}'`;
const prompt = `${systemPromptText}\n我的问题:'${messages[messages.length - 1].value}'`;
const lafResponse = await axios.post(
'https://hnvacz.laf.run/claude-gpt',