模型配置
作用
模型配置是智能客服系统中的重要组成部分，主要用于调整和优化AI模型的行为表现:
- 通过调整温度参数，可以控制回答的创造性和多样性
- 设置最大token数可以限制单次回答的长度
- 系统提示词能够定义AI助手的角色和行为方式
- 提示词模板可以规范AI回答的格式和内容结构
- 相似度阈值和召回数量的设置能够提升知识匹配的准确度
合理的模型配置可以让AI助手更好地理解用户意图,生成更恰当的回答,从而提供更优质的客服体验。
AI模型配置
- 模型选择 选择合适的模型，以获得更好的效果
提示
鲸语智客支持两种模型，鲸语通用，鲸语长文：
- 鲸语通用
- 成本较低，默认输入支持120000个token
- 鲸语长文
- 支持更长的输入文本，默认输入支持10000000个token
注意
鲸语长文 模型成本约为 鲸语通用 的 3 倍，仅付费用户可以使用，请根据实际需求选择合适的模型，
- 对话温度 控制结果的随机性 , 较高的值输出更随机，而较低的值结果更具有确定性
提示
选择值为[0.1,2]，默认值为0.7，通常情况下，您无需调整
- 回复上限 支持的最大输出长度
提示
最小500，最大6000，默认值6000，可以根据实际情况进行调整
- 记忆轮次 对话时上下文可携带的会话轮次，轮次越多消耗鲸币越多，可能会超出最大Token数
注意
设置过大，有可能会超出最大会话限制，并且消耗更多的鲸币，根据实际情况进行调整
AI提示词配置
- System Prompt 模型固定的引导词，通过调整该内容，可以引导模型对话方向，该内容会被固定在上下文的开头。
提示
默认prompt:
你是一个专业的客服，请用中文回答用户的问题
允许用户自定义编写prompt，以达到更好的效果
- 问答提示语 可以通过提供尽可能清晰详细的指令（prompt)，来获取更符合预期的结果
提示
默认prompt:
已知信息如下'''{answer}'''根据上述已知信息，详细且有条理地回答用户的问题。确保答案充分回答了问题并且正确使用了已知信息。不要使用不在已知信息中的内容生成答案，确保答案中每一个陈述在上述已知信息中有相应内容支撑。答案请使用中文。 问题是：'''{question}'''
允许用户自定义编写prompt，以达到更好的效果
注意
{answer} 为匹配到的知识库内容，{question} 为用户提出的问题，不可省略