背景与问题
一个新的技术出来之后,最先就要去了解一些新的名词。抹平沟通障碍,确保团队成员都能理解和使用。
大模型相关名词
AI
- 定义:人工智能(Artificial Intelligence)是指模拟人类智能行为的计算机系统。
- 功能:AI可以执行任务、学习、推理、决策、语言理解等。
- 应用场景:AI在自然语言处理、计算机视觉、机器人等领域有广泛应用。
LLM
- 定义:大预言模型简称大模型(Large Language Model)是指参数规模较大的语言模型,通常包含数十亿到万亿个参数。
- 功能:大模型能够理解和生成人类语言,进行文本创作、翻译、问答等任务。
- 应用场景:大模型在自然语言处理、智能客服、自动摘要等领域有广泛应用。
prompt
- 定义:prompt是指用户输入的文本,用于引导大模型生成特定的输出。
- 作用:prompt可以帮助大模型理解用户意图,生成符合预期的结果。
- 示例:用户输入“翻译英文句子为中文”,prompt为“Translate the following English sentence to Chinese:”。
Prompt engineering
- 定义:Prompt engineering是指对prompt进行设计和优化,以提高大模型的性能和效果。
- 功能:Prompt engineering可以帮助开发人员更好地理解和利用大模型的能力,生成符合预期的输出。
- 应用场景:Prompt engineering在需要定制化大模型输出的场景中广泛应用,如智能客服、自动摘要等。
AI Agent
- 定义: AI Agent(智能体)是指能够执行任务的智能体,可以结合多个子代理完成复杂的任务。
- 功能:Agent可以根据用户指令执行各种任务,如搜索、计算、操作等。
- 应用场景:Agent在自动检测、自动化任务执行等领域有广泛应用。
Rag
- 定义:Rag是指Retrieval-Augmented Generation,是一种结合了检索和生成的技术,用于根据用户输入检索相关文档,然后使用大模型生成符合预期的输出。
- 功能:Rag可以根据用户输入检索相关文档,然后使用大模型生成符合预期的输出。
- 应用场景:Rag在需要根据上下文生成文本的场景中广泛应用,如智能客服、自动摘要等。
Mcp
- 定义:Mcp是指Model as a Service,是一种将大模型作为服务提供的方式。
- 功能:Mcp可以将大模型部署在云端,提供API接口,方便开发者调用。
- 应用场景:Mcp在需要使用大模型进行文本处理的场景中广泛应用,如智能客服、自动摘要等。
模型微调
- 定义:模型微调(Fine-Tuning)是指在预训练模型的基础上,使用特定任务的数据集进行训练,以适应该任务的需求。
- 功能:模型微调可以提高模型在特定任务上的性能,如情感分析、命名实体识别等。
- 应用场景:模型微调在需要对大模型进行定制化的场景中广泛应用,如智能客服、自动摘要等。
多模态
- 定义:多模态是指能够处理多种不同类型数据的模型,如文本、图像、音频等。
- 功能:多模态模型能够整合不同类型的数据,进行更复杂的任务,如图像 captioning、语音识别等。
- 应用场景:多模态模型在需要处理多种数据类型的场景中广泛应用,如智能客服、自动摘要等。
零样本提示
- 零样本提示(Zero-shot Prompting)是指在没有特定任务数据集的情况下,使用大模型进行任务执行。
- 功能:零样本提示可以使大模型在未见过的任务上进行推理和生成,具有较强的泛化能力。
- 应用场景:零样本提示在需要对大模型进行定制化的场景中广泛应用,如智能客服、自动摘要等。
少样本提示
- 少样本提示(Few-shot Prompting)是指在只有少量样本的情况下,使用大模型进行任务执行。
- 功能:少样本提示可以使大模型在只有少量样本的情况下,也能进行任务执行,具有较强的适应性。
- 应用场景:少样本提示在需要对大模型进行定制化的场景中广泛应用,如智能客服、自动摘要等。
思维链
- 思维链(Chain of Thought)是指在大模型生成文本时,引导大模型按照一定的步骤顺序进行推理和生成。
- 功能:思维链可以使大模型在生成文本时,能够更准确地理解任务需求,生成符合预期的输出。
思维树
- 思维树(Tree of Thought)是指在大模型生成文本时,让大模型尝试不同的路径, 最终选择最优解。
自我一致性
- 定义:自我一致性(Self-Consistency)也叫自洽性,让大模型推理多次,选择出现次数最多的结果。
反思机制
- 定义:反思机制(Self-Reflection)是指在大模型生成文本时,先初步输入,再检查输出是否符合预期,若不符合,则重新生成、优化。