背景与问题

一个新的技术出来之后,最先就要去了解一些新的名词。抹平沟通障碍,确保团队成员都能理解和使用。

大模型相关名词

AI

  • 定义:人工智能(Artificial Intelligence)是指模拟人类智能行为的计算机系统。
  • 功能:AI可以执行任务、学习、推理、决策、语言理解等。
  • 应用场景:AI在自然语言处理、计算机视觉、机器人等领域有广泛应用。

LLM

  • 定义:大预言模型简称大模型(Large Language Model)是指参数规模较大的语言模型,通常包含数十亿到万亿个参数。
  • 功能:大模型能够理解和生成人类语言,进行文本创作、翻译、问答等任务。
  • 应用场景:大模型在自然语言处理、智能客服、自动摘要等领域有广泛应用。

prompt

  • 定义:prompt是指用户输入的文本,用于引导大模型生成特定的输出。
  • 作用:prompt可以帮助大模型理解用户意图,生成符合预期的结果。
  • 示例:用户输入“翻译英文句子为中文”,prompt为“Translate the following English sentence to Chinese:”。

Prompt engineering

  • 定义:Prompt engineering是指对prompt进行设计和优化,以提高大模型的性能和效果。
  • 功能:Prompt engineering可以帮助开发人员更好地理解和利用大模型的能力,生成符合预期的输出。
  • 应用场景:Prompt engineering在需要定制化大模型输出的场景中广泛应用,如智能客服、自动摘要等。

AI Agent

  • 定义: AI Agent(智能体)是指能够执行任务的智能体,可以结合多个子代理完成复杂的任务。
  • 功能:Agent可以根据用户指令执行各种任务,如搜索、计算、操作等。
  • 应用场景:Agent在自动检测、自动化任务执行等领域有广泛应用。

Rag

  • 定义:Rag是指Retrieval-Augmented Generation,是一种结合了检索和生成的技术,用于根据用户输入检索相关文档,然后使用大模型生成符合预期的输出。
  • 功能:Rag可以根据用户输入检索相关文档,然后使用大模型生成符合预期的输出。
  • 应用场景:Rag在需要根据上下文生成文本的场景中广泛应用,如智能客服、自动摘要等。

Mcp

  • 定义:Mcp是指Model as a Service,是一种将大模型作为服务提供的方式。
  • 功能:Mcp可以将大模型部署在云端,提供API接口,方便开发者调用。
  • 应用场景:Mcp在需要使用大模型进行文本处理的场景中广泛应用,如智能客服、自动摘要等。

模型微调

  • 定义:模型微调(Fine-Tuning)是指在预训练模型的基础上,使用特定任务的数据集进行训练,以适应该任务的需求。
  • 功能:模型微调可以提高模型在特定任务上的性能,如情感分析、命名实体识别等。
  • 应用场景:模型微调在需要对大模型进行定制化的场景中广泛应用,如智能客服、自动摘要等。

多模态

  • 定义:多模态是指能够处理多种不同类型数据的模型,如文本、图像、音频等。
  • 功能:多模态模型能够整合不同类型的数据,进行更复杂的任务,如图像 captioning、语音识别等。
  • 应用场景:多模态模型在需要处理多种数据类型的场景中广泛应用,如智能客服、自动摘要等。

零样本提示

  • 零样本提示(Zero-shot Prompting)是指在没有特定任务数据集的情况下,使用大模型进行任务执行。
  • 功能:零样本提示可以使大模型在未见过的任务上进行推理和生成,具有较强的泛化能力。
  • 应用场景:零样本提示在需要对大模型进行定制化的场景中广泛应用,如智能客服、自动摘要等。

少样本提示

  • 少样本提示(Few-shot Prompting)是指在只有少量样本的情况下,使用大模型进行任务执行。
  • 功能:少样本提示可以使大模型在只有少量样本的情况下,也能进行任务执行,具有较强的适应性。
  • 应用场景:少样本提示在需要对大模型进行定制化的场景中广泛应用,如智能客服、自动摘要等。

思维链

  • 思维链(Chain of Thought)是指在大模型生成文本时,引导大模型按照一定的步骤顺序进行推理和生成。
  • 功能:思维链可以使大模型在生成文本时,能够更准确地理解任务需求,生成符合预期的输出。

思维树

  • 思维树(Tree of Thought)是指在大模型生成文本时,让大模型尝试不同的路径, 最终选择最优解。

自我一致性

  • 定义:自我一致性(Self-Consistency)也叫自洽性,让大模型推理多次,选择出现次数最多的结果。

反思机制

  • 定义:反思机制(Self-Reflection)是指在大模型生成文本时,先初步输入,再检查输出是否符合预期,若不符合,则重新生成、优化。

参考