大模型

大模型 用于在工作流中调用大语言模型，根据输入参数和提示词生成回复，常用于文案制作、文本总结、文章扩写、信息抽取等任务。你可以根据业务场景选择不同模型，并通过提示词与参数控制回复风格、长度和多样性。

指令标识：LLM
指令类型：大模型处理指令
指令描述：大语言模型节点，根据提示词生成回复

先选使用方式

工作流支持「可视化编排」和「代码编排」两种创建方式。大模型 在两种方式里都能用，核心是「选模型 + 写提示词」。

方式	怎么用	适合人群
可视化编排（推荐先学）	拖入「大模型」节点，选择模型、配置系统/用户提示词和输入参数	大多数用户，零代码，适合快速搭建和调试
代码编排（Python）	在脚本中调用 bots.llm(model="...", promptValue="...", outKey="...")	熟悉代码、需要复用脚本或批量生成流程的用户

第一次使用建议先用可视化编排跑通，再迁移到 Python 代码编排。下方「参数说明」同时给出界面字段和代码参数名。

什么时候用？

• 智能对话：生成自然语言回复，实现智能客服、聊天机器人等。
• 内容生成：自动生成文章、摘要、翻译、代码等各类内容。
• 文本分析：进行情感分析、关键信息提取、文本分类等处理。
• 知识问答：结合提示词工程，基于特定上下文回答用户问题。
• 流程决策：理解和处理自然语言指令，实现更智能的业务流程控制。

使用前确认

• 已选择合适的模型（输出质量很大程度上取决于模型能力）。
• 系统提示词（systemPromptValue）与用户提示词（promptValue）已准备好。
• 提示词中引用的上游变量已正确传入。
• 明确输出形式：Markdown 文本或结构化 JSON（outputType）。
• 对支持视觉理解的模型，已准备好图片 URL（imageUrls）。

可视化编排：从 0 到跑通

下面用一个常见场景演示：让大模型把一段文本总结为三句话。按 5 步即可跑起来：

1. 在工作流画布中添加 大模型 节点。
2. 在 模型 中选择要使用的模型。开启「自由选择模型」后，使用者可在你配置的范围内切换模型；圈选的模型默认按厂商分组，也可通过 JSON 自定义分组（如按是否支持推理、是否多模态分组）。
3. 在 System 提示词 中设定角色，例如「你是一个擅长信息提炼的助手」。
4. 在 User 提示词 中填写任务，并用 ${变量名} 引用上游变量；在输入框中输入 / 可快速唤起可引用变量列表。
5. 在 输出 中配置输出变量名（如 llmResult），点击运行查看结果。

输出支持 Markdown 与 JSON 两种格式。Markdown 格式下只有一个输出参数（模型回复文本，支持推理的模型还会有 reasoning_content 字段表示思考过程）；JSON 格式下可导入样例自动生成输出结构，建议为每个输出参数设置有意义的名称和描述。

参数说明

输入参数

界面名称	代码属性名	类型	必填	默认值	说明
模型	model	String	是	magicai-gpt	模型名称
历史消息数	historyMessageCount	Integer	是	1	携带的历史消息数量，默认 1
系统提示词	systemPromptValue	String	否	-	高级选项。系统提示词，用于设定大模型的角色、操作、职责、限制等
用户提示词	promptValue	String	否	-	高级选项。用户提示词，本轮对话的指令或问题
多轮对话上下文	messages	Object	否	-	高级选项。多轮对话上下文
上下文信息	context	Object	否	-	高级选项。上下文信息
模型变量引用	modelRef	Object	否	-	高级选项。模型变量引用
待解析图片 URL	imageUrls	String	否	-	高级选项。待解析图片的 URL，用于视觉理解
是否流式输出	stream	Boolean	否	false	高级选项。是否流式输出，可选 true、false
随机性	temperature	Double	否	1	高级选项。值越大，回复越随机
topP	topP	Double	否	-	高级选项。与随机性类似，但不要和随机性一起更改
生成结果个数	n	Integer	否	-	高级选项。生成结果个数
最大 Token 数	maxTokens	Integer	否	4096	高级选项。单次交互所用的最大 Token 数
输出类型	outputType	String	否	-	高级选项。输出类型，例如 markdown 或 json
输出参数定义	outputList	String	否	-	高级选项。JSON 格式，定义要获取的变量名列表（包括 result、originalResult）
是否发送消息	sendMsgFlag	Boolean	否	true	是否发送节点消息

outResultKey 字段为内部保留字段，请勿使用。

输出参数

界面名称	代码属性名	类型	必填	说明
输出	outKey	String	否	存储大语言模型执行结果的输出变量名，包含模型生成的内容和相关信息，例如 llmResult

成功标准

• 运行日志中节点为成功状态，没有超时或调用错误。
• 输出变量（如 llmResult）中包含模型生成的回复内容。
• 选择 JSON 输出时，返回结果符合定义的输出结构。
• 选择推理模型时，输出中包含 reasoning_content 思考过程字段。

失败排查

默认情况下，节点运行超时或异常时工作流会中断。你也可以手动配置异常处理方式：

异常处理设置	说明
开启重试	默认关闭。开启后可按指定策略重试
重试次数	默认不重试，可设置重试次数
重试间隔	每次重试的间隔，默认 1000 毫秒
超时时间	节点运行的最大耗时，默认 180s，可调整为 0.1s~600s
异常处理方式	终止执行：中断工作流；继续执行：不中断，异常节点通过 errorBody 返回错误信息

常见问题排查：

现象 / 报错原文	可能原因	处理建议
节点运行超时	输入过长或模型响应慢	调大超时时间，精简提示词，或配置重试/降级策略
触发限流导致失败	短时间内并发请求过多	拆分循环/并行分支，配置降级策略自动切换模型
输出不是合法 JSON	输出类型配置或提示词不当	设置 outputType=json，在提示词中明确返回 JSON
输出质量不稳定	模型或提示词不合适	更换更合适的模型，优化系统/用户提示词内容

可在节点中配置 降级策略：同一类型支持配置多个策略并按顺序执行。固定策略可指定降级模型及对应 Prompt；动态策略可根据预定义的 Prompt 模板执行。

Python 代码编排

代码编排以 Python 为主。运行上下文由代码编排模板创建，示例里只需要关注业务指令本身。

# 让大模型把一段文本总结为三句话
result = bots.llm(
    model="magicai-gpt",
    systemPromptValue="你是一个擅长信息提炼的助手",
    promptValue="请把下面的文本总结为三句话：……",
    outKey="llmResult",
)

需要更稳定、更可控的输出时，可调整随机性与最大 Token 数：

result = bots.llm(
    model="magicai-gpt",
    promptValue="生成一段产品介绍文案",
    temperature=0.3,
    maxTokens=1024,
    outKey="llmResult",
)

可视化表单里的「模型」「系统提示词」「用户提示词」「输出」分别对应代码里的 model、systemPromptValue、promptValue、outKey。

如果你想在工作流中通过节点动态编排该指令，可使用 执行指令（XML）节点，按上方参数表进行配置。

常见问题

Q1：推荐使用哪一个模型？

A： 不同模型在不同领域和场景表现各异。鉴于系统稳定性和切换成本，建议优先使用平台自研、国产模型。

模型名称	模型说明
magicai-gpt	MagicAI 默认推荐模型，适用于通用问答、内容生成、工具调用和多数工作流自动化场景
magicai-gpt-fast	MagicAI 低延迟模型，响应速度更快，适合对时延敏感、需要高频调用的工作流节点
GLM-4.6	在推理、编码与智能体能力上全面升级，支持更长上下文与工具调用，适用于智能体开发、复杂推理与多轮对话
Qwen 系列模型	在中文场景中表现优异，提供多个尺寸和领域的模型，适合构建多 Agent 架构

Q2：如何解决由于模型限流导致的工作流运行失败？

A： 循环、并行分支等容易触发模型限流，可适当拆分，避免短时间内发送大量请求。还可以配置降级策略，出现异常时自动重试或切换其他模型。

Q3：如何获取推理模型的推理内容？

A： 选择推理模型后，节点的输出字段会包含 reasoning_content 字段。

Q4：提示词格式对模型效果的影响？

A： 实践和评测表明提示词格式对效果影响较小，优化重点应放在提示词内容上。

相关指令

• 提示词生成
• 提示词优化
• 意图分类
• 长文本问答