AI 底层架构下图展示了基础大模型到智能体应用的完整 AI 系统架构层级核心组件核心作用典型能力基础层模型LLM Token、Transformer 架构、Token 化、注意力机制AI 的底层计算核心负责文本理解、Token 预测、语言生成自然语言理解、文本生成、上下文建模、概率预测上下文层记忆Context Window、Prompt、Memory、RAG管理模型输入上下文负责短期记忆、长期记忆、外部知识注入Prompt 控制、会话记忆、知识检索、上下文增强能力扩展层工具MCP、Tool Calling、API、Database让 AI 不止聊天通过工具调用扩展真实世界操作能力联网搜索、代码执行、数据库查询、API 调用智能体层决策Agent、Explore、Plan、ActAI 自主决策大脑负责目标理解、任务拆解、规划与闭环执行任务规划、多步骤推理、自主决策、闭环执行应用层行动Agent Skill、Workflow、Automation面向具体业务场景将 Agent 能力封装为可落地产品自动化工作流、行业AI助手、企业智能系统、AI SaaS应用核心名词释义Transformer当前大模型核心架构通过自注意力机制建立 Token 之间关联关系。Token模型处理文本最小单位可为子词、单词、字符或符号。Prompt给到模型的输入指令用来设定角色、控制行为、规范输出格式与目标。RAG检索增强生成先检索外部专业知识库再交由 LLM 整合生成精准答案。MCP模型上下文协议 ( Model Context protocol )统一 AI 与工具、数据库、外部服务的通信标准。Agent在 LLM 基础上叠加目标规划执行能力的自主智能系统。Tool Calling模型主动识别需求、调用外部工具完成实际操作不局限纯文本回复。Memory为 AI 提供短期会话记忆 长期持久记忆解决上下文遗忘问题。AI Agent 完整运行流程用户输入用户下发指令 Prompt进入上下文窗口 Context Window。记忆增强系统联动 Memory 会话记忆 RAG 外部知识库补充上下文与专业知识。LLM 推理通过 Transformer 架构对 Token 序列做注意力计算进行语义理解与初步生成。Agent 规划智能体自主判断、拆解任务决策是否需要多步骤执行或调用外部工具。工具执行基于 MCP 协议调用 API、数据库、搜索引擎等外部能力完成实操。输出结果汇总工具返回数据与模型推理结果整理后返回用户同时写入记忆存档。
