从预训练中获得通用语言、代码和世界知识模式。
参数知识会过期,也无法直接观察你的私有业务状态。Bridge Chapter 07
LLM 与现代 AI 系统:为什么大模型还需要外部系统?
Transformer 让模型能在大规模文本中学习通用模式,但真实产品不是只有一个模型调用。 现代 AI 系统会把模型放进上下文、检索、工具、记忆和评估构成的外部结构里。
为什么大模型还需要外部知识和工具?
System Map
从“会生成”到“可落地”的系统边界
把当前任务、指令、示例和检索片段临时放进模型输入。
上下文容量有限,放入错误材料会放大错误。从外部文档、知识库或搜索结果中召回相关证据。
召回质量决定回答质量,检索不到就无法可靠引用。让模型调用计算器、代码、搜索、数据库或业务系统执行动作。
工具调用需要权限、参数校验和失败处理。保存跨会话偏好、历史任务和长期项目状态。
记忆需要选择、更新和遗忘策略,否则会污染上下文。用测试、红队、权限和监控判断系统是否可靠。
评估不能消除风险,只能让风险更早暴露。连接关系
外部系统把模型能力变成可控流程
Base Model → Context Window
这条连接说明现代 LLM 应用通常不是一次生成,而是让模型在证据、行动和约束之间工作。
Retrieval → Context Window
这条连接说明现代 LLM 应用通常不是一次生成,而是让模型在证据、行动和约束之间工作。
Base Model → Tools
这条连接说明现代 LLM 应用通常不是一次生成,而是让模型在证据、行动和约束之间工作。
Memory → Context Window
这条连接说明现代 LLM 应用通常不是一次生成,而是让模型在证据、行动和约束之间工作。
Eval / Safety → 整套系统
这条连接说明现代 LLM 应用通常不是一次生成,而是让模型在证据、行动和约束之间工作。
历史位置
它连接 Transformer、RAG 与 Agent
之前的问题模型参数不是实时世界
预训练知识强大但会过期,也无法直接读取私有文档、业务数据库或工具结果。
解决内容把能力放进系统结构
上下文窗口、检索、工具调用、记忆和评估让模型变成可组合的软件组件。
遗留问题系统仍会失败
错误检索、工具误用、提示注入、权限泄漏和评估盲区仍需要工程约束。
简化说明
这是系统地图,不是真实编排引擎
本章用静态图解说明 LLM 应用常见组件,不调用真实模型、数据库、工具 API 或评估服务。 组件关系是教学抽象,用于解释为什么现代 AI 应用需要模型外部结构。
参考资料