Bridge Chapter 07

LLM 与现代 AI 系统:为什么大模型还需要外部系统?

Transformer 让模型能在大规模文本中学习通用模式,但真实产品不是只有一个模型调用。 现代 AI 系统会把模型放进上下文、检索、工具、记忆和评估构成的外部结构里。

为什么大模型还需要外部知识和工具?

System Map

从“会生成”到“可落地”的系统边界

Base Model

从预训练中获得通用语言、代码和世界知识模式。

参数知识会过期,也无法直接观察你的私有业务状态。
Context Window

把当前任务、指令、示例和检索片段临时放进模型输入。

上下文容量有限,放入错误材料会放大错误。
Retrieval

从外部文档、知识库或搜索结果中召回相关证据。

召回质量决定回答质量,检索不到就无法可靠引用。
Tools

让模型调用计算器、代码、搜索、数据库或业务系统执行动作。

工具调用需要权限、参数校验和失败处理。
Memory

保存跨会话偏好、历史任务和长期项目状态。

记忆需要选择、更新和遗忘策略,否则会污染上下文。
Eval / Safety

用测试、红队、权限和监控判断系统是否可靠。

评估不能消除风险,只能让风险更早暴露。

连接关系

外部系统把模型能力变成可控流程

读入任务

Base Model → Context Window

这条连接说明现代 LLM 应用通常不是一次生成,而是让模型在证据、行动和约束之间工作。

补充证据

Retrieval → Context Window

这条连接说明现代 LLM 应用通常不是一次生成,而是让模型在证据、行动和约束之间工作。

请求行动

Base Model → Tools

这条连接说明现代 LLM 应用通常不是一次生成,而是让模型在证据、行动和约束之间工作。

带入状态

Memory → Context Window

这条连接说明现代 LLM 应用通常不是一次生成,而是让模型在证据、行动和约束之间工作。

约束与验证

Eval / Safety → 整套系统

这条连接说明现代 LLM 应用通常不是一次生成,而是让模型在证据、行动和约束之间工作。

历史位置

它连接 Transformer、RAG 与 Agent

之前的问题模型参数不是实时世界

预训练知识强大但会过期,也无法直接读取私有文档、业务数据库或工具结果。

解决内容把能力放进系统结构

上下文窗口、检索、工具调用、记忆和评估让模型变成可组合的软件组件。

遗留问题系统仍会失败

错误检索、工具误用、提示注入、权限泄漏和评估盲区仍需要工程约束。

简化说明

这是系统地图,不是真实编排引擎

本章用静态图解说明 LLM 应用常见组件,不调用真实模型、数据库、工具 API 或评估服务。 组件关系是教学抽象,用于解释为什么现代 AI 应用需要模型外部结构。

参考资料