AI APPLICATION ENGINEERING

AI应用工程实践课

一套从模型接口、结构化输出、Embedding 与 RAG,一直走到工具调用、Agent、记忆、评测、安全、性能和 LLMOps 的完整知识体系。通过同一个企业退款客服案例,把零散概念连接成可上线的工程能力。

12核心章节
1向量检索实战加餐
3递进学习阶段
离线双击即可学习

先看懂整套能力怎样连起来

建议第一次严格按顺序学习。每一章只在前置概念已经建立后,再引入下一层能力。

模型与上下文
→
结构化输出
→
RAG 与检索
→
工具与 Agent
→
评测与安全
→
性能与上线
推荐方法:第一次从第 01 章读到第 12 章;遇到蓝色虚线专业名词,点击即可查看白话解释和生活化例子,再返回原文继续阅读。完成第 03 章后,再阅读 03A 实战加餐。

完整课程目录

覆盖 AI 应用从原型到生产的关键工程环节

版本:2026.10

阶段一 · 模型接口与知识基础
CHAPTER 01

大模型调用与上下文工程

理解模型在系统中的位置、API 请求、上下文组成和幻觉边界。

APIPromptContext
CHAPTER 02

结构化输出与结果校验

掌握 JSON、Schema、解析失败处理和多层业务校验。

JSON SchemaValidation
CHAPTER 03

Embedding 与语义检索基础

理解向量、相似度、向量数据库、权限过滤和版本控制。

EmbeddingVector DB
BONUS LAB 03A

Embedding 选型与 Milvus 实战

把原理落到模型选择、数据写入、索引和检索实验。

Milvus实战加餐
CHAPTER 04

RAG 数据工程

完成解析、切块、Metadata、索引构建、安全发布与更新。

ChunkingMetadataRAG
阶段二 · 检索、工具、Agent 与记忆
CHAPTER 05

混合搜索、Rerank 与召回评测

建立混合检索、精排、阈值设置与召回评测方法。

Hybrid SearchRerank
CHAPTER 06

工具调用、Function Calling 与 MCP

让模型安全连接真实工具,处理权限、确认、幂等和失败。

ToolsMCPIdempotency
CHAPTER 07

Agent 工作流与可靠执行

设计有限循环、状态机、检查点、人工确认和故障恢复。

Agent LoopCheckpoint
CHAPTER 08

状态、记忆与多轮会话

区分会话状态与长期记忆,处理 TTL、并发和记忆检索。

MemoryStateTTL
阶段三 · 质量、安全、性能与生产化
CHAPTER 09

评测、可观测性与持续改进

建设评测集、Tracing、核心指标与坏案例闭环。

EvalsTracing
CHAPTER 10

应用安全与权限防线

防范提示注入、越权、数据泄露并落实最小权限。

SecurityRBAC
CHAPTER 11

性能、成本、并发与模型路由

通过缓存、限流、并发控制和路由策略稳定成本与延迟。

CachingRouting
CHAPTER 12

部署、测试、监控与 LLMOps

完成自动化测试、灰度发布、监控、告警、回滚与运营闭环。

DeploymentMonitoringLLMOps

学完后应形成的能力

课程目标不是记住术语,而是能够解释取舍、设计边界并把系统安全上线。

架构设计把模型、知识库、工具、状态和业务系统放在正确的位置。
可靠执行为不确定模型建立校验、权限、幂等、预算和恢复机制。
生产运营用评测、安全、性能、灰度、监控和回滚持续管理质量。