Knowledge4J

切换主题

06 - 工程化实践 ​

定位: RAG 从原型到生产的最后一公里——框架选择、系统设计、部署运维 面试高频度: ⭐⭐⭐⭐

一、板块在体系中的位置 ​

上游：01 ~ 05 板块（所有理论、架构、评估的基础）
  |
  v
【06-工程化实践】 <- 你现在在这里（落地层）
  |  +--------------------------------+
  |  | LangChain/LlamaIndex -> 部署 -> 监控 |
  |  +--------------------------------+
  |
  v
下游：面试专题（知识汇总检验）

二、知识全景图 ​

+--------------------------------------------------------------------+
|                     RAG 工程化实践全景                               |
|                                                                     |
|  +-------------+    +-------------+    +------------------------+   |
|  | 框架选择     |    | 系统设计     |    | 部署与运维              |   |
|  |             |    |             |    |                        |   |
|  | LangChain   |    | API 设计     |    | 容器化 (Docker/K8s)    |   |
|  | LlamaIndex  |    | 异步流水线   |    | 模型服务 (vLLM/TGI)    |   |
|  | 自制 Pipeline|    | 缓存策略     |    | 监控 (LangSmith/*)    |   |
|  +-------------+    +-------------+    +------------------------+   |
|                                                                     |
|  +--------------------------+  +------------------------------+     |
|  | 性能优化                  |  | 安全与隐私                    |     |
|  | 降低延迟 / 提高吞吐 / 量化  |  | 数据安全 / Prompt注入防护    |     |
|  +--------------------------+  +------------------------------+     |
|                                                                     |
|  核心权衡：质量 <-> 延迟 <-> 成本                                  |
+--------------------------------------------------------------------+

三、子专题导航 ​

#主题面试频率核心内容
**LangChain实践指南**LangChain实践⭐⭐⭐⭐LCEL、组件化构建RAG、调试技巧
**LlamaIndex实践指南**LlamaIndex实践⭐⭐⭐⭐数据框架、索引类型、查询引擎
**RAG系统部署与监控**部署与监控⭐⭐⭐生产架构、可观测性、CI/CD
**安全与隐私**安全与隐私⭐⭐⭐数据隔离、注入防护、合规

四、核心考点速记 ​

1. LangChain vs LlamaIndex 选型 ​

LangChain:
  优势：强大的 Chain/Agent 编排、丰富的工具集成
  适合：需要复杂工作流、Agent 交互的场景
LlamaIndex:
  优势：专注 RAG 数据层、索引类型丰富、查询引擎强大
  适合：纯 RAG Pipeline、重视数据管理的场景
  两者不互斥：可以 LlamaIndex 做数据索引 + LangChain 做 Agent 编排

2. 生产级 RAG 系统关键设计 ​

延迟优化：预加载 Embedding 模型、缓存高频查询、异步索引更新
质量保证：检索结果>阈值才送入生成、兜底策略（检索失败时告知用户）
成本控制：用小模型做检索、大模型只做生成、缓存命中率监控
可观测性：链路追踪（检索耗时/生成耗时/质量指标）

3. 安全红线 ​

Prompt 注入：检索文档可能包含恶意指令
  防护：输出校验、指令隔离、权限最小化
数据泄露：RAG 可能从知识库检索到敏感信息
  防护：文档级别权限、返回内容过滤、审计日志

五、核心框架速查 ​

框架核心概念RAG 构建方式适用场景
LangChainChain/Agent/Tool/RetrieverLCEL 链式组装复杂工作流、Agent
LlamaIndexIndex/Retriever/QueryEngine声明式配置纯 RAG、数据管理
HaystackPipeline/Component管道式生产级搜索
Canopy (Pinecone)端到端 RAG托管服务快速原型

六、部署架构参考 ​

+------------------+     +------------------+     +------------------+
| 客户端            |     | API 网关          |     | RAG 服务           |
| Web/Mobile/API   | --> | 鉴权/限流/路由    | --> | 检索 + 生成        |
+------------------+     +------------------+     +--------+---------+
                                                            |
                                               +------------+------------+
                                               |                         |
                                        +-----v------+          +-------v------+
                                        | 向量数据库   |          | LLM 服务     |
                                        | (Pinecone/  |          | (OpenAI/     |
                                        |  Milvus)    |          |  vLLM/TGI)  |
                                        +-------------+          +--------------+

七、监控指标体系 ​

指标含义警戒线
检索延迟 (p95)从查询到返回结果的延迟>500ms
生成延迟 (p95)LLM 生成首 Token 延迟>2s
端到端延迟 (p95)完整请求延迟>5s
检索命中率检索结果非空的比例<90%
忠实度评分RAGAS 忠实度<0.8
缓存命中率查询缓存的命中比例<30%

📚 相关文件 ​

  • **RAG文库设计文档**
  • **评估优化索引**
  • <- 返回 **RAG文库设计文档**

Knowledge4J — Java 知识库

MIT License