本文是基于上篇LangChain应用开发框架学习路径, 构建智能客服AI Agent 案例。通过该案例实践，引发进一步的思考并最终总结出开发AI Agent必备技能。
本文的主要内容包括：
基于 LangChain 构建智能客服 AI Agent 案例实践
基于 AI Agent 案例实践几个思考
开发 Agent 必备技能
基于 LangChain 构建智能客服 AI Agent 案例实践
AI Agent 是什么？
LLM + Planning + Memory + Tools +Action
LangChain 实现智能客服Agent架构设计
LangChain 实现智能客服Agent架构设计
LangChain 实现智能客服Agent核心代码
大语言模型配置
工具列表注册
Agent 创建
Agent 执行步骤一：模型做出规划
- Planning
l 第一步：获取商品售价
l 第二部：获取商品优惠信息
l 第三步：计算最终售价
- Thought
l 需要获得商品售价
- Action
l 行动：商品价格查询工具
l 输入：商品ID
Agent 执行步骤二：调用”商品价格查询工具“
调用查询商品价格工具
返回：7980
Agent 执行步骤三：模型观察结果后思考决定下一步行动
- 会话上下文
l ① 原始问题
l ② 语言模型的规划和第一步行动
- Obversation
l ③ 商品售价
- Thought
l 需要获取商品优惠信息
- Action
l 行动：商品优惠信息查询工具
l 输入：商品ID
Agent 执行步骤四：调用”商品优惠信息查询工具“
调用查询商品优惠信息”工具”
返回：“折扣信息：0.85”
Agent 执行步骤五：模型观察结果后思考决定下一步行动
- 会话上下文
l ① 原始问题
l ② 历史执行步骤
- Obversation
l ③ 优惠信息
- Thought
l 需要计算商品最低售价
- Action
l 行动：计算器工具
l 输入：算式
Agent 执行步骤六：调用”计算器工具“
调用计算器”工具”
返回：6783
Agent 执行步骤七：得到最终结果任务执行结束
- 会话上下文
l ① 原始问题
l ② 历史执行步骤
- Obversation
l ③ 最终售价计算结果
- Thought
l 得到商品的最低售价，任务结束
- Action
l 行动：Final Answer
l 输入：任务最终结果
基于 AI Agent 案例实践几个思考
Token 超出如何解决
语言模型推理结果解析失败
系统吞吐量如何保证
系统运行成本
智能客服回答问题质量
开发 Agent 必备技能
开发 Agent 必备技能
- LLM交互
l 开发框架—LangChain
l Function_calling
l Prompt Engneering
- Fine-tuning
l 使模型具备领域知识
l LoRA、Prefix-tuning
- 向量数据库
l 非结构化数据存储
l 语言相似度检索
l RAG
- 架构设计能力
l 系统高可用设计
l 系统高扩展设计
- 系统调优
l LLM 性能调优
l 向量数据库索引调优