课程简介

本课程专为构建企业级AI原生应用设计，遵循从“基础赋能”到“深度定制”再到“系统编排”的技术进阶路径。课程内容涵盖了面向工业场景的高级提示工程与DeepSeek等主流开源模型的选型部署；系统讲授数据清洗、SFT指令微调及LoRA高效参数调优技术，解决领域知识注入难题；深入剖析RAG与GraphRAG技术，打破模型知识边界；并重点聚焦Agent智能体工程，从代码级框架原理到企业级编排平台的复杂工作流设计，最终结合LLMOps评估体系与综合项目实战，实现从模型能力到业务落地应用的全闭环。

目标收益

培训对象

课程内容

第一天-上午
1. 课程开场与AIGC与AI Agent综述（0.5h）
介绍课程的目标和预期的学习成果。
介绍人工智能生成创作（AIGC）领域的基本概念、应用和发展趋势，介绍AI Agent相关基础、场景及算法基础逻辑介绍
从 Copilot（辅助）到 Autopilot（代理）的演进。
2. 大模型提示工程应用进阶（1.5h）
高级提示词设计方法——多轮交互、角色设定、上下文控制及隐式引导技巧，适配工业领域专业语境
多场景高阶提示工程应用：技术文档编制、设备故障诊断报告生成、生产调度方案优化、跨部门信息问答与业务流程自动化
面向 DeepSeek R1 系列大模型的提示优化策略：思维链推理、逐步求解、采样温度调优及面向工业数据的模型特性适配
3. 主流开源语言大模型概述与模型选型（1h）
领域大模型介绍——法律、医疗、金融、教育等领域大模型介绍
简述详述DeepSeek、Qwen 等开源模型
针对相关业务场景，分析大模型的选型
第一天-下午
1. 大模型推理加速与部署（1h）
介绍常用的大模型推理框架与原理，如vLLM、SGLang、FastLLM等
介绍常用大模型整体服务框架，llama.cpp、llama-factory、ollama等
大模型中的量化，如AWQ量化、GPTQ、GGUF等
课程实战-1：大模型提示词应用——基于大模型的数据分析与PPT生成（1h）
课程实战-2：大模型部署实战——基于VLLM的文本大模型部署（1h）
第二天-上午
1. 大语言模中的数据构造与清洗（1h）
梳理大模型训练中的数据收集方法与数据清洗逻辑
介绍基于Self-instruct的数据构造方法、介绍面向结构化知识的数据构造方法
高质量数据收集与清洗分享——以参与的开源数据集Chinese-DeepSeek-R1-Distill-data-110k为例
领域数据清洗方法介绍——IFD指标法、MoDS方法等
2. 大语言模中的高效参数调优及分布式训练（1h）
常用参数微调方法——Prefix Tuning、P-Tuning、LoRA
微调方法进阶——DyLoRA、AdaLoRA、QLoRA、QALoRA、LongLoRA、VERA、S-LoRA
介绍当前常用的模型分布式计算方法，介绍多种并行策略，介绍多种分布式框架及代码解析
3. 计算机视觉与图文多模态大模型（1h）
基于文本生成图像的算法和模型介绍：介绍文本到图像的生成模型，详述当前主流的Diffusion扩散模型：如DALL·E、CLIP、GLIDE、DALL·E 2等模型介绍
图像生成文本大模型原理介绍：图生文相关模型概念，如QwenVL系类、Yi-VL等
混合多模态大模型原理与应用，视频理解与图像综合应用
第二天-下午
1. 训练框架原理介绍（0.5h）
介绍Llama-Factory：介绍llama-Factory相关基础概念和使用方法
介绍Unsloth：介绍Unsloth相关基础概念和使用方法
大模型微调技术概述，介绍相关参数配置，模型训练与Loss曲线监控及部署与测试
课程实战-3：大模型微调实战——面向企业场景的大模型微调实战（1.5h）
课程实战-4：微调大模型部署与评测——基于框架的大模型部署与效果评测（1h）
第三天-上午
1. AI原生应用综述与Agent架构演进（0.5h）
从Copilot（辅助）到Autopilot（代理）的演进路径。
企业级AI原生应用的核心特征：上下文感知、决策能力与行动执行。
2. Agent核心架构解析（1.5h）
规划（Planning）：ReAct（Reasoning + Acting）、Plan-and-Solve及LLM Compiler任务拆解策略
记忆（Memory）：短期记忆（Window）与长期记忆（Vector DB）的设计实现与取舍
工具（Tools）：Function Calling的标准定义、Schema设计与API对接逻辑
1. Agent 的认知架构与设计模式（1h）
Agent中的规划：基于ReAct, Plan-and-Solve, LLM Compiler等方法的任务拆解策略。
Agent中的记忆： 短期记忆（Window） vs 长期记忆（Vector DB/RAG）的设计。
Agent中的反思与修正： 如何让 Agent 自己发现错误并重试。
第三天-下午
1. 常见AI Agent框架介绍（1.5h）
AutoGen原理介绍与代码生成原理
CrewAI原理介绍
LangGraph与Magentic-One原理介绍
LangGraph架构：从链式调用到图（Graph）编排的转变，处理循环与状态持久化
课程实战-5：Agent框架应用实战——基于多框架的Agent能力搭建（1.5h）
第四天-上午
1. 国内外常见AI Agent 等应用编排平台介绍（1h）
介绍Dify、bisheng等开源应用编排框架介绍
架构总览：Frontend、Backend API、Worker（异步队列）与Sandbox（沙箱）的交互逻辑
工作流引擎原理：基于DAG（有向无环图）的节点执行机制与状态传递
选型分析：SaaS平台（Coze）与私有化部署（Dify）在企业数据安全与自定义能力上的决策
2. 工作流（Workflow）核心节点机制（1h）
逻辑控制：条件分支（If-Else）、迭代循环（Loop）与代码执行节点的底层实现
变量管理：全局变量与节点间Output Reference的数据流转机制
人机交互（HIL）：在工作流中嵌入“人工审核”节点，实现关键业务的干预
课程实战-6：Agent编排实战——基于Agent平台的多应用编排搭建（1h）
第四天-下午
1、大模型RAG核心技术准备 （1h）
模型向量表征方法与常用模型分享，包括BGE、M3E、Qwen-embedding等
面向大模型RAG的检索方法概述
大模型向量的数据构造与微调方法
2. 企业级文档解析与数据清洗（1小时）
面向技术文档/招投标书的数字化解析原理
语义完整性切分：面向RAG场景的段落拆解与Chunking策略，避免切分导致的语义丢失
多模态文档解析：处理PDF中的表格、图片及复杂排版
课程实战-7：RAG搭建实战——搭建基于本地文档的问答系统（1h）
第五天-上午
1. 进阶RAG：检索优化与GraphRAG（1小时）
混合检索（Hybrid Search）：结合BM25关键词检索与向量表征（Embedding）的多策略召回
知识图谱增强（GraphRAG）：构建领域知识图谱，结合LLM实现基于图谱的多跳推理检索
2. LLMOps：大模型应用评估与监控体系（1h）
RAG与Agent评估框架：详解Ragas评估体系（Faithfulness、Answer Relevance等指标）与AgentBench测试集，建立自动化回归测试流程。
可观测性与监控：介绍LangSmith、Arize Phoenix等工具，追踪Agent的思考路径（Trace）、Token消耗成本分析与响应延迟（Latency）监控。
数据飞轮（Data Flywheel）：设计“用户反馈-数据标注-模型迭代”的闭环体系，利用线上数据持续优化系统效果。
2. 大模型在Agent中的产品化及交付经验介绍（1h）
介绍企业大模型Agent场景化行业应用案例
大模型Agent企业落地场景介绍，包括大模型与智能问答系统、大模型与知识库、大模型与智能编排等场景的应用与落地。
Agent 的评估、监控与落地挑战
第五天-下午
1. 综合项目实战——构建企业级“超级助理”应用（1.5h）
场景定义：学员分组，从“智能合同审核”、“自动化研报生成”、“企业运维知识问答”等场景中选择一个进行端到端实现。
全链路集成：要求融合前四天所学内容，集成“微调后的模型” + “垂直领域RAG知识库” + “Dify/LangGraph工作流编排”。
API对接实战：编写一个简易的前端页面（Streamlit或HTML）或模拟API调用，展示Agent与外部系统的实际交互能力，而不仅仅是对话框演示。
2. 项目路演与讲师点评（1小时）
成果展示：各小组展示工作流逻辑图与运行效果
成果交流：各小组针对架构合理性、工程落地性及成本控制进行讨论与优化建议
2. 课后交流（0.5h）
课后交流