课程简介
在当今数字化时代，大模型技术正迅速改变着软件开发与IT运维的面貌。《大模型实战应用训练营》是一门专为IT专业人员设计的实用课程，旨在帮助学员在短短三天内掌握大模型技术在IT领域的应用开发与部署。课程内容涵盖大模型基础、商业API与开源模型的实战应用、知识库构建、Agent开发等多个方面，通过18个实战案例，学员将学习如何在普通开发环境和有限硬件资源下，快速部署和应用大模型，提升工作效率，推动团队数字化转型。无论您是软件开发工程师、运维人员还是技术经理，本课程都将为您提供即学即用的实战技能和企业级应用的最佳实践。
课程准备：
基本编程能力（Python优先）
熟悉常见IT工作流程
普通开发笔记本或工作站（8GB+ RAM）
有GPU更好，但不是必须
好奇心和解决问题的热情！
目标收益
掌握MCP等前沿大模型应用工程技术的实际应用
能够在普通开发环境中部署和运行开源大模型
构建适合团队需求的AI辅助工具
设计和实现基于多模型协作的复杂系统
优化IT流程并提高团队工作效率
制定企业AI应用路线图和最佳实践
培训对象
软件开发工程师与团队负责人
DevOps与SRE工程师
IT运维人员与系统管理员
技术经理与IT项目负责人
希望提升团队AI能力的技术决策者
课程大纲
|
第一天：大模型基础与IT应用开发 上午：大模型技术与IT应用概述 |
1.大模型技术简明入门 o大模型核心概念解析（无需深入数学原理） o商业API vs 开源模型：IT团队的选型决策 o大模型在IT工作流中的应用场景 2.大模型应用前沿工程技术概览 oMCP模型组合范式 o混合专家模型(MoE)与稀疏激活 o思维链(CoT)与自洽性增强技术 o多模态融合与跨模态推理 3.IT领域大模型应用全景 o代码开发与辅助编程 o自动化测试与DevOps o文档生成与知识管理 oIT运维与故障诊断 4.大模型选型与应用架构 o主流大模型能力对比（Claude、DeepSeek、Qwen、Llama3） o大模型应用的基本架构模式 oIT团队引入大模型的成本与收益分析 |
| 下午：API开发与Prompt工程实战 |
1.高级Prompt工程 oIT场景下的Prompt模板库 o结构化输出控制技巧 oMCP模式下的提示词设计 o实战1: 构建代码审查助手 o实战2: 自动化Bug分析与修复建议 2.Claude API开发实战 oAPI调用与参数优化 o多轮对话上下文管理 o思维链(CoT)与推理过程引导 o实战3: 构建团队知识库问答机器人 o实战4: 开发需求分析与用例生成工具 3.Function Calling与系统集成 o将大模型与内部工具集成 o模型编排与服务链接 o实战5: 通过大模型控制CI/CD流程 o实战6: 构建日志分析与告警分类系统 |
|
第二天：开源大模型部署与IT工具开发 上午：开源模型轻量级部署 |
1.开发环境中的大模型部署 o普通笔记本/工作站的部署方案 o开源模型资源需求评估 o容器化部署最佳实践 oMoE模型的高效部署策略 2.轻量级模型部署实战 o模型量化与加速技术 o稀疏计算与推理优化 o实战1: 在普通GPU上部署DeepSeek-Coder o实战2: 在CPU环境部署Qwen-1.5-7B 3.vLLM与高效推理服务 o低资源环境的推理优化 o模型分片与并行计算 o实战3: 搭建团队共享的模型推理服务 o实战4: 构建模型API网关与负载均衡 |
| 下午：IT工具链与大模型集成 |
1.MCP模式下的工具开发 o模型组合与能力编排 o专家模型选择与调度 o实战5: 构建基于MCP的多模型协作系统 2.代码助手与开发工具集成 oIDE插件开发基础 o代码理解与生成的模型编排 o实战6: 构建VS Code的本地代码助手 o实战7: 开发代码文档自动生成工具 3.运维自动化与大模型结合 o运维脚本生成与优化 o日志分析与异常检测 o实战8: 构建基于大模型的运维助手 o实战9: 开发服务器配置分析工具 4.大模型应用的监控与调试 o应用性能与质量监控 o响应延迟优化策略 o异常处理与回退机制 |
|
第三天：高级应用开发与企业实践 上午：知识库构建与RAG应用 |
1.企业知识库构建 o技术文档处理与向量化 o代码库索引与检索 o多模态知识库构建 o实战1: 构建团队技术文档智能检索系统 2.RAG系统实战开发 oRAG架构简化实现 o文档分块与检索优化 oMCP下的检索增强生成 o实战2: 开发内部Wiki问答助手 o实战3: 构建代码库智能搜索工具 3.LangChain与高级模型编排 oLangChain核心组件与工作流 o模型编排与能力组合 o实战4: 使用LangChain构建IT流程自动化工具 o实战5: 开发基于MCP的多模型协作系统 |
| 下午：Agent开发与企业级应用 |
1.IT流程自动化Agent开发 o基于MCP的Agent架构设计 o工具使用与系统集成 o自主规划与执行能力 o实战6: 构建自动化测试Agent o实战7: 开发项目管理与任务分配Agent 2.多智能体系统与协作 o多Agent协作框架 o角色分配与专家模型选择 o实战8: 构建DevOps多智能体协作系统 3.企业级应用与最佳实践 o大模型应用安全与合规 o成本控制与资源优化 o敏感数据处理策略 o实战9: 构建安全的内部AI平台 4.团队AI能力建设与实施路线 oIT团队AI转型路径 o大模型应用评估框架 o技术债务与AI重构策略 o实战10: 制定团队AI应用路线图 |
|
第一天：大模型基础与IT应用开发 上午：大模型技术与IT应用概述 1.大模型技术简明入门 o大模型核心概念解析（无需深入数学原理） o商业API vs 开源模型：IT团队的选型决策 o大模型在IT工作流中的应用场景 2.大模型应用前沿工程技术概览 oMCP模型组合范式 o混合专家模型(MoE)与稀疏激活 o思维链(CoT)与自洽性增强技术 o多模态融合与跨模态推理 3.IT领域大模型应用全景 o代码开发与辅助编程 o自动化测试与DevOps o文档生成与知识管理 oIT运维与故障诊断 4.大模型选型与应用架构 o主流大模型能力对比（Claude、DeepSeek、Qwen、Llama3） o大模型应用的基本架构模式 oIT团队引入大模型的成本与收益分析 |
|
下午：API开发与Prompt工程实战 1.高级Prompt工程 oIT场景下的Prompt模板库 o结构化输出控制技巧 oMCP模式下的提示词设计 o实战1: 构建代码审查助手 o实战2: 自动化Bug分析与修复建议 2.Claude API开发实战 oAPI调用与参数优化 o多轮对话上下文管理 o思维链(CoT)与推理过程引导 o实战3: 构建团队知识库问答机器人 o实战4: 开发需求分析与用例生成工具 3.Function Calling与系统集成 o将大模型与内部工具集成 o模型编排与服务链接 o实战5: 通过大模型控制CI/CD流程 o实战6: 构建日志分析与告警分类系统 |
|
第二天：开源大模型部署与IT工具开发 上午：开源模型轻量级部署 1.开发环境中的大模型部署 o普通笔记本/工作站的部署方案 o开源模型资源需求评估 o容器化部署最佳实践 oMoE模型的高效部署策略 2.轻量级模型部署实战 o模型量化与加速技术 o稀疏计算与推理优化 o实战1: 在普通GPU上部署DeepSeek-Coder o实战2: 在CPU环境部署Qwen-1.5-7B 3.vLLM与高效推理服务 o低资源环境的推理优化 o模型分片与并行计算 o实战3: 搭建团队共享的模型推理服务 o实战4: 构建模型API网关与负载均衡 |
|
下午：IT工具链与大模型集成 1.MCP模式下的工具开发 o模型组合与能力编排 o专家模型选择与调度 o实战5: 构建基于MCP的多模型协作系统 2.代码助手与开发工具集成 oIDE插件开发基础 o代码理解与生成的模型编排 o实战6: 构建VS Code的本地代码助手 o实战7: 开发代码文档自动生成工具 3.运维自动化与大模型结合 o运维脚本生成与优化 o日志分析与异常检测 o实战8: 构建基于大模型的运维助手 o实战9: 开发服务器配置分析工具 4.大模型应用的监控与调试 o应用性能与质量监控 o响应延迟优化策略 o异常处理与回退机制 |
|
第三天：高级应用开发与企业实践 上午：知识库构建与RAG应用 1.企业知识库构建 o技术文档处理与向量化 o代码库索引与检索 o多模态知识库构建 o实战1: 构建团队技术文档智能检索系统 2.RAG系统实战开发 oRAG架构简化实现 o文档分块与检索优化 oMCP下的检索增强生成 o实战2: 开发内部Wiki问答助手 o实战3: 构建代码库智能搜索工具 3.LangChain与高级模型编排 oLangChain核心组件与工作流 o模型编排与能力组合 o实战4: 使用LangChain构建IT流程自动化工具 o实战5: 开发基于MCP的多模型协作系统 |
|
下午：Agent开发与企业级应用 1.IT流程自动化Agent开发 o基于MCP的Agent架构设计 o工具使用与系统集成 o自主规划与执行能力 o实战6: 构建自动化测试Agent o实战7: 开发项目管理与任务分配Agent 2.多智能体系统与协作 o多Agent协作框架 o角色分配与专家模型选择 o实战8: 构建DevOps多智能体协作系统 3.企业级应用与最佳实践 o大模型应用安全与合规 o成本控制与资源优化 o敏感数据处理策略 o实战9: 构建安全的内部AI平台 4.团队AI能力建设与实施路线 oIT团队AI转型路径 o大模型应用评估框架 o技术债务与AI重构策略 o实战10: 制定团队AI应用路线图 |
近期公开课推荐
