课程简介

本课程为期两天，专为期望在企业中落地大模型技术的研发团队设计。课程紧跟AI技术前沿，深度解析DeepSeek R1、Qwen等国产开源大模型的应用逻辑，系统讲授从提示工程到智能体开发，从企业数据工程化处理到模型微调及推理部署的全链路技术。
不仅涵盖ReAct、MCP多协议机制、RAG多模态解析等核心原理，更结合Chinese-DeepSeek-R1-Distill-data等开源数据集进行实战演练。课程特别强化了“交付”环节，深入探讨算力资源测算、推理加速、私有化部署及Deep Research专家系统搭建，旨在帮助学员从零构建高可用、可落地的企业级AI解决方案。
需算力支持

目标收益

1、掌握前沿模型应用技巧：深入理解DeepSeek R1等系列模型的底层逻辑，掌握面向复杂任务的高级提示词设计、代码生成及自动化办公应用技巧。
2、构建智能体（Agent）系统：精通Agent决策机制（ReAct/ReWoo）与主流框架（LlamaIndex/AutoGen），并能基于MCP协议与Manus理念搭建具备业务流处理能力的智能体。
3、精通数据工程与模型微调：掌握领域高质量数据的清洗方法（Self-instruct/IFD指标），熟练运用LoRA/QLoRA等高效参数微调技术及分布式训练策略，解决特定领域的模型适配问题。
4、具备模型部署与算力规划能力：学会使用vLLM、Ollama等框架进行模型推理加速与量化（AWQ/GGUF），能够独立进行算力资源选型、显卡性能评估及成本测算。
5、解决企业RAG落地难题：突破传统RAG瓶颈，掌握复杂文档（PDF表格/多模态）的解析技术，能够设计并交付基于大模型的智能问答、知识库及主动营销等行业应用。

培训对象

课程内容

第一天-上午
1. 课程开场与AIGC综述（0.5h）
大模型原理概述，介绍课程的目标和预期的学习成果。
介绍人工智能生成创作（AIGC）领域的基本概念、应用和发展趋势，相关场景及算法基础逻辑介绍
2. 大模型应用与提示工程（1h）
大模型提示词设计，多场景提示词设计，文章写作辅助、代码生成与调试、自动回复常见问题等
面向DeepSeek R1系类大模型的提示词设计技巧
介绍基于大模型的高效办公应用方法，利用DeepSeek等相关大模型完成行业报告自动生成框架设计、营销文案多风格生成等相关任务
3. 主流开源语言大模型介绍与模型选型（1.5h）
主流大模型介绍，详述DeepSeek、Qwen 等系类大模型的应用、介绍ChatGLM、Llama、Baichuan等开源模型
针对相关业务场景，分析大模型的选型
领域大模型介绍——法律、医疗、金融、教育等领域大模型介绍
第一天-下午
1、Agent原理与应用介绍（1h）
Agent基础概述、主要模块与决策机制
常用Agent核心技术，包括ReAct、ReWoo等
主流Agent框架介绍——LlamaIndex框架、AutoGPT框架、AutoGen框架、SuperAGI框架
2、大模型Agent研发中的产品落地road-map（1h）
在研发场景中的，大模型的应用方案介绍
LLM+OA apps产品设计思路与技术路径
MCP 原理与多协议机制
介绍Manus相关内容概述，与操作方法简述
课程实战：大模型Agent搭建——基于MCP的大模型应用搭建（1h）
第二天-上午
1. 领域高质量数据构造与清洗（1h）
梳理大模型训练中的数据收集方法与数据清洗逻辑
介绍基于Self-instruct的数据构造方法、介绍面向结构化知识的数据构造方法
高质量数据收集与清洗分享——以参与的开源数据集Chinese-DeepSeek-R1-Distill-data-110k为例
领域数据清洗方法介绍——IFD指标法、MoDS方法等
2. 大语言模中的高效参数调优方法（1h）
常用参数微调方法——Prefix Tuning、P-Tuning、LoRA
微调方法进阶——DyLoRA、AdaLoRA、QLoRA、QALoRA、LongLoRA、VERA、S-LoRA
介绍当前常用的模型分布式计算方法，详细介绍数据并行、向量并行、流式并行的多种并行策略等
大模型微调中的算力需求与时间测算
课程实战：大模型微调实战——基于Qwen的微调实战（0.5h）
3. 大模型交付——模型推理加速与部署（0.5h）
大模型推理中的算力消耗与资源适配
介绍常用的大模型推理框架与原理，如vLLM、SGLang、FastLLM等
介绍常用大模型整体服务框架，llama.cpp、llama-factory、ollama等
大模型中的量化，如AWQ量化、GPTQ、GGUF等
第二天-下午
1. 多模态生成方法与原理介绍（0.5h）
基于于大模型（如Transformer）的图片生成文本技术的核心原理
介绍图生文相关模型概念，如QwenVL系类、Yi-VL等
图片生成文本的落地应用，在企业能知识问答、业务办理与文档综合解析方面的应用
2. 基于RAG大模型交付点滴（1h）
基于传统模型的文档数字化解析的技术原理
基于多模态文档解析：如PDF复杂表格识别、基于图片的直接问答交互等
文档综合拆解、版面分析相关算法推荐与面向RAG场景的段落拆解方法详述
大模型企业落地场景介绍，包括大模型与智能问答系统、大模型与知识库、大模型与知识图谱等问答交互领域的应用与落地。
3. AI Agent应用产品化及交付经验介绍（1h）
介绍AI Agent在智能咨询、智能排故、业务办理与查询、主动营销等行业应用案例
大模型企业落地场景介绍，包括大模型与智能问答系统、大模型与知识库、大模型与智能编排等场景的应用与落地。
介绍基于大模型及领域知识，搭建企业内部Deep Research专家
4. 交流与沟通（0.5h）
课后交流
补充算力相关说明和调配