课程简介：

为了提升你的模型安全认知水平和实战落地能力，课程里一共设计了四个模块。

启航篇：对大模型安全建设建立系统、科学认知。认识大模型安全的本质与价值，模型的运行机制，识别高频的风险类型，了解大模型安全架构逻辑。

风险篇：针对大模型的高频风险，和你深入探讨“大模型被欺骗”（提示注入、上下文劫持、微调投毒等问题）“大模型被盗窃”（逆向攻击）“大模型说错话”（内容越界、隐私泄露）等诸多现实落地风险的判别和预防，帮你稳步提升“风险识别能力”。

防御篇：在深入理解风险的基础上，学习大模型安全的应对策略，掌握如何通过系统性设计手段构建大模型的“安全防线”。围绕“输入 – 处理 – 输出”这一工作流程，我们将学习包括 Prompt 过滤、上下文权限隔离、内容输出拦截与标识、审计日志回溯等在内的核心机制，同时进一步引入如 RLHF（强化学习人类反馈）、宪法式 AI、红队测试、系统提示对齐等业界主流安全机制。

企业篇：将安全从“原理”与“机制”层面，进一步推进到“场景实践”的维度。我们将结合真实案例来加强自己的“安全落地工程”的实战能力。这一章精选了多个代表性的具体业务场景，让你掌握如何在具体产品（聊天类助手、编程类助手、教育、金融、医疗、政务等行业智能体）中实现“因地制宜”的模型安全控制

课程目录：

├── 250825videos
│ └── 直播回放｜不想大模型“裸奔”-安全建设三步走!
│ └── 286e88d5-197f3005f63-0000-0000-01d-dbacd.mp4
├── 25082501｜初识安全：如何理解大模型安全？.md
├── 25082501｜初识安全：如何理解大模型安全？.mp3
├── 25082501｜初识安全：如何理解大模型安全？.pdf
├── 25082502｜模型机制：生成式大语言模型的运行逻辑全景图.md
├── 25082502｜模型机制：生成式大语言模型的运行逻辑全景图.mp3
├── 25082502｜模型机制：生成式大语言模型的运行逻辑全景图.pdf
├── 25082503｜风险类型：8类高频安全威胁，你遇到几个？.md
├── 25082503｜风险类型：8类高频安全威胁，你遇到几个？.mp3
├── 25082503｜风险类型：8类高频安全威胁，你遇到几个？.pdf
├── 25082504｜安全架构：如何构建一个有边界的大模型系统？.md
├── 25082504｜安全架构：如何构建一个有边界的大模型系统？.mp3
├── 25082504｜安全架构：如何构建一个有边界的大模型系统？.pdf
├── 25082505｜提示注入攻防战（上）：大模型“听谁的”？.md
├── 25082505｜提示注入攻防战（上）：大模型“听谁的”？.mp3
├── 25082505｜提示注入攻防战（上）：大模型“听谁的”？.pdf
├── 25082506｜提示注入攻防战（下）：反制机制与攻防演练.md
├── 25082506｜提示注入攻防战（下）：反制机制与攻防演练.mp3
├── 25082506｜提示注入攻防战（下）：反制机制与攻防演练.pdf
├── 25082507｜微调数据“投毒”与模型“后门”.md
├── 25082507｜微调数据“投毒”与模型“后门”.mp3
├── 25082507｜微调数据“投毒”与模型“后门”.pdf
├── 25082508｜模型“盗窃”与逆向算法攻击.md
├── 25082508｜模型“盗窃”与逆向算法攻击.mp3
├── 25082508｜模型“盗窃”与逆向算法攻击.pdf
├── 25082509｜敏感信息防范：模型会“记住”用户隐私吗？.md
├── 25082509｜敏感信息防范：模型会“记住”用户隐私吗？.mp3
├── 25082509｜敏感信息防范：模型会“记住”用户隐私吗？.pdf
├── 25082510｜有害信息生成与公共信息风险.md
├── 25082510｜有害信息生成与公共信息风险.mp3
├── 25082510｜有害信息生成与公共信息风险.pdf
├── 25082511｜拒绝服务攻击：Prompt也能让模型宕机？.md
├── 25082511｜拒绝服务攻击：Prompt也能让模型宕机？.mp3
├── 25082511｜拒绝服务攻击：Prompt也能让模型宕机？.pdf
├── 25082512｜绕过安全防护的技术与挑战.md
├── 25082512｜绕过安全防护的技术与挑战.mp3
├── 25082512｜绕过安全防护的技术与挑战.pdf
├── 25082513｜提示词过滤净化：第一道防线如何构建？.md
├── 25082513｜提示词过滤净化：第一道防线如何构建？.mp3
├── 25082513｜提示词过滤净化：第一道防线如何构建？.pdf
├── 25082514｜输出内容把关：如何精准识别违规生成？.md
├── 25082514｜输出内容把关：如何精准识别违规生成？.mp3
├── 25082514｜输出内容把关：如何精准识别违规生成？.pdf
├── 250825开篇词｜大模型安全不是黑科技，是新的基本功.md
├── 250825开篇词｜大模型安全不是黑科技，是新的基本功.mp3
├── 250825开篇词｜大模型安全不是黑科技，是新的基本功.pdf
├── 250825课前热身｜10道题帮你测试AI“安全分”.md
├── 250825课前热身｜10道题帮你测试AI“安全分”.mp3
├── 250825课前热身｜10道题帮你测试AI“安全分”.pdf
├── 250825直播回放｜不想大模型“裸奔”-安全建设三步走!.md
└── 250825直播回放｜不想大模型“裸奔”-安全建设三步走!.pdf
├── 250825images
│ ├── 890472
│ │ ├── 2089891214cd7832ab459fdef2665b0d.jpg
│ │ ├── 2c5b9d8b39497004d11724910761fe40.jpg
│ │ ├── 4308084fdaec02b897883bb9bd5b8299.jpg
│ │ ├── e84eb0d177efdee26b72d2da03db2cc8.jpg
│ │ └── f5176dcab99f2f73ccba16bea0c534ab.jpg
│ ├── 890506
│ │ ├── 4bf8dc57040479b31fcf41dff4ca1c1f.jpg
│ │ ├── 62a8f325e2b9969fa5411c9083181685.jpg
│ │ ├── 6aa73d5c95bc089f7cc8505375b043b5.jpg
│ │ ├── c724d676965eee42bd95bf5472f40e98.jpg
│ │ └── d676a0cf47d85468f4e7aa28d328e33d.jpg
│ ├── 890596
│ │ ├── 0abce26be2f945ed80d0d0b94df808de.png
│ │ ├── 181bba7dd4b6fd20f62cf24293ecc276.png
│ │ └── 1f14b9d8208d9ea3ca8a490af39268d6.jpg
│ ├── 891132
│ │ ├── 248ce65872acd6b9543bc90001f64675.jpg
│ │ ├── 84f4d275e5723e43029bf11d59905yy0.jpg
│ │ └── db04f0dca5e70d54dc1b8b422e6ffdfb.png
│ ├── 891505
│ │ └── 94a2deafa35dd6bf566d4b6b41d2edd4.jpg
│ ├── 891900
│ │ └── acd28d0436ebee89205981477f33a27c.jpg
│ ├── 892938
│ │ ├── 5abdbdefcfbe134ff3022f92cf05457e.jpg
│ │ └── c3b87cf11305772c944046f3cda52ff6.jpg
│ ├── 893117
│ │ └── 177ffbf03bd3f6904309e8dbe86b7d7b.jpg
│ ├── 893690
│ │ ├── 0a5fbd821f2903f45fee98b9f0186e4d.jpg
│ │ └── 64cdbb33e6e10f9945850c06de2fc554.jpg
│ ├── 894052
│ │ ├── 220019052727829075ce0b58e657838e.jpg
│ │ ├── 8167365a109fe9c796d4c2741d0a47f0.jpg
│ │ ├── b7d120345629d301e6cb23370yye3419.jpg
│ │ └── fc88396591832dbc5890544b62f4e7b5.jpg
│ ├── 895714
│ │ ├── 9694a3eb2566778d28fd32cfb6cfedc4.png
│ │ └── a4af8d29ca98dbaa32e6e3a656c292cf.png
│ ├── 897504
│ │ ├── 905e87f43a02be84d3616c91942060ba.jpg
│ │ └── ccdb818360cfa601c4b80076bd0de72b.jpg
│ ├── 898558
│ │ ├── 1750074500b0a897cf6e775c6a89e7aa.jpg
│ │ ├── 24ec2ccd22b0c17edac0eb628dafd429.jpg
│ │ └── 48bb6692d3ba9cd86ab00de0e30feb2d.jpg
│ ├── 898746
│ │ └── ac2d923bf70ed6983b29b5ccd41d7d43.jpg
│ ├── 899488
│ │ └── b4cdd070c3ee2e1e00977df806d6eb47.png
│ └── 900160
│ ├── 094c1b5a51733693613b7d376228e5a6.jpg
│ ├── 414a66a1fd2f026d39bf864369f1635a.jpg
│ ├── 414a66a1fd2f026d39bf864369f1635a_20251206_220251.jpg
│ ├── 6c7b433912e012a239003dde052e075a.jpg
│ └── e721d0be4c18ce3f8d3890a16edc62de.jpg