AI安全培训

各有关单位：
为应对人工智能技术快速发展带来的新型安全威胁，提升企业AI系统防御能力，培养兼具AI技术与安全攻防技能的复合型人才，特推出“AI安全攻防实战”课程。本课程聚焦大模型漏洞挖掘、数据隐私保护、对抗攻击防御等前沿领域，结合真实案例与实验演练，助力学员构建AI安全全栈能力。诚邀您的参与，有关事项如下：

培训背景
随着AI技术深度融入各行业，大模型、智能识别系统、AI供应链等面临对抗样本攻击、数据泄露、模型劫持等新型安全风险。传统安全防护手段已无法应对AI特有的攻击路径，亟需掌握AI安全攻防核心技能的专业人才。
本课程通过“理论+实验+对抗”模式，系统性讲解AI安全漏洞原理、攻击手法及防御策略，覆盖从模型开发到部署的全生命周期安全防护，帮助学员实现从“被动防御”到“主动对抗”的能力跃迁。

培训对象
网络安全专业人员、渗透测试人员、安全运维人员、安全顾问和管理人员、学生和研究人员、AI研发工程师、算法工程师、数据科学家、AI系统运维人员。

培训收益
掌握AI安全核心漏洞：
深入理解大模型提示词注入、梯度泄露、供应链攻击等前沿风险。
攻防实战能力提升：
通过实验复现主流攻击（如对抗样本生成、模型逆向工程），设计针对性防御方案。
合规与隐私保护：
学习AI数据脱敏、联邦学习、差分隐私等技术，满足GDPR等法规要求。
红蓝对抗思维：
通过分组演练，模拟真实场景下AI系统攻防对抗，提升应急响应能力。

课程大纲
第一天AI安全基础攻防
第一章 大模型提示词漏洞攻防
理论：Prompt Injection分类（直接/间接/多模态）
实验：构造恶意提示词注入，触发模型输出敏感内容
实验：多模态提示词（文本+图像）绕过OCR检测
第二章 敏感信息泄露与防护
理论：模型元数据泄露原理（gguf/metadata解析）
案例：System Prompt Leakage复现
实验：利用工具提取模型元数据
实验：设计防护策略封堵泄露漏洞

第二天供应链漏洞与进阶攻击
第一章 大模型供应链漏洞分析
理论：供应链攻击路径（Ollama/Ray/Deepseek）
案例：开源框架未授权漏洞导致模型劫持
实验：利用Ollama漏洞植入后门模型
实验：Deepseek未授权访问漏洞复现
第二章 梯度泄露与对抗防御
理论：梯度反推攻击原理与数据逆向工程
案例：通过训练梯度泄露用户隐私数据
实验：生成对抗样本绕过AI检测系统
实验：设计梯度噪声干扰防御方案

第三天综合攻防与真实场景实战
第一章 RealWorld伪造攻击
理论：DeepFace/DeepVoice伪造技术原理
案例：生成高仿真人脸/语音欺骗身份验证系统
实验：使用DeepFace生成虚假人脸
实验：合成语音绕过声纹识别系统
第二章IoT与AI融合漏洞利用
理论：智能设备固件漏洞与AI模型联动风险
案例：通过OCR漏洞劫持IoT设备控制权
第三章 红蓝对抗演练
综合实验：分组模拟攻击链（如多模态注入+供应链投毒）
防御设计：制定全链路防护方案并验证有效性

专家讲师
高老师 | CTO/资深技术顾问/信息安全专家
近十年IT互联网运维服务管理与信息安全领域研究与从业经验，主要从事运维服务管理规划、运维架构、自动化体系建立和实施、信息安全风险评估、信息安全管理体系建立和实施等方面工作，具备丰富的IT服务管理和信息安全管理咨询实践经验，尤其在金融、运营商、政府行业有丰富的项目实施经验。
目前主要专业领域集中于IT服务管理、IT风险管理与控制、信息安全等方面，曾服务的主要客户有：中国金币总公司、千方集团、行园汽车、德法利集团、中彩网等。
专业资质：
CISP 注册信息安全专业人员系国家对信息安全人员资质的最高认可
CISP-PTE 注册信息安全专业人员渗透测试工程师
ISO27001 Foundation 国际信息安全管理体系标准
ITLE 信息技术基础架构库认证项目管理专家
OSTA 全国计算机信息高新技术人员

AI安全培训