聚焦HITB + CyberWeek 2019 ¦ 云端黑盒模型安全伪命题?攻击只需2步!
# 云端黑盒模型安全攻击技术教学文档
## 1. 背景介绍
深度学习模型容易受到对抗样本(Adversarial Examples)的攻击,这在业内已不是新鲜事。攻击方式主要分为:
- **白盒攻击**:攻击者知晓模型的架构和参数,能针对性地生成对抗样本
- **黑盒攻击**:攻击者不了解模型内部架构和参数,需要通过大量查询来发现破绽
传统黑盒攻击需要大量查询(如2017年研究显示需要高达10万次查询才能达到95.5%置信度),使得云端黑盒模型被认为相对安全。
## 2. 传统攻击方法
2025-08-16 08:50:36
0