Skip to content

Commit

Permalink
更新主页
Browse files Browse the repository at this point in the history
  • Loading branch information
@duoergun0729
duoergun0729 committed Sep 15, 2018
1 parent f9db8b9 commit 121e6a8
Show file tree
Hide file tree
Showing 4 changed files with 263 additions and 115 deletions.
187 changes: 72 additions & 115 deletions README.md
View file
Original file line number Diff line number Diff line change
@@ -1,27 +1,10 @@
# 项目简介
=======
AdvBox
=======

## AdvBox简介
![logo](pic/logo.png)

AdvBox是一款支持PaddlePaddle、Caffe2以及TensorFlow平台，同时支持对抗样本生成和防护算法的工具包。

对抗样本是深度学习领域的一个重要问题，比如在图像上叠加肉眼难以识别的修改，就可以欺骗主流的深度学习图像模型，产生分类错误，指鹿为马，或者无中生有。这些问题对于特定领域（比如无人车、人脸识别）会产生严重的后果，尤为重要。

![针对图像分类模型的对抗样本](pic/针对图像分类模型的对抗样本.png)

百度安全实验室研发了AdvBox，它能够为安全工程师研究模型的安全性提供极大的便利，免去重复造轮子的精力与时间消耗。AdvBox可以高效地使用最新的生成方法构造对抗样本数据集用于对抗样本的特征统计、攻击全新的AI应用，加固业务AI模型，为模型安全性研究和应用提供重要的支持。之前AdvBox作为PaddlePaddle开源项目的一个模块，获得了广泛好评。这次因为项目发展的需要，特此作为独立项目开源。为了帮助更多开发者在更大数据集上更快速生成对抗样本，AdvBox从0.2版本开始支持Caffe2和TensorFlow平台，并支持多GPU并行计算，当前最新版本为[0.3](doc/RELEASE.cn.md)。

## 使用案例

为了进一步降低学习成本，AdvBox提供大量的[使用案例](tutorials/README.md)。

- [示例1：白盒攻击基于MNIST数据集的CNN模型](tutorials/README.md#示例1：白盒攻击基于MNIST数据集的CNN模型)
- [示例2：白盒攻击基于CIFAR10数据集的ResNet模型](tutorials/README.md#示例2：白盒攻击基于CIFAR10数据集的ResNet模型)
- [示例3：白盒攻击caffe下基于MNIST数据集的LeNet模型](tutorials/README.md#示例3：白盒攻击caffe下基于MNIST数据集的LeNet模型)
- [示例4：黑盒攻击基于MNIST数据集的CNN模型](tutorials/README.md#示例4：黑盒攻击基于MNIST数据集的CNN模型)
- [示例5：使用FeatureFqueezing加固基于MNIST数据集的CNN模型](tutorials/README.md#示例5：使用FeatureFqueezing加固基于MNIST数据集的CNN模型)
- [示例6：使用GaussianAugmentation加固基于MNIST数据集的CNN模型](tutorials/README.md#示例6：使用GaussianAugmentation加固基于MNIST数据集的CNN模型)

## 支持的攻击和防护算法
AdvBox是一款支持PaddlePaddle、Caffe2、Keras以及TensorFlow平台的AI模型安全工具箱。AdvBox同时支持白盒、黑盒攻击算法以及主流防御算法，支持列表如下。

### 白盒攻击算法

Expand All @@ -48,130 +31,104 @@ AdvBox是一款支持PaddlePaddle、Caffe2以及TensorFlow平台，同时支持
- Gaussian Augmentation
- Adversarial Training

## AdvBox特点
### 多平台支持
原生支持PaddlePaddle平台，同时提供了专门的工具，将Caffe以及TensorFlow平台生成的模型转换成PaddlePaddle识别的格式，从而实现了对Caffe以及TensorFlow平台的支持。
### 支持多种算法
同时支持白盒、黑盒攻击算法以及防护算法。
### 支持多种攻击模式
支持生成untargeted或targeted对抗样本。
### 自动优化攻击速率
支持手工指定以及自动调节eps，兼顾攻击成功率和对抗样本生成速度。
### 支持自定义算法
架构开放，可扩展性强，便于AI安全研究人员开发、调试新的攻击算法。

# 安装AdvBox
## 安装paddlepaddle
### 创建paddlepaddle环境
通常使用anaconda创建不同的python环境，解决python多版本不兼容的问题。目前advbox仅支持python 2.*, paddlepaddle 0.12以上。

conda create --name pp python=2.7

通过下列命令激活paddlepaddle环境

source activate pp

如果没有安装anaconda，可以通过下载安装脚本并执行。

wget https://repo.anaconda.com/archive/Anaconda2-5.2.0-Linux-x86_64.sh

### 安装paddlepaddle包
最简化的安装可以直接使用pip工具。

pip install paddlepaddle

如果有特殊需求希望指定版本进行安装，可以使用参数。
对抗样本是深度学习领域的一个重要问题，比如在图像上叠加肉眼难以识别的修改，就可以欺骗主流的深度学习图像模型，产生分类错误，指鹿为马，或者无中生有。这些问题对于特定领域（比如无人车、人脸识别）会产生严重的后果，尤为重要。

pip install paddlepaddle==0.12.0
![针对图像分类模型的对抗样本](pic/针对图像分类模型的对抗样本.png)

如果希望使用GPU加速训练过程，可以安装GPU版本。
百度安全实验室研发了AdvBox，它能够为安全工程师研究模型的安全性提供极大的便利，免去重复造轮子的精力与时间消耗。AdvBox可以高效地使用最新的生成方法构造对抗样本数据集用于对抗样本的特征统计、攻击全新的AI应用，加固业务AI模型，为模型安全性研究和应用提供重要的支持，当前最新版本为[0.3](doc/RELEASE.cn.md)。

pip install paddlepaddle-gpu
# 安装

需要特别指出的是，paddlepaddle-gpu针对不同的cuDNN和CUDA具有不同的编译版本。一百度云上的GPU服务器为例，CUDA为8.0.61，cuDNN为5.0.21，对应的编译版本为paddlepaddle-gpu为paddlepaddle-gpu==0.14.0.post85。
## 部署AdvBox代码
直接同步advbox的代码，其中示例代码在tutorials目录下。

pip install paddlepaddle-gpu==0.14.0.post85
git clone https://github.com/baidu/AdvBox.git

查看服务器的cuDNN和CUDA版本的方法为：
## 初始化软件环境

#cuda 版本
cat /usr/local/cuda/version.txt
#cudnn 版本
cat /usr/local/cuda/include/cudnn.h | grep CUDNN_MAJOR -A 2
#或者
cat /usr/include/cudnn.h | grep CUDNN_MAJOR -A 2
强烈建议使用Conda管理python软件环境，对应的python安装包安装方式如下。

详细支持列表可以参考链接。
pip install -r requirements.txt

http://paddlepaddle.org/docs/0.14.0/documentation/fluid/zh/new_docs/beginners_guide/install/install_doc.html
# 文档

## mac下安装paddlepaddle包
mac下安装paddlepaddle包方式比较特殊，相当于在docker镜像直接运行。
## 例子

docker pull paddlepaddle/paddle
docker run --name paddle-test -v $PWD:/paddle --network=host -it paddlepaddle/paddle /bin/bash
以Keras环境为例，代码路径为[tutorials/keras_demo.py](tutorials/keras_demo.py)

如果mac上没有装docker，需要提前下载并安装。
使用Keras自带的ResNet50模型进行白盒攻击，并设置为预测模式，加载测试图片。

https://download.docker.com/mac/stable/Docker.dmg

## 多GPU支持
部分场景需要使用多GPU加速，这个时候需要安装nccl2库，对应的下载地址为：
#设置为测试模式
keras.backend.set_learning_phase(0)
model = ResNet50(weights=modulename)
img = image.load_img(imagename, target_size=(224, 224))
original_image = image.img_to_array(img)
imagedata = np.expand_dims(original_image, axis=0)

https://developer.nvidia.com/nccl/nccl-download
获取ResNet50的logit层，并创建keras对象。keras的ResNet50要求对原始图像文件进行标准化处理，mean值为[104, 116, 123]，std为1.

下载对应的版本，以百度云为例，需要下载安装NCCL 2.2.13 for Ubuntu 16.04 and CUDA 8。下载完毕后，进行安装。
#获取logit层
logits=model.get_layer('fc1000').output
# 创建keras对象
# imagenet数据集归一化时 标准差为1 mean为[104, 116, 123]
m = KerasModel(
model,
model.input,
None,
logits,
None,
bounds=(0, 255),
channel_axis=3,
preprocess=([104, 116, 123],1),
featurefqueezing_bit_depth=8)

apt-get install libnccl2=2.2.13-1+cuda8.0 libnccl-dev=2.2.13-1+cuda8.0
创建攻击对象，攻击算法使用FGSM的non-targeted attack，攻击步长epsilons设置为静态值。

设置环境变量。

export NCCL_P2P_DISABLE=1
export NCCL_IB_DISABLE=1

## 部署AdvBox代码
直接同步advbox的代码，其中示例代码在tutorials目录下。
attack = FGSM(m)
#静态epsilon
attack_config = {"epsilons": 1, "epsilons_max": 10, "epsilon_steps": 1, "steps": 100}
# fgsm non-targeted attack
adversary = attack(adversary, **attack_config)

git clone https://github.com/baidu/AdvBox.git
对比生成的对抗样本和原始图像的差别。

adversary_image=np.copy(adversary.adversarial_example)
#强制类型转换 之前是float 现在要转换成uint8
#BGR -> RGB
adversary_image=adversary_image[:,:,::-1]
adversary_image = np.array(adversary_image).reshape([224,224,3])
original_image=np.array(original_image).reshape([224, 224, 3])
show_images_diff(original_image,adversary_image)

## 对Caffe以及TensorFlow平台的支持
### 如何将Caffe平台的模型转换成PaddlePaddle格式
提供了转换工具[caffe2fluid](https://github.com/PaddlePaddle/models/tree/e7684f07505c172beb4c4d9febb4a48f9fa83b68/fluid/image_classification/caffe2fluid)
实际运行代码，原始图像和对抗样本的差别如下图所示。

### 如何将TensorFlow平台的模型转换成PaddlePaddle格式
提供了转换工具[tf2paddle](https://github.com/PaddlePaddle/models/tree/develop/v2/image_classification/tf2paddle)
![keras-demo.png](pic/keras-demo.png)

## hello world
安装完advbox后，可以运行自带的hello world示例代码。
### 生成测试模型
首先需要生成攻击用的模型，advbox的测试模型是一个识别mnist的cnn模型。
## 使用案例

cd tutorials/
python mnist_model.py
为了进一步降低学习成本，AdvBox提供大量的[使用案例](tutorials/README.md)。

运行完模型后，会将模型的参数保留在当前目录的mnist目录下。查看该目录，可以看到对应的cnn模型的每层的参数，可见有两个卷积层和两个全连接层构成。
- [示例1：白盒攻击基于MNIST数据集的CNN模型](tutorials/README.md#示例1：白盒攻击基于MNIST数据集的CNN模型)
- [示例2：白盒攻击基于CIFAR10数据集的ResNet模型](tutorials/README.md#示例2：白盒攻击基于CIFAR10数据集的ResNet模型)
- [示例3：白盒攻击caffe下基于MNIST数据集的LeNet模型](tutorials/README.md#示例3：白盒攻击caffe下基于MNIST数据集的LeNet模型)
- [示例4：黑盒攻击基于MNIST数据集的CNN模型](tutorials/README.md#示例4：黑盒攻击基于MNIST数据集的CNN模型)
- [示例5：使用FeatureFqueezing加固基于MNIST数据集的CNN模型](tutorials/README.md#示例5：使用FeatureFqueezing加固基于MNIST数据集的CNN模型)
- [示例6：使用GaussianAugmentation加固基于MNIST数据集的CNN模型](tutorials/README.md#示例6：使用GaussianAugmentation加固基于MNIST数据集的CNN模型)

conv2d_0.b_0
conv2d_0.w_0
conv2d_1.b_0
conv2d_1.w_0
fc_0.b_0
fc_0.w_0
fc_1.b_0
fc_1.w_0
# 问题反馈

目前支持通过Github提交[issues](https://github.com/baidu/AdvBox/issues)

### 运行攻击代码
这里我们运行下基于FGSM算法的演示代码。
# 许可

python mnist_tutorial_fgsm.py
AdvBox循序[Apache License 2.0](https://github.com/baidu/AdvBox/blob/master/LICENSE)

运行攻击脚本，对mnist数据集进行攻击，测试样本数量为500，其中攻击成功394个，占78.8%。
# 作者

attack success, original_label=4, adversarial_label=9, count=498
attack success, original_label=8, adversarial_label=3, count=499
attack success, original_label=6, adversarial_label=1, count=500
[TEST_DATASET]: fooling_count=394, total_count=500, fooling_rate=0.788000
fgsm attack done
- 百度安全实验室 xlab

# 参考文献

Expand Down
Loading

0 comments on commit 121e6a8

Please sign in to comment.