神经网络攻防：开篇词——你所不知道的神经网络攻防

你好，我是 P 小二，很高兴我又要更新了。

不出意外，你看到这篇的时候，2020 年已过去一半。从 7 月份开始更新，是我立的 FLAG。在这里，我想就整个专栏的安排说明一下，也算是给读者一些学习建议。

为什么要出这个专栏？

首先，因为我高兴。我想开一个 AI 安全的专栏来讨论这方面的学习进展。如果还写得不错，得到了几个赞许，也是大大的幸福感。

其实人们对 AI 的安全担忧早就有之，不过更多的是从伦理道德和工作层面上进行批判，宣扬 AI 威胁论。就现在所处的弱人工智能阶段来说，这些担心大可不必，随着深度学习大火，各种攻击 AI 系统的技术被发明发现，攻击者与防御者的博弈真正的开始了。未知攻焉知防，研究矛，加强盾是一条必经之路。

其次，AI 安全是近些年才出现的热潮，世面上的资料质量参差不齐，特别是中文领域没有好的教程。如果能给后来者一些跳坑的经验之谈，已达到了目的。

我要学习，需要什么样的基础

在我看来，你不需要任何基础，你需要是强烈的学习兴趣。

如果你没有编程基础，可以通过网上的一些开源教程补充一些 Python 语法。

如果你计算机科班毕业，恭喜你，你可以补充一些机器学习的基础知识。

如果你正在读机器学习方向的研究生，太好了，把 TF 和 Pytorch 多多玩溜吧。

如果你是博士，欢迎你，加入我们读论文的队伍里来吧，特别需要您。

如果你是安全研究人员，Just do it，整就牛。

我认为的专栏特色

说说和一些课程相同的特色

• 以实战为主，会有很多练习出现在专栏中

• 有代码有解答，以 jupyter notebook 的形式输出

• 跟进最新的研究进展，会去复现论文，跑通 demo

• 会尝试用视频形式输出，直观易懂

当然我也有不一样的特色，那就是会断更，静静等待就好。

专栏网址： http://aipwn.org/HackingNeuralNetworks

Github： https://github.com/AIPwn/HackingNeuralNetworks

公众号： P 小二

知识星球： AI 与安全

你可能需要的推荐资源

Python 基础：

• Python 编程：从入门到实践

• Python Cookbook

• 流畅的 Python

机器学习基础：

• coursera 课程: machine learning Standford Andrew Ng

• coursera 课程: Deep Learning Specialization deeplearning.ai

• Deep Learning: Adaptive Computation and Machine Learning series

• Deep Learning with Python

• 动手学深度学习

计算机视觉:

• cs231n

自然语言处理：

• coursera 课程: Natural Language Processing Specialization deeplearning.ai

• cs224n

• Deep Learning for NLP at Oxford with Deep Mind 2017

深度学习框架:

• coursera 课程: TensorFlow in Practice Specialization deeplearning.ai

• 官方书: deep learning with pytorch

• keras 官方文档

AI 安全科普书：

• Adversarial Machine Learning（中文版：对抗机器学习：机器学习系统中的攻击和防御）

• AI 安全之对抗样本入门

• Web 安全之强化学习与 GAN

• 人工智能安全

对抗样本比赛:

• https://github.com/AIPwn/AI-Pwn-Competition

论文集合：

• https://github.com/AIPwn/awesome-ai-pwn

• https://github.com/yenchenlin/awesome-adversarial-machine-learning

开源项目:

• cleverhans

• adversarial-robustness-toolbox

• AdvBox

• foolbox