写点什么

神经网络攻防:开篇词——你所不知道的神经网络攻防

用户头像
P小二
关注
发布于: 2020 年 07 月 03 日
神经网络攻防:开篇词——你所不知道的神经网络攻防

你好,我是 P 小二,很高兴我又要更新了。


不出意外,你看到这篇的时候,2020 年已过去一半。从 7 月份开始更新,是我立的 FLAG。在这里,我想就整个专栏的安排说明一下,也算是给读者一些学习建议。

为什么要出这个专栏?

首先,因为我高兴。我想开一个 AI 安全的专栏来讨论这方面的学习进展。如果还写得不错,得到了几个赞许,也是大大的幸福感。


其实人们对 AI 的安全担忧早就有之,不过更多的是从伦理道德和工作层面上进行批判,宣扬 AI 威胁论。就现在所处的弱人工智能阶段来说,这些担心大可不必,随着深度学习大火,各种攻击 AI 系统的技术被发明发现,攻击者与防御者的博弈真正的开始了。未知攻焉知防,研究矛,加强盾是一条必经之路。


其次,AI 安全是近些年才出现的热潮,世面上的资料质量参差不齐,特别是中文领域没有好的教程。如果能给后来者一些跳坑的经验之谈,已达到了目的。

我要学习,需要什么样的基础


在我看来,你不需要任何基础,你需要是强烈的学习兴趣。


如果你没有编程基础,可以通过网上的一些开源教程补充一些 Python 语法。

如果你计算机科班毕业,恭喜你,你可以补充一些机器学习的基础知识。

如果你正在读机器学习方向的研究生,太好了,把 TF 和 Pytorch 多多玩溜吧。

如果你是博士,欢迎你,加入我们读论文的队伍里来吧,特别需要您。


如果你是安全研究人员,Just do it,整就牛。


我认为的专栏特色


说说和一些课程相同的特色

  • 以实战为主,会有很多练习出现在专栏中

  • 有代码有解答,以 jupyter notebook 的形式输出

  • 跟进最新的研究进展,会去复现论文,跑通 demo

  • 会尝试用视频形式输出,直观易懂


当然我也有不一样的特色,那就是会断更,静静等待就好。

专栏网址: http://aipwn.org/HackingNeuralNetworks

Github: https://github.com/AIPwn/HackingNeuralNetworks

公众号: P 小二

知识星球: AI 与安全


你可能需要的推荐资源

Python 基础:

  • Python 编程:从入门到实践

  • Python Cookbook

  • 流畅的 Python


机器学习基础:

  • coursera 课程: machine learning Standford Andrew Ng

  • coursera 课程: Deep Learning Specialization deeplearning.ai

  • Deep Learning: Adaptive Computation and Machine Learning series

  • Deep Learning with Python

  • 动手学深度学习


计算机视觉:

  • cs231n


自然语言处理:

  • coursera 课程: Natural Language Processing Specialization deeplearning.ai

  • cs224n

  • Deep Learning for NLP at Oxford with Deep Mind 2017


深度学习框架:

  • coursera 课程: TensorFlow in Practice Specialization deeplearning.ai

  • 官方书: deep learning with pytorch

  • keras 官方文档


AI 安全科普书:

  • Adversarial Machine Learning(中文版:对抗机器学习:机器学习系统中的攻击和防御)

  • AI 安全之对抗样本入门

  • Web 安全之强化学习与 GAN

  • 人工智能安全


对抗样本比赛:

  • https://github.com/AIPwn/AI-Pwn-Competition


论文集合:

  • https://github.com/AIPwn/awesome-ai-pwn

  • https://github.com/yenchenlin/awesome-adversarial-machine-learning


开源项目:

  • cleverhans

  • adversarial-robustness-toolbox

  • AdvBox

  • foolbox


发布于: 2020 年 07 月 03 日阅读数: 81
用户头像

P小二

关注

公众号:P小二 2017.12.09 加入

架构师,创业者,关注AI与安全

评论

发布
暂无评论
神经网络攻防:开篇词——你所不知道的神经网络攻防