写点什么

独家!【隐秘而伟大】这群神秘的程序员,干了票大的

  • 2022-10-25
    北京
  • 本文字数:1993 字

    阅读完需:约 7 分钟


与黑灰产和黑客持续对抗的“安全人”

1956 年,在美国达特茅斯学院的学术研讨会上,麦卡锡等科学家首次提出“人工智能”(AI)这一概念,至此 AI 学科诞生。

我们在享受 AI 技术带来便捷的同时,安全隐患也随之出现:

  • 5G 时代,自动驾驶呼之欲出。如果有人把假的交通标识放在路边,会不会造成灾难?

  • 手术中的医疗机器人,因血液溅到摄像头,导致机器人“失明”,软件系统“带病”上岗,一旦“发病”或被人操控,会带来怎样的后果?

  • AI 技术为人们提供了前所未有的贴心服务,但如果智能模型中留有“后门”,如何避免 AI 设备被恶意“劫持”?

这些安全隐患之所以没有影响我们的正常生活,是因为一直有一支支隐秘的队伍,在前仆后继地守护着网络安全。

他们深知,表面平静的网络世界暗潮汹涌,他们用代码抵御黑客的枪林弹雨,用十指化解黑灰产的恶行。

他们默默守护着千万用户。他们,被称为“安全人”。


我们被 AI“计算”,同时也被 AI“算计”

2018 年,腾讯守护者计划安全团队在工作中遇到过一个特殊的黑产团伙,该团伙在相关的攻防场景里,用了当时颇为流行的 Caffe 深度学习框架和卷积神经网络,这使得他们同其他竞争者相比攻击效率有了数倍的提升。

AI 技术如此齐整整地用于黑产,这是国内首例!

尽管这个黑产团伙后来被及时打掉,但这也让安全从业者意识到一个事实——

AI 技术,必将是安全战场攻防两端的兵家必争之地。

此后,腾讯安全朱雀实验室开始在 AI 安全方面做大量细致、深入的探索,他们的研究和实践主要覆盖四方面:

(1)AI 技术本身的安全性。

(2)AI 技术可能被攻击利用的地方。

(3)AI 技术为防守助力。

(4)AI 技术之以攻促防,攻防联动。


AI 安全前沿技术,终于立地成书

经过一年多打磨,国内首部揭秘 AI 安全前沿技术图书——《AI 安全:技术与实战》于 2022 年金秋十月重磅上市。



腾讯安全


腾讯安全平台部掌舵人杨勇(coolc)说:

“我们走过一些弯路,也有过一些收获。

我们参考了很多前辈和行业专家的经验成果,也分享过一些小小的发现。而正是在这个探索过程中,我们意识到,前辈们的探索经验和研究成果,为我们所进行的安全研究工作带来了诸多的便捷性。

本着继承和发扬前辈们的开放、协作和共享精神,我们也将工作中的点滴进行了总结与归纳,把研究历程中的一些经验沉淀下来形成这本书。


这本书,讲什么

本书的重点锚定在 AI 安全发展的通用技术上。

从实际应用场景的视角出发,对各类攻击方法及其技术原理进行了分析,并详细介绍了基于不同算法和数据实验的实现过程和案例总结,助力提升 AI 技术的安全性!


这本书,作者是谁

作者团队——腾讯安全朱雀实验室



朱雀实验室专注于 AI 安全技术研究及应用,围绕对抗机器学习、AI 模型安全、深伪检测等方面取得了一系列研究成果,议题入选 CVPR、ICLR、CanSecWest、HITB、POC、XCon 等国内外顶级会议,面向行业发布了业内首个 AI 安全威胁风险矩阵,持续聚焦 AI 在产业应用的安全问题,助力 AI 安全技术创新。


上市即霸榜

《AI 安全:技术与实战》蝉联榜首 25 天

京东计算机安全类目



这本书,亮点在哪

  • 技术最前沿

从 AI 自身安全性角度出发,揭秘对抗样本攻击、数据投毒攻击、模型后门攻击、预训练模型中的风险与防御、AI 数据隐私窃取攻击,以及 AI 应用失控等方面,以期提升 AI 技术的安全性。

  • 攻击方法和原理,详细拆解

  • 14 个精选实战案例,原汁原味呈现,一次读过瘾

  • 朱雀团队实战经验沉淀,带领读者深入学习和理解

  • 全彩极致设计,享受真实视觉体验



来自领域专家的评价

腾讯首席科学家、腾讯 AI Lab 和腾讯 Robotics X 实验室主任张正友说,

这本书凝聚了朱雀团队在 AI 安全技术的研究和实践中积累的多年经验,我相信这本书将对 AI 安全领域的研究人员和管理人员带来极大的帮助。

清华大学教授江勇说,

这本书从实际应用场景的视角出发,提供了包括代码在内的多个具有代表性的实战案例。相信本书提供的实战案例能够帮助读者更加快速、深入地了解人工智能安全的各项技术在实际应用场景下的具体部署和应用。

腾讯安全科恩实验室负责人吴石说,

这本书对于 AI 本身的安全问题做了一个全面的阐述与总结,系统化地对 AI 安全测试的方法做了细致的分类与讲解,具有很强的实用性。无论你是研究 AI,还是研究安全,这本书都有很高的价值。

阿里云安全负责人欧阳欣说,

攻与防永远是螺旋式上升的态势,“AI 安全”仅仅才是开始,我推荐本书给每一个安全从业者。除此之外,我一直认为最优秀的程序员一定懂得如何写出安全的代码。因此,我也推荐本书给每一位 AI 从业人员,一起致力于打造出安全的 AI。



来自读者的好评






内文抢先剧透





这本书,适合谁读

  • AI 领域研究人员、管理人员

  • AI 安全领域从业者

  • 想通过实战案例辅助学习的 AI 爱好者



最后,送给读者的彩蛋

01. 全书实战代码,全部送



02. 进入专属读者群,朱雀在线为你答疑



科技的力量让人类文明更加美好,

这一切离不开过去 20 年间网络安全从业者的苦心耕耘。


毕竟,

群星之所以闪耀动人,

是因为他们漫天交相辉映。


本书献给每一位网络安全从业者,

感谢你们的守护。




京东限时优惠,快快扫码抢购吧!

用户头像

还未添加个人签名 2019-10-21 加入

还未添加个人简介

评论

发布
暂无评论
独家!【隐秘而伟大】这群神秘的程序员,干了票大的_博文视点Broadview_InfoQ写作社区