第 10 期 | GPTSecurity 周报

GPTSecurity 是一个涵盖了前沿学术研究和实践经验分享的社区，集成了生成预训练 Transformer（GPT）、人工智能生成内容（AIGC）以及大型语言模型（LLM）等安全领域应用的知识。在这里，您可以找到关于 GPT/AIGC/LLM 最新的研究论文、博客文章、实用的工具和预设指令（Prompts）。现为了更好的知悉近一周的贡献内容，现总结如下。

Security Papers

🔹DiverseVul: A New Vulnerable Source Code Dataset for Deep Learning Based Vulnerability Detection

https://arxiv.org/pdf/2304.00409.pdf

🔹FLAG: Finding Line Anomalies (in code) with Generative AI

https://arxiv.org/pdf/2306.12643.pdf

🔹In ChatGPT We Trust? Measuring and Characterizing the Reliability of ChatGPT

https://arxiv.org/pdf/2304.08979.pdf

🔹Explore, Establish, Exploit: Red Teaming Language Models from Scratch

https://arxiv.org/pdf/2306.09442.pdf

🔹Tenable 的报告展示了生成式人工智能正在如何改变安全研究   

https://venturebeat.com/security/tenable-report-shows-how-generative-ai-is-changing-security-research/

🔹挖掘 AIGC 军火产业链，颠覆巨头的机会和风险    

https://mp.weixin.qq.com/s/bVQYT0QqueGyLwPAppDRtg

🔹增强 ChatGPT 等安全性，大语言模型界的“安全管家开源了！ 

https://mp.weixin.qq.com/s/PeuNht95WVJbJ8hiOOrSoA

Security Tools

 🔹gpt3-and-cybersecurity

简介：Sophos 使用 GPT-3 进行命令分析和垃圾文本监测。

链接：https://github.com/sophos/gpt3-and-cybersecurity  

🔹CalypsoAI Moderator

简介：CalypsoAI Moderator 针对数据丢失、恶意代码、越狱和幻觉等安全风险进行防护。

链接：https://calypsoai.com/