TopOpenSourceAI
EN

#327 · 主分类： 教育与研究

Awesome-Jailbreak-on-LLMs

ai jailbreak llm llms privacy safety security vlm vlms

Awesome-Jailbreak-on-LLMs 是一个关于 LLM 上最新、新颖且令人兴奋的越狱方法的集合，包含论文、代码、数据集、评估和分析。

项目最后更新：08/10/26

在 GitHub 查看

GitHub Stars

1.6K

Forks数量

126

贡献者数量

50

许可证

MIT

收录理由

从事大模型安全、红队测试或对齐工作的研究者，能借助这份清单快速摸清模型被攻破的常见路径。它把学术论文按攻击方式整理成索引，覆盖黑盒、白盒、多轮、多模态以及针对推理模型的攻击，还单列了防御手段，比如护栏模型和内容审核接口。每篇论文都附有代码和数据集链接，省去在arXiv上零散翻找的麻烦。项目本身维护活跃，也接受外部贡献，社区可以持续补充新方法。对于正在评估护栏效果或搭建评测体系的人来说，这份资料能帮助追踪已知攻击向量和对应的防御方案。它属于研究参考资源，并非可直接部署的工具，更适合用来查阅方法、基准和后续引用的文献。

相关文章

暂无针对该项目的文章。

如需补充新闻资讯、使用教程、应用测评等内容，欢迎 联系我们推荐选题或投稿。

同类热门项目

prompts.chat

前身为 Awesome ChatGPT Prompts。分享、发现和收集社区提示词。免费且开源——可自托管，为您的组织提供完全隐私。

#1

JavaGuide

Java 面试 & 后端通用面试指南，覆盖计算机基础、数据库、分布式、高并发、系统设计与 AI 应用开发

#2

system-prompts-and-models-of-ai-tools

精选流行AI助手和编码代理的系统提示、内部工具和AI模型集合。

#3

30-seconds-of-code

编程文章，助你提升开发技能

#4

generative-ai-for-beginners

21节课，开始使用生成式AI构建

#5