Awesome-AI-Security

收录理由

机器学习系统的安全防护资料散落在各处：治理框架、提示注入数据集、扫描工具往往分属不同角落，查找起来颇为费力。这份清单把零散的线索整理成一份可浏览的索引，分门别类覆盖最佳实践与控制、测试与评估、攻防矩阵以及数据集等板块，与其说是一堆书签，不如说是一个便于上手的起点。安全工程师和AI平台团队可以借此判断该参考哪些标准，或针对特定的威胁模型尝试哪些开源工具。真正宝贵的是编纂的功夫：每个栏目都指向团队实际引用的权威材料，从NIST的AI风险管理框架到OWASP的LLM验证指南，让人快速了解行业现状。需要注意，这是一份外部资源的目录，并非可直接运行的工具，把它当作规划辅助，再顺藤摸瓜找到具体框架或工具即可。