giskard-oss

收录理由

对于正在交付LLM智能体、RAG流水线或单一模型端点的团队来说，这是一条在功能触达用户之前检查其行为的务实路径。它把编写评测的校验包和自动生成对抗性测试用例的扫描层组合在一起，覆盖提示注入、越狱、有害内容以及其他OWASP LLM Top-10威胁。评测侧从简单的断言延伸到基于LLM裁判的接地性和一致性检查，能够应对非确定性输出；扫描侧则帮助你针对已知故障模式进行红队演练，而不必逐条手写攻击样本。v3重写采用模块化和异步优先的设计，你只需引入自己需要的部分，也可以将任意可调用对象包装为被测目标。如果你希望将评测与安全测试整合进一个可通过pip安装的包，而不是在多个工具之间来回切换，这是一个可靠且维护活跃的起点。