ps-fuzz

收录理由

系统提示词是生成式AI应用里最容易被忽视的测试盲区，ps-fuzz却把它当作真正的攻击面来对待。它会用动态的、由大模型驱动的攻击方式对提示词进行压力测试，覆盖越狱、提示注入、RAG与向量数据库投毒、系统提示词提取等场景，并反馈提示词在这些攻击下的表现。测试并非发送千篇一律的载荷，而是根据你的应用领域和配置进行自适应调整，因此结果能真实反映你当前系统的状况。你可以通过交互式界面或命令行批量运行，支持包括Ollama自托管端点在内的多种大模型供应商。内置的聊天试验场允许你修改提示词后重新执行攻击，直到薄弱环节被修复，在上线前就能直观看到改进效果。