#195 · 主分类： MLOps与评测
OpenAttack
一个用于文本对抗攻击的开源工具包。
项目最后更新：07/20/23
GitHub Stars
777
Forks数量
128
贡献者数量
22
许可证
MIT
收录理由
OpenAttack 是一套面向文本分类器的 Python 工具包，专门用来检验模型被欺骗的难易程度。它把对抗攻击的完整流程都串了起来：从文本预处理、与目标模型交互，到生成扰动样本、评估攻击效果，你可以在自己已有的模型上直接运行成熟的攻击方法，无论是微调过的 Hugging Face BERT，还是自行封装的自定义分类器，都能接入。工具内置了多种攻击基线和受害模型，同时支持英文和中文，想快速获得一个鲁棒性基线时，不必从头编写攻击代码。它生成的对抗样本还能用于对抗训练来加固模型，因此这个包更像一个研究与评估的通用工具，而不只是临时用一次的脚本。
相关文章
暂无针对该项目的文章。
如需补充新闻资讯、使用教程、应用测评等内容，欢迎 联系我们推荐选题或投稿。
同类热门项目
unsloth
本地UI，用于运行和训练LLM及扩散模型。支持GGUF、MLX、Qwen3.8、Kimi K3、MiniMax-H3、Gemma 4、FLUX等。
LlamaFactory
统一高效微调100+大语言模型与视觉语言模型（ACL 2024）
airflow
Apache Airflow - 一个以编程方式编写、调度和监控工作流的平台
langfuse
🪢 开源AI工程平台：LLM评估、可观测性、指标、提示管理、游乐场、数据集。与OpenTelemetry、LangChain、OpenAI SDK、LiteLLM等集成。🍊YC W23
netron
神经网络、深度学习和机器学习模型的可视化工具