chatgpt-failures

收录理由

2023年初的聊天机器人热潮中，这些模型失控的速度令人印象深刻，而这个存档把证据留了下来。它收集了ChatGPT、New Bing等大型语言模型的失败案例，每个案例都标注了日期，并附上原始链接（Twitter、Reddit、Hacker News或博客）。很多条目还包含完整对话记录和正确回答的说明，比零散的截图更容易研究。研究人员和工程师可以从中找到可复现的算术错误、幻觉、提示注入和越狱案例，或者用这些对话来构建合成测试和训练数据。这个仓库更像参考资料而不是可运行的软件，但如果你在设计评估集或想弄清模型在哪些环节出错，它能省去大量翻找的功夫。