#114 · 主分类： 教育与研究
OpenMythos
基于现有研究文献，从第一性原理出发对Claude Mythos架构的理论重建。
项目最后更新：05/23/26
GitHub Stars
14.9K
Forks数量
3.3K
贡献者数量
1
许可证
MIT
收录理由
OpenMythos 把前沿模型讨论中反复出现的循环深度 Transformer 构想，落成了可运行的 PyTorch 代码。项目用 Prelude 堆叠 transformer 块，中间是共享权重的循环块，最后接 Coda，注意力可在 MLA 与 GQA 间切换，前馈层采用带路由和共享专家的稀疏 MoE。作者明确说明这是基于公开研究的理论重建，并非预训练模型，因此更适合当作学习工具和实验沙盒，而非生产级软件。参数规模从 1B 覆盖到 1T，附带的训练脚本能让你在自己的硬件上尝试计算自适应、深度可变的推理方式。想直观感受单次前向传播内部循环机制如何运作，这里是一个具体的起点。
相关文章
暂无针对该项目的文章。
如需补充新闻资讯、使用教程、应用测评等内容，欢迎 联系我们推荐选题或投稿。
同类热门项目
prompts.chat
前身为 Awesome ChatGPT Prompts。分享、发现和收集社区提示词。免费且开源——可自托管，为您的组织提供完全隐私。
JavaGuide
Java 面试 & 后端通用面试指南，覆盖计算机基础、数据库、分布式、高并发、系统设计与 AI 应用开发
system-prompts-and-models-of-ai-tools
精选流行AI助手和编码代理的系统提示、内部工具和AI模型集合。
30-seconds-of-code
编程文章，助你提升开发技能
generative-ai-for-beginners
21节课，开始使用生成式AI构建