ai

收录理由

对于想在移动端引入大模型能力、却又不愿自建推理服务的团队来说，这个库提供了一个真正可落地的端侧方案。它把 Apple 的 Foundation Models、用于 GGUF 文件的 llama.rn 以及 MLC 运行时统一封装成与 Vercel AI SDK 对齐的接口，Web 开发者可以把熟悉的调用方式直接迁移到 React Native，不必重新学习一套技术栈。除了聊天和文本生成，它还覆盖了嵌入（可支撑本地 RAG）、语音转写和语音合成，很适合离线优先或对隐私敏感的 App——用户数据不必离开手机。模型管理也做得很清晰：Apple 模型在 iOS 上开箱即用，而 GGUF 和 MLC 模型则需要显式下载（带进度反馈）并经过 prepare/unload 周期来管控内存。另外还附带一个可选的开发者工具分析器，能捕获 AI SDK 请求的 OpenTelemetry 追踪信息，方便团队在真实环境中排查移动端推理问题。