#6 · 主分类: LLM应用框架

pathway

batch-processing data-analytics data-pipelines data-processing dataflow etl etl-framework iot-analytics kafka machine-learning-algorithms pathway python real-time rust stream-processing streaming time-series-analysis

用于流处理、实时分析、LLM管道和RAG的Python ETL框架。

项目最后更新:08/29/26

GitHub Stars

62.4K

Forks数量

1.7K

贡献者数量

41

许可证

Other

收录理由

Pathway 面向那些分析和 AI 工作必须对最新数据做出即时响应的团队。它是一个 Python 框架,用于构建处理实时数据流的管道,并且可以用同一套管道同时处理批量和流式数据,无论数据来自 Kafka 事件流、物联网传感器还是时序数据源。底层由 Rust 引擎驱动,能够管理增量更新和乱序事件。它还内置了专门的 LLM 工具,可以构建 RAG 管道和对非结构化数据的检索,且无需手动重新索引就能保持数据最新。对于希望用一个框架同时搞定实时 ETL 和 AI 功能、而不想拼凑多套流处理和机器学习组件的开发者来说,这非常合适。如果你的工作负载主要是静态的批量任务,用更简单的工具就够了;但如果是需要持续喂给分析或模型的实时数据,Pathway 值得认真考虑。

相关文章

暂无针对该项目的文章。

如需补充新闻资讯、使用教程、应用测评等内容,欢迎 联系我们推荐选题或投稿。

同类热门项目