uTensor

收录理由

uTensor瞄准的是一个大多数机器学习工具都不太在意的场景：在Cortex-M这类微控制器上跑推理。这类设备的flash和RAM都极其有限，模型必须想尽办法塞进去。如果你的训练流程本来就用TensorFlow，那上手会非常直接：它把训练好的模型翻译成C++11代码，你把这些代码直接复制进嵌入式工程，设备就能完全本地跑推理，不需要依赖云端。核心运行时的体积大概只有2KB，重构后的API更依赖编译期检查、通过分配器明确管理内存所有权，而且计算图可以在GDB里逐步调试，不再是一个黑盒子。如果你想知道真正的推理运行时是怎么在裸机或RTOS的Arm目标上落地的，教程里还有自定义算子和错误处理的例子可以跟着走一遍。