ONNX(Open Neural Network Exchange)是一种通用的机器学习模型格式,支持 一次训练,多端部署。通过 ONNX,可以将使用 PyTorch、TensorFlow 训练的模型,高效地运行在 Android、iOS 以及 React Native、Flutter 等跨平台移动框架 上。 本文以 React Native 为核心,系统性介绍如何在移动端使用 ONNX,并进一步说明 端侧 AI(On-device AI) 与 本地大模型(Local LLM) 在实际业务中的价值。
Read More
