滴滴开源AoE:一种快速集成AI的终端运行环境SDK

桔妹导读:随着人工智能技术快速发展,这两年涌现出了许多运行在终端的推理框架,给开发者带来更多选择,但也同时增长了将 AI 布署到终端的成本。除了要作推理框架选型,还须要关注数据预/后处理逻辑的稳定性,模型分发使用时的包大小、数据安全等问题。本文将带着这些常见的AI终端侧落地的问题,讲解AoE背后的设计初衷和思路。javascript 1. 背景 ▍AoE是什么 AoE (AI on Edge) 是
相关文章
相关标签/搜索