首页 → / 核心技术 → / 端侧计算与模型适配

端侧计算与模型适配

把模型能力放到设备上,兼顾任务效果、运行资源和产品维护。

即合智能 AI 核心 / 端侧运行

视频与模型 → 设备侧任务分析

围绕目标硬件组织视频处理、模型运行与资源管理,按真实任务组合评估容量。

JIHE · TECHNOLOGY IN APPLICATION

设备 AI 技术架构

以端侧视觉能力为基础,持续研发面向设备的感知、任务判断与接口协同能力。

现场信息处理架构

现场信息处理架构
功能逻辑示意 · 具体能力与接口以产品配置为准

感知输入

视频提供目标、位置及变化信息。

任务组织

通过区域、时段和持续条件形成业务判断。

结果连接

将事件输出至人员通知、平台或适配设备。

PRODUCT & TECHNOLOGY

端侧计算与模型适配

把模型能力放到设备上,兼顾任务效果、运行资源和产品维护。

01明确任务输入、输出与指标02模型适配格式、量化与算子03硬件运行推理、内存与调度04现场评测效果、延迟与负载
模型进入端侧设备的工程链条 · 流程示意

通用计算与AI加速配合

CPU承担业务逻辑、接口和任务组织;适配的AI加速单元处理模型计算。视频接入、预处理、推理与规则之间需要协调,不能只用TOPS数字判断完整任务容量。

量化与转换需要效果复核

压缩模型与调整精度可以影响资源占用,也可能改变输出。转换后需要在代表输入上比较结果,并观察实际硬件运行情况。

并发容量由任务组合决定

不同模型、输入分辨率、分析频率与前后处理会形成不同负载。选型时围绕实际组合评测,不把视频接入数量直接当成所有算法并发数量。

围绕交付硬件确定能力

旧资料涉及不同算力与处理器描述,需要与BOM和板卡版本对应。型号明确后再确认内存、接口、散热与安装条件,形成可维护的交付配置。