我们的研究成果《Enabling Resource-efficient AIoT System with Cross-level Optimization: A survey》已发表在IEEE Communications Surveys & Tutorials期刊上，为跨层优化提供了更广泛的空间。

1 引用格式

@article{liu2023enabling,
  title={Enabling resource-efficient aiot system with cross-level optimization: A survey},
  author={Liu, Sicong and Guo, Bin and Fang, Cheng and Wang, Ziqi and Luo, Shiyan and Zhou, Zimu and Yu, Zhiwen},
  journal={IEEE Communications Surveys \& Tutorials},
  year={2023},
  publisher={IEEE}
}

2  问题

1、模型压缩与系统调度技术虽可降低资源需求，但常需在模型精度与系统复杂性之间妥协，难以在所有场景中保持一致模型高精度和实时性。

2、现有跨层优化多针对特定系统层次，缺乏全面的协同优化框架，难以应对AIoT环境的动态性和多样性。

3、AIoT应用的动态性和异质性使得在不同设备间实现高效数据传输和任务调度，进一步提升系统效率，成为亟待解决的问题。

3 动机

1、AIoT设备激增导致分布式多模态数据增加，本地执行DL推理和训练任务可减少带宽消耗、降低延迟，并提升隐私保护。

2、现有DL优化技术多在单一层次进行，忽视跨层次潜力。我们旨在提出涵盖算法、系统和硬件的跨层优化框架，以提升AIoT系统资源利用率和整体性能。

3、AIoT应用动态复杂，通过设计上下文感知控制器，实现跨设备、跨层次的自适应优化，以满足不同场景的多样化性能需求。

4 跨层系统优化空间

# 步骤1: 用户输入
模型 = 解析DL程序(DL程序)  # 解析用户提供的深度学习程序
数据集 = 加载数据集()       # 加载AIoT数据集
资源限制, 性能目标 = 获取用户要求()  # 获取资源限制和性能目标

# 步骤2: 模型预训练
训练后的模型 = 训练(模型, 数据集)  # 使用数据集对模型进行预训练

# 步骤3: 分发模型到设备
统一模型 = 转换为统一格式(训练后的模型)  # 将模型转换为统一格式
分发到设备(统一模型, 设备列表)  # 将模型分发到各个AIoT设备

# 步骤4: 模型压缩与推理
for 设备 in 设备列表:
    压缩模型 = 应用压缩技术(统一模型, 设备)  # 选择并应用合适的模型压缩技术
    if 需要重训练(压缩模型):
        压缩模型 = 重训练(压缩模型, 数据集)  # 根据需要对模型进行重训练
    部署模型(压缩模型, 设备)  # 部署压缩后的模型到设备进行推理

# 步骤5: 编译与硬件优化
for 设备 in 设备列表:
    前端优化模型 = 前端编译优化(压缩模型)  # 进行平台无关的前端优化
    硬件优化模型 = 后端编译优化(前端优化模型, 设备)  # 进行平台相关的后端优化
    部署模型(硬件优化模型, 设备)  # 部署优化后的模型到设备

# 步骤6: 检查是否需要重训练
if 准确率下降(硬件优化模型):
    if 可在单设备上重训练(设备列表):
        更新模型 = 单设备重训练(硬件优化模型, 数据集)  # 在单个设备上进行重训练
    else:
        更新模型 = 分布式重训练(硬件优化模型, 数据集, 设备列表)  # 进行分布式重训练

# 最终部署更新的模型
最终部署(更新模型, 设备列表)

5 系统实用性

深度模型部署优化在智能家居、智能城市和智能工业等智能物联网场景中具有应用价值，如智能家居中的视频/语音识别与环境感知，智能城市中的交通流量预测与空气质量预测，以及智能工业中的产品缺陷检测和设备故障预警。

1、智能家居：在智能家居环境中，系统可用于视频和语音识别、环境感知等任务，实现家电的自动化控制，如窗帘开关和电视的开关操作。通过跨层次的整体优化，系统能够在资源受限的情况下高效推理，确保家居环境的智能化和便捷性。

2、智能城市：在智能城市中，需要交通流量预测、街道地图估测和空气质量预测等应用，这些功能对于城市的交通规划、信号灯调控和环境监测至关重要。由于智能城市系统涉及大量异构设备和广泛的物理分布，系统通过算法和底层系统资源的统一管理，实现了高效协作和资源的最优配置。

3、智能工业：在工业领域，系统被应用于产品缺陷检测、制造流程优化、预测性维护和设备故障预警等方面。为避免深度学习模型在工业AIoT中的碎片化问题，系统通过语义网络技术管理和整合TinyML模型与IoT设备，从信息建模到组件组合的发现，直至实现模型的交换和重用，促进了工业过程的智能化与自动化。

这些场景都依赖于资源高效的AIoT系统，通过算法与系统的跨层优化，实现资源友好的深度学习模型和模型自适应的资源调度，从而提升性能与资源的平衡。