LHAR: Lightweight Human Activity Recognition on Knowledge Distillation

基于传感器的人体活动识别(HAR)广泛应用于日常生活中，是通往虚拟医疗的基础桥梁。目前面临的挑战是智能可穿戴设备上个性化用户的识别准确率较低。有限的资源无法支持本地更新的大型深度学习模型。此外，将传感器数据整合并传输到云端会降低效率。考虑到性能和复杂性之间的权衡，我们提出了一个轻量级的人类活动识别(LHAR)框架。在LHAR中，我们将跨人员HAR任务与轻量级模型任务结合起来。LHAR框架是基于师生结构设计的，学生网络由多个深度可分离的卷积层组成，以实现更少的参数。从复杂教师模型中提炼出的暗知识增强了LHAR的泛化能力。为了实现有效的知识蒸馏，我们提出了两种优化方法。首先，我们通过集成学习来训练教师模型，以提升教师绩效。其次，针对数据集的多样性，提出了一种多通道数据增强方法，即集成教师模型的插件操作;在实验中，我们将LHAR与现有模型进行了对比评估、烧蚀研究和超参数分析，证明了LHAR在效率和有效性方面具有更好的性能