关键词：
人工神经网络
轻量级神经网络
二值化神经网络
卷积神经网络
迁移学习
压缩优化
嵌入式系统
健康医疗
摘要：
人工神经网络(Artificial Neural Network,ANN),又称类神经网络,是一种模仿中枢神经系统(特别是大脑)而设计的网络结构和计算模型,用于对函数进行估计或近似,在深度学习和认知科学领域引起了广泛关注。ANN具有分布式存储的特点和良好的容错性,在结构上是并行的,网络的各个单元可以同时进行平行而又有层次的信息处理,因此网络的处理速度较快。ANN在大多数情况下可以根据外部信息的刺激来改变内部结构,拥有良好的自学习、自组织和自适应功能。在人工智能感知领域,ANN可以模拟人脑做出简单的决策和判断,比传统的逻辑推理演算更有优势。正是因为这些特点,ANN发展迅速,应用领域越来越广,解决实际问题的能力也越来越强。
ANN由大量的人工神经元联结进行计算,大型的ANN参数多、占用内存大并需要大量计算资源,通常需要使用昂贵的GPU进行计算,这限制了ANN在计算资源有限的健康医疗辅助系统上的潜在应用。为解决这个问题,存在着两种解决方案:一种是增加硬件设备的计算能力,即提高医疗辅助系统设备的CPU和内存性能;另一个解决方案是压缩优化ANN获得轻量级神经网络结构从而适用于健康医疗辅助系统。然而,压缩优化ANN会牺牲识别准确率等性能。因此,轻量级神经网络应用到健康医疗辅助系统仍然是一个挑战。针对这些问题,本文将对轻量级神经网络展开研究,并在健康监护(人体姿态识别)、阿尔兹海默病识别和膝盖韧带损伤识别等健康医疗数据分析领域进行测试与验证。本文的主要研究工作包括以下四个方面:
1.提出了一种适用于可穿戴嵌入式系统的人体姿势识别方法,可用于健康监护系统。该方法采用反向传播神经网络和二值化神经网络对人体姿势进行识别分类。二值化神经网络是基于反向传播神经网络将突触权重和激活值量化为+1或-1而得到的压缩优化模型,本文在二值化神经网络的性能和成本之间实现了较好的平衡。
2.将反向传播神经网络和二值化神经网络部署在嵌入式系统上。在实验中,反向传播神经网络和二值化神经网络运行在Raspberry Pi 3的嵌入式设备上,对人体姿势进行识别。结果表明,与反向传播神经网络相比,二值化神经网络可以在分类精度和成本(包括所需的计算资源、功耗和处理时间)之间取得更好的平衡,实验结果表示,二值化神经网络更适合应用于健康医疗数据分析系统。
3.提出了一种用于阿尔兹海默症分类的深度可分离卷积神经网络模型。在这项工作中,深度可分离卷积被用来代替传统的卷积,与传统的神经网络相比,该神经网络的参数和计算负担大大减少。由于该网络参数较少、网络计算量也较少,因此所研究的模型适用于资源有限的医疗辅助诊断系统。实验结果表明,在用OASIS核磁共振成像数据做训练和测试时,深度可分离卷积算法在阿尔兹海默症分类检测任务中表现良好,在模型性能与模型的参数、计算量之间取得了良好的平衡。
4.提出了一个基于迁移学习的神经网络模型用于检测人体膝盖中前交叉韧带损伤。将预先训练好的神经网络模型的特征提取模块用于本工作所设计的神经网络模型中,然后用3D膝盖磁共振图像数据集进行训练,以检测轻度膝关节前叉韧带损伤(不需要手术治疗)和完全膝关节前叉韧带破裂(需要手术治疗)。实验结果表明,本工作设计的网络模型比传统的机器学习模型更加智能化,性能也更好。
