TinyML边缘计算在高校人工智能专业实验教学中的应用研究

摘要：人工智能作为新工科专业之一，是引领新一轮科技革命和产业变革的战略性技术，必须与产业深度融合发展。TinyML是人工智能领域前景较好的新兴技术，将其融入专业实践教学符合新工科人才培养的要求。本文介绍了TinyML技术特点，分析其在高校人工智能专业实践教学中的应用前景。

关键词： TinyML边缘计算；人工智能专业；实践教学

随着人工智能在技术与应用方面取得了巨大的进展，行业热门已经从大数据快速转变到人工智能领域。教育部2019年设立本科人工智能专业后，各大高校紧跟时代发展，纷纷设立人工智能专业。截至2022年，我国有400多所本科院校开设了人工智能专业。人工智能专业涉及很多学科分支，主要包括机器学习、数据挖掘、计算机视觉、自然语言处理、心理学、脑科学、语音识别、数字信号处理等等。近年来，TinyML（微型机器学习）技术取得广泛应用，使得边缘计算的业务颗粒变得更小，甚至下沉到物联网设备，大大扩展了边缘计算的应用场景和市场纵深。作为一门实践性很强的学科，高校人工智能专业实践内容也要贴近行业实际，关注技术发展动向，TinyML技术能将机器学习、边缘计算和物联网应用有机融合，能极大丰富教学实践内容。

一、TinyML技术简介

TinyML是一个新兴领域，是快速增长的机器学习技术和应用，未来的万物互联时代，基于超低能耗微控制器的人工智能终端借助各种传感器，将人工智能覆盖到世界每一个角落，激发出超乎想象的TinyML应用场景。人工智能行业是下一个最具商业前景的发展方向。

（一）TinyML的概念

TinyML（tiny Machine Learning），是在终端和边缘侧的微处理器上实现的机器学习过程，即微型机器学习。TinyML是指超低功耗（毫瓦量级）的边缘侧机器学习应用，需要硬件、软件和算法的整体性协同实现，涉及软件、工具、算法、硬件、专用集成电路（ASICs）、半导体制造等。

（二）TinyML的特点

TinyML 算法的工作机制与传统机器学习模型几乎完全相同，通常在用户计算机或云中完成模型的训练。训练后处理是 TinyML 真正发挥作用之处。TinyML 的出现，是为了更好地缓解边缘 ML 和云端 ML 中，解决了长期困扰人工智能领域的数据隐私、网络时延以及能耗等问题。TinyML尝试在物联网设备上，直接处理和分析受限的敏感数据，避免敏感数据被云计算平台收集，保护了个人隐私和数据安全。很多应用场景都对时间延迟非常敏感，例如自动驾驶就对系统响应时间要求极高。TinyML可以将某些机器学习任务下放到终端设备，来减少终端与云端的数据交互，从而降低甚至是完全消除了对外部通信的依赖，从而解决本地终端延迟问题。许多物联网终端都是移动便携设备，对于功耗的要求很高。通过降低设备性能，优化算法，减少网络传输的能耗，TinyML的基础运行能耗能降到毫瓦级。

（三）TinyML的关键技术

随着物联网应用的普及，使用微型控制器处理在超低功耗下运行特定机器学习项目的需求日益显现。TinyML主要优势在于超精简高效的机器学习算法带来的超低硬件资源消耗，其关键技术在深度学习和MCU芯片开发。深度学习的概念源于人工神经网络的研究，含多个隐藏层的多层感知器就是一种深度学习结构。是通过构建具有很多隐层的机器学习模型，对采集的数据进行大量的数据模型训练，不断提取出更有价值的目标特征，最终提升分类或预测的准确性，从而形成机器“推理”能力。研究深度学习灵感来自模拟人脑的工作原理，进行知识学习、数据分析和归一化处理。传统的机器学习模型一般都是部署在算力庞大的数据中心，对算法模型规模不敏感。将人工智能植入到MCU，需要通过基于神经网络的深度学习对模型进行深度压缩。

实现TinyML的核心器件是MCU，为了降低能耗，MCU牺牲性能，将计算单元做得非常小巧，并且通常集成Wi-Fi和蓝牙等通信模块。MCU大多数采用单核或双核CPU，主频在50MHZ到200MHZ之间，内存不超过512K。低性能特性降低了芯片的设计和生产难度，提高运行稳定性。由于MCU性能远不及PC，虽然能满足当前大多数物联网应用，但无法应对低功耗、高性能的人工智能发展趋势。现有ARM架构的MCU芯片无法同时实现低能耗和高性能，需要寻找芯片技术上的突破。神经形态计算芯片有望解决这一难题，这是模拟大脑生物过程的计算硬件理念，这类芯片通过模拟电路实现人脑神经形态计算，减少了大量模数转换过程，能提高性能和电源效率。这项新技术目前已经较为成熟，一旦普及将带来人工智能终端甚至行业的变革。

二、基于TinyML技术的边缘计算应用

（一）行业应用

在即将到来的萬物互联时代，各行各业都争相加入网络化、数字化、智能化的变革之旅。TinyML技术的普及，极大推进了人工智能终端的小型化、低能耗的发展速度。目前，TinyML技术在智能家居领域已经得到了广泛应用，例如智能空调、智能门锁和智能音箱都植入了TinyML控制模块，极大降低设备空闲的能耗，并使用智能算法和传感器技术，实时监控外部触发条件，根据设定快速唤醒设备。在工业制造领域，TinyML也有望大量的节能和安全管理问题。另外，医疗监测诊断设备也可以变得更便携和廉价，各类偏远或野外电池供电设备也能增加有效续航时间。

（二）应用案例

智能手机通过音频识别唤醒屏幕是TinyML技术应用的经典案例，例如苹果手机的“嘿 Siri”唤醒功能。智能手表中抬手亮屏也是用了TinyML技术，用人工智能算法对抬手运动识别，与其它大量的手臂运动进行区分。图像手势识别应用案例也比较多，例如用手势控制的水龙头。在疫情管控方面，技术人员使用了TinyML终端对公共场所进行咳嗽检测。对TinyML应用案例多数来自节能的需求，特别是非连续工作设备空闲状态的低能耗工作模式。

三、TinyML技术与人工智能专业的关系

（一）优化课程结构

为主动应对新一轮科技革命与产业变革，支撑服务创新驱动发展、“中国制造2025”等一系列国家战略。人工智能专业作为新工科专业之一，要积极引入工程教育的新理念、学科专业的新结构。TinyML 是机器学习和嵌入式 IoT 设备的交叉领域，是一门新兴的工程学科，具有革新许多行业的潜力。在课程设置上应紧跟时代脉搏，关注行业技术应用前沿，将发展前景较好的新技术融入课程体系中去，输入新鲜的血液，使专业建设始终紧跟行业发展。

（二）相关实验设施成本较低

TinyML是基于MCU的技术，继承了传统单片机的所有优点，其推广优势就是理论上的低成本。传统基于云的机器学习，通常需要规模庞大的高算力性能硬件投入，例如谷歌、亚马逊、阿里等行业巨头都在云计算上投入了惊人的算力资源。而TinyML的边缘终端通常价格低廉，可以减少教学成本上的投入。

（三）与现有课程关系密切

TinyML并不是学科上的创新，而是应用场景和一系列技术以及工具的创新。它是人工智能的一个分支，是边缘计算思想极致体现。不管是云ML，边缘ML，还是TinyML，其基本原理都是一致的，区别在于执行单元的规模和位置。算力单元从云端下沉到用户侧最后到边缘设备，这些边缘设备在内存、计算和功能方面都高度受限于设备自身的资源，进而需要研发更为高效的算法、数据结构和计算方法。TinyML是跟嵌入式技术紧密结合的，与各行各业深入融合，衍生出大量终端应用场景的解决方案，拓展了人工智能应用的范围。将TinyML引入工人智能专业实践，不仅能普及新技术，丰富项目实践内容，还能提高专业趣味性。

四、实践教学应用

（一）课程融合

TinyML并不是基础理论的创新，更多的学科交叉的应用，因此在理论教学中更多的是将边缘计算的理念深化，讲解关键技术。在实践教学内容应该紧跟技术发展前沿，力求解决当前行业痛点难点。在不开设新专业的情况下，可根据实际情况将TinyML融入专业课程中（如表1所示）。

（二）课堂实验案例设计

人工智能是实践性很强的专业，实验教学是重要环节之一，基础案例设计要注重基本原理和通用技术应用，TinyML实验过程通常涉及数据采集、模型训练、模型转换、模型载入等步骤，每个步骤都需要一定的技术指导。课堂实验更注重实验步骤（如表2所示）指导，教师引导，使学生初步掌握常见方法和工具。

（三）实践项目开发

TinyML优势在低能耗要求的边缘计算领域，虽然理论上可以将传统云端的机器学习算法模型移植到本地，但需要经过修剪、压缩等复杂过程才能适配到性能受限的终端。通过开放式项目实践，鼓励学生独立思考，解决实际问题，更好地理解这一过程和意义。

实践项目案例通常围绕经典案例或者贴近生活的场景开发，通常提出项目要求，不限定实现方式。可以根据项目类型定制实验开发板，也可以用市场上成熟开发板进行案例教学。常见开发板基于各类主流MCU设计，包括STM32系列、ATMega328P系列、ATSAMD51系列、HaaS系列、ESP32系列以及等。目前，TinyML最常用的兩个领域是关键字发现和视觉唤醒词，另外安防监控也开始大量应用。例如基于阿里云HaaS EDU K1开发板（如图1所示）进行语音唤醒实验，语音唤醒已经广泛用于手机、智能音响等领域。

本实验项目主要步骤是语音数据采集，数据集创建、模型训练、模型部署和结果验证。整个过程需要应用很多软硬件工具和技术，比如KWS Demo、jupyter notbook、TFLite-Micro等软件工具，以及一些周边传感器。开放式的项目实践需要学生有一定基础，能自主搭建开发环境，用各自擅长的方法和技能去实现项目要求。

（四）探索教学新方法

教育部推出的“新工科”计划强调了教育新理念、教学新方法，以应对日新月异的技术发展。TinyML是一门新兴技术，教学资源非常有限。因此，积极尝试并推广关联学习、去中心化学习、非正式学习、想象学习等新型学习方法，搭建开放式的人工智能综合实践平台，形成多元化、差异化学习个体与群体。鼓励学生实时关注行业发展，及时将先进的理念和优秀的解决方案融入教学活动，去中心化的非正式学习有利于学生发挥特长，实现差异化发展。由于新工科领域往往是国家战略和社会经济关注的热点，人工智能相关的学科竞赛水平以及行业认证的含金量都逐年提高，为新工科专业建设提供了优质的资源和目标导向。通过竞赛和行业认证对学生进行差异化、个性化培养，是一项非常有效的措施。竞赛往往自带学科方向，通过不同学科竞赛，竞赛小组间的学科方向差异，潜移默化中形成学生的专业方向，能提早明确职业生涯规划。行业认证代表行业对该专业方向人才的技能需求，通过行业认证能评估教学成效，使学生更贴近行业需求和新动向，有针对性地学习行业知识和技能，快速养成职业化思维。学科竞赛和行业认证都是推动教学改革，检验教学成果的有效方式，要充分利用，在不断摸索中调整和完善教学理念和方法。

五、结束语

人工智能专业起初只是计算机科学的一个分支，发展到现在已经远远超出了计算机科学的范畴，呈现出了多向交叉学科的特征。人工智能领域知识更新快，新技术应用层出不穷。高校实践教学可以不断获取更多前沿的理念和案例，但也面临教学改革、方向选择等诸多挑战。新兴专业建设需要预测行业发展的热点，评估新技术的前景，选择有代表性的新技术纳入课程体系，应用于实践教学。

作者单位：张增 杭州电子科技大学信息工程学院

参  考  文  献

[1]张先超，任天时，赵耀，等.移动边缘计算时延与能耗联合优化方法[J].电子科技大学学报，2022，51（05）：737-742.

[2]刘旭瑶，曾天凯，戴嘉庆，等.基于Tiny ML轻量化边缘侧处理的智能分类垃圾桶[J].装备制造技术，2022（06）：110-113.

[3]C.J.Abate，君谦.什么是tinyML？[J].单片机与嵌入式系统应用，2021，21（08）：1-3.

[4]C.J.Abate，禾沐.机器学习的未来——Daniel Situnayake访谈[J].单片机与嵌入式系统应用，2021，21（06）：1-3，6.

[5]Markus Levy.MCU上的深度学习是边缘计算的未来[J].中国电子商情（基础电子），2020（08）：42-45.

[6]周钰致. 边缘计算环境中低时延高可信显示芯片的研究与设计[D].中国科学技术大学，2020.

[7]饶伟. 基于LORA无线通信技术和MQTT协议的电力环境监测系统的研究与设计[D].深圳大学，2020.

[8]宋正阳. 校园安全态势感知与自动报警系统设计与实现[D].海南大学，2020.

基金：杭州电子科技大学信息工程学院2022年科研培育基金项目（KYP0222010）。

张增（1986.08-），女，汉族，湖北随州，硕士研究生，助理实验师，研究方向：人工智能，实验室管理。