分享好友 最新动态首页 最新动态分类 切换频道
AI轻量级模型的工程化实现方案解析
2024-12-27 04:53

 

AI轻量级模型的工程化实现方案解析

引言: 从 GPT 模型说起

23 年科技界最大的热点,无疑是自然语言处理的 GPT 模型,起初有人还对 ChatGPT 不屑一顾,质疑其缺乏独立思考,考试成绩不好。结果新 GPT-4 模型,在律师资格考试成绩排名前 10%,在 SAT 数学考试中排名前 11%。这些成绩背后的分析综合、逻辑推理、归纳总结,不正是父母们煞费苦心,给人类幼崽们培(灌)育(输)的能力吗?

一、大模型,还是小模型?

然而巨型自然语言模型成功背后,也是以惊人算力为代价的。据 Semafor 披露, GPT-4 语言模型有 1 万亿模型参数。巨型模型有其固有特点:

01

海量数据集

海量模型参数,就需要海量的训练数据。海量数据的采集、标注成本高昂。这也是为什么之前的巨型模型,大都源于像谷歌、微软等方便获得海量数据的互联网/科技巨头。

然而“足够”的数据,在很多医疗领域是不存在。如罕见先心病,Ebstein 异常三尖瓣畸形,6000 多万人口的意大利,一年只有 30 例左右。且临床致病因素复杂、隐私保护、壁垒等种种原因,医疗领域并没有像互联网一样,唾手可得且标注完善的海量数据集。多数需要解决的问题,恰恰是如何在小型数据集上,高质量解决实际临床应用。

02

落地部署

GPT-4 语言模型据说有万亿级模型参数,一旦大规模实际部署,将是惊人的算力成本。高昂的算力成本,也许对 NVIDIA 是好消息,对 AI 医疗设备落地推广却未必。因此真正有应用前景的医疗设备,不仅仅要做得出来(模型精度),更重要的是用得起(轻量级模型)。

而轻量级模型的低算力成本、低功耗、低延迟特性,则明显便于小型便携医疗设备的实现,无论是医院临床应用,还是对于术后家用监护,都是最佳选项。如心电监护、呼吸监护、哮喘监测、可穿戴设备、脑机接口等医学信号处理应用,轻量级模型都更便于部署和使用。

综上,AI 在医学信号处理中的应用落地来说,有很不同的需求差异,即小型数据集以及轻量化模型的部署。也因此,吴恩达这位来自斯坦福的 AI 大咖,近年来致力于 AI 的落地,一改前十几年中在谷歌、百度的思路,即以模型为中心,模型越来越大,越来越复杂的倾向;开始推广轻量级落地 AI(Unbiggen AI)。去解决大多数实际工程化落地应用中,真正要面对的“小数据集”(small data)问题【1】。

二、轻量级模型的工程化实现

简洁,并不简单。比如,AI 业内,大家传统认为模型精度会随数据集增大,也一起提高。而当数据集有限时,如何持续优化模型,使其具备不亚于巨型模型的精度?再比如,小数据集通常的过拟合问题,如何解决?

实际上,如果仅仅是进行纯学术研究,使用完善的开源数据集,那么仅需要关注模型本身。但如果要做的是 AI 模型的工程化实现,则与纯学术研究不同,AI 工程化实现的性能,并不仅仅由模型本身决定(下图中紫色框)。而是由从左到右的四个过程共同决定的,这也是为什么若只关注模型本身的优化,不断用更大规模、更复杂到的模型,其结果往往是逼迫拥有海量参数的模型在旧数据集上,以死记硬背的方式记住“正确答案”;而在新数据集就差强人意。

   

对于数据集准备、模型开发和部署实现,MATLAB 中提供了系列的自动化 APP,可以帮助大家以高度自动化的方式,快速完成耗时费力的数据集标注、模型的快速搭建和训练、模型的裁剪和量化、嵌入式代码生成等,具体内容,大家可以参考这里的介绍:将深度学习用于信号处理【2】和创建标注数据来训练和验证模型【3】。

三、轻量化模型的点睛之笔——预处理及特征提取

本文将主要关注于预处理及特征提取。临床实际应用情况千变万化,难以想象一台临床医疗设备,监测分析的结果飘忽不定、忽好忽坏。而预处理及特征提取,这个部分恰恰为工程化实现,提供了重要的鲁棒性;而信号特征的提取,将稀疏、复杂的原始数据进行提炼,尤其投影在变换域上,得到精干的描述,这才使轻量级 AI 模型的使用成为可能

可能有小伙伴觉得,AI 时代了,应该是:

AI vs. Signal Processing

其实业内的成功案例,恰恰是各取所长,即:

AI + Signal Processing

让我们看两个成功实例,一个是 Respiri 开发用于喘息检测和哮喘管理(如下图)。他们将采集的喘鸣声,进行预处理转换为频谱图,然后分析频谱图,根据其能量模式和其他常见特征识别潜在的哮喘患者。

将复杂的哮喘预测和管理问题,转化为频谱图,并选取恰当特征,取得了四两拔千斤的效果。轻松在手持便携设备上实现,使哮喘监测,从医院临床走进千家万户,提高哮喘患者生活质量,同时也获得健康管理这个庞大的市场。

另一个例子(如下图),德州大学奥斯汀分校的脑机语言转化试验。希望帮助肌萎缩症晚期患者,通过脑机接口,仍保持与外界的沟通。借助  Wavelet Toolbox,使用小波多分辨率分析技术将脑磁图 MEG 信号降噪,并分解为特定的神经振荡带(高伽马、伽马、阿尔法、贝塔、西塔和德尔塔脑波)。

然后从去噪和分解的信号中提取特征。包括均值、中位数、标准差、四分位数和均方根。当尝试的 SVM 和 ANN 方法,得到大约 80% 的分类准确率,而当结合小波和深度学习时,这个准确率提高到了 96 %以上。AI + Signal Processing 的神奇合力。

     

四、AI + Signal Processing 实例——无接触式病人监测

故事讲完了,下面就为大家举一个实例,让大家眼见为实,体会到 AI + Signal Processing 的神奇合力,以达到小模型,大效果的目标。

【实例】

无接触式病人监测。术后病人往往浑身插满大大小小的管线,其中除了输液和供氧,大都是心跳和呼吸监控的。翻身和活动都受限,尤其术后,会很难受。因此,临床产生墙裂的无接触式病人监控设备需求。如下图所示,在病人上方设置一个功率很小的雷达,通过检测心跳的胸腔起伏,对连续波雷达波的影响,从回波中还原出病人的心跳。

数据准备:1.从志愿者身上以传统方式采集准确的心电图,2.同时从雷达上采集回波数据。

目标:从下图中,上面一行的雷达回波中,得到下面一行的ECG心电图。

 

 

01

Test 1:

首先尝试将 Raw Signal 雷达回波原始数据,直接提供给神经网络

构建 1D 卷积网络 +BiLSTM 的神经网络如下:

心中默念“芝麻开门”,等待不到一个世纪后,得到训练后模型,对输入雷达回波,还原出的心电图如下图所示,第一行是雷达回波,第二行是实测心电图,第三行是还原出的心电图。第二、三行信号天壤之别,是不是神经网络的神力消失了?第一反应,是用更大的更高级的模型?

且慢。想到小模型,大效果的目标。让我们试试 AI + Signal Processing 的神奇合力。

02

Test 2:

这次,我们希望尝试添加一些预处理和特征提取功能,看看能否化腐朽为神奇。可能很多小伙伴缺乏信号处理背景,对信号处理望洋兴叹。确实,过去我们设计信号处理算法,还需要查手册、记语法、写代码、调 Bug,想想处处是坎,步步有坑。T-T

而 MATLAB 提供了非常丰富、好用的信号处理算法设计功能。还有一系列图形化界面的 APP,可以快速尝试各种算法设计,设置调整各种参数和配置,并可视化效果,达到要求后,所有在图形化 APP 中完成的操作,自动转化为对应 MATLAB 函数/代码。

下面,给大家展示,如何快速设计用“高深”的小波分解和信号重构,来设计这里的预处理和特征提取模块。注意哦,我们不看手册、不记语法、不写代码,更不调 bug。

基本思路:根据物理原理,我们知道心跳胸腔起伏,会在雷达回波中,引发微多普勒效应,因此回波中应该包含了心跳信号,我们先对回波进行小波分解,然后再基于有效成分,进行信号重构。

我们打开信号多分辨率分析器,这个图形化 APP。在左上角可以设置小波基及分解层数等。中间窗口,可看到分解的各个成分。左下角可勾选用于最终重构的成分。最右边窗口,用不同颜色显示原始信号和重构信号。

将回波导入 APP 后,在中间窗口看到如下各分解成分。将其与目标 ECG 心电信号比对,发现 level1、level2、level6 及 scaling coefficients 与目标 ECG 相关度很小。于是仅将 level3-5,在左下角勾选,用于 ECG 信号重构。满意后,做的所有操作,可以点击 export,自动生成 MATLAB 函数,不必写代码,不必调 bug。

03

算法模型搭建:

基于上面的分析,设计的网络如下。传统预处理模块,通常独立于神经网络之外,而 MATLAB 中专门提供了离散小波分解的层,并支持选择小波基和信号重构的成分。这一层的可理解成固定系数的层,不需要参与学习。放在网络模型中的预处理层,大大简化模型搭建;在训练时,也不必单独先对数据成批预处理,将预处理后的特征向量,存在本地,再分批读取训练;MATLAB 支持合并在同一个模型中,就可以像普通网络模型一样,直接提供数据训练即可(生活多美好)。类似的层,MATLAB 也提供cwtLayer、 stftLayer 层,分别可支持连续小波变换和短时傅里叶变换。

心中再次默念“芝麻开门”,得到训练后模型,对输入雷达回波,还原出的心电图如下图所示,第一行是雷达回波,第二行是实测心电图,第三行是之前未使用小波变换,还原出的心电图,第四行是使用小波分解和信号重构的预处理后,还原出的心电图。第四行和第二行高度一致,惊不惊喜,意不意外?还是那个毫不起眼的轻量小模型,在与 AI + Signal Processing 的结合,产生出神奇的效果。

五、总结

请慢慢品味算法中的美感,我们简单总结下所展示的。最初直接将原始信号输入 1D 卷积 +BiLSTM 神经网络,经过漫长训练,还原出的信号,完全看不出目标心电信号的影子;而采用信号多分辨率分析器快速探索设计的,基于离散小波分解和信号重构的预处理算法,与最初这个轻量级模型结合,就马上化腐朽为神奇。从一片嘈杂的回波中,准确还原出了目标心电信号。这个 Demo 已被发布在 MATLAB shipping demo 中。心动不如行动,感兴趣的小伙伴【4】。

细细品味后,好的预处理及特征提取,是高性能、轻量化模型成为可能的点睛之笔。临床实际应用千变万化,这个部分恰恰为医疗设备的工程化落地,提供了重要的鲁棒性和可靠性;而信号特征的提取,将稀疏、复杂的原始数据进行提炼,尤其投影在变换域上,得到精干的描述,这才使轻量级 AI 模型的使用成为可能。

编辑:黄飞

最新文章
谷歌SEO优化,如何助力我的Authority Site提升?
在当今互联网信息爆炸的时代,拥有一个高权威性的网站(Authority Site)是每个网站运营者的梦想。这不仅意味着更高的流量,更优质的用户,还意味着更多的商业机会。作为一名在SEO领域摸爬滚打多年的从业者,我深知谷歌SEO优化对于提升Auth
通过阅读《手机断舍离》,我们可以学会如何找回那些被手机夺走的时间和注意力。我们可以重新发现生活中的美好和纯粹的快乐。这是一次自我救赎的实践,也是对现代生活的深刻反思。
飞屏无法连接电脑版(飞屏无法连接电脑版网络)
好酷屋教程网小编为您收集和整理了飞屏无法连接电脑版(飞屏无法连接电脑版网络)的相关教程:飞屏无法连接电脑版网络先打开歪飞开关  点击右下角无线网络连接的图标或者点击左下角开始-设置-网络连接-双击无线网络连接-查看无线网络  在
短视频平台源码,短视频软件开发,短视频app源码搭建
一、短视频平台源码的功能1、短视频功能:短视频是短视频平台源码的主要功能,用户可以发布、编辑、观看短视频。2、直播功能:短视频软件开发实现直播功能,主播可以带货、连麦、进行PK。3、聊天功能:短视频app源码支持用户聊天,方便用户
金东一医生-哈尔滨市金东一医生产阴道紧致手术价格及案例口碑深解析
作为哈尔滨市产阴道紧致手术好的医生,金东一医生产阴道紧致手术精细、效果良好,引得哈尔滨市整友纷纷关注,大家想知道金东一产阴道紧致手术价位多少钱?金东一医生产阴道紧致手术贵不贵?金东一产阴道紧致手术收费价位合理,快来看看。下
自治区农业农村厅办公室关于印发2024年基层农业技术推广服务能力提升项目实施方案的通知(桂农厅办发〔2024〕10号)
各市、县(区)农业农村局,自治区蚕业技术推广站:为保证基层农业技术推广服务能力提升项目顺利实施,进一步激发各地农科院(所)改革创新活力,提升科研推广服务能力,推动现代特色农业高质量发展,现将《2024年基层农业技术推广服务能力
奔驰EQE AMG怎么样 内外兼修
主流车尺寸适中,能够很好的满足各方面需求,同时主流车的价格也比较合理,所以买它就对了!如今消费者买车首先就是要看这款车配置丰不丰富,对于自然也不例外。赶紧来看看它吧。先看下奔驰EQE AMG的外观,奔驰EQE AMG前脸整体看上去较为精
百度手机卫士 app下载v9.26.12
《百度手机卫士app》一款非常好用的手机软件,这一款是百度手机软件的精简版,这一版保留了核心功能删除了多种没有必要的功能和广告,减小了体积。喜欢的朋友可以来下载一下。有趣的手机软件好用的安卓软件手机安全软件下载从心出发,5.54M
相关文章
推荐文章
发表评论
0评