非侵入式脑机接口落地情况报告
写作目的
本文梳理了脑机接口技术在各个领域的应用情况。通过各领域的成熟应用案例和当前学术研究进展情况,分析非侵入式脑机接口技术落地情况。
Introduction
脑机接口
脑机接口(Brain-computer interface, BCI)是在大脑与外部环境之间建立一种全新的不依赖于外周神经和肌肉的交流与控制通道,从而实现大脑与外部设备的直接交互。该技术能够在人脑与外部环境之间建立沟通以达到控制设备的目的,进而起到监测、替代、改善/恢复、增强、补充的作用。作为一门多学科交叉的研究领域,涉及神经科学、认知科学、心理学、影像医学、生物医学工程、材料科学、电子工程、信号处理与模式识别等多个学科,是一项复杂的系统工程。
构建一个脑机接口系统需要实现四部分功能:信号采集、信息解码、再编码和反馈。通过布置在脑部的电极采集脑电信号,经过预处理、特征提取和分类,识别出特定的脑模式。根据应用场景下脑模式或脑模式序列编码的规则,将脑模式特征转译为外部设备可理解的控制信号。用户通过反馈环节获得外部环境和设备的状态信息,形成控制——感知——控制的闭环方式。
侵入式和非侵入式脑机接口
根据脑机接口系统信号采集时电极的布置位置,可分为侵入式脑机接口(大脑皮层或灰质处布置电极)和非侵入式脑机接口(大脑头皮处布置电极)。
- 侵入式BCI可以直接记录神经元电活动,信号衰减小,信噪比和空间分辨率高,能够区分。但植入有创伤,技术难度大,存在继发感染的可能性。
- 非侵入式BCI通过附着在头皮上的穿戴设备测量大脑的电活动或代谢活动,无需手术,安全无创。其中脑电帽是最常用的非侵入式传感器,可以在头皮上监测到群体神经元的放电活动,时间分辨率高,但空间分辨率低,且受大脑容积导体效应的影响,传递至头皮表面时衰减较大,易被噪声污染,信噪比低。
目前,非侵入式脑机接口的研究和应用占主导地位。非侵入式BCI根据采用的脑模式又可分为P300-BCI、SSVEP-BCI 和MI-BCI。
P300-BCI:P300 是一种事件相关电位,实验证实当人脑受到小概率新奇事件刺激后300ms 左右脑电信号会出现一个正向波峰。基于P300 信号特征的脑机接口系统具有目标多、个体差异较少的优点,已被广泛研究并测试应用,需要注意的是,该类BCI 需要多次重复闪烁,而长时间的重复闪烁,会影响患者的使用体验。
图3 P300电位(红色垂直线代表出现字符w的刺激,绿色和橙色的脑电波分别代表刺激产生后有P300的脑电波和没有P300的脑电波) SSVEP-BCI:SSVEP (视觉稳态诱发电位)是当人眼视网膜受到恒定频率(大于6HZ)的闪光或图形刺激时,会诱发大脑视觉皮层产生可记录到的电位变化,该变化与刺激频率及其谐波频率一致。基于SSVEP 的BCI 特征提取简单、准确率和信息传输率高,用户不需要训练。这类BCI 的控制命令数量受刺激频率及其他因素影响,特别是当命令数增加时,分类精度下降。
图4 SSVEP信号特征(红色实心圆圈表示不同频率的刺激源,图中的波形对应注意到刺激后产生的脑电波功率谱) MI-BCI:MI (运动想象)是人在心理感觉一个动作过程但不发生实际运动,是一种内隐性心理活动,无需外界刺激。研究表明运动想象会在感觉运动皮层诱发事件相关去同步/同步(ERD/ERS)响应。基于运动想象脑信号特征的脑机接口系统可用于运动障碍康复训练、假肢和轮椅控制等。该类脑机接口系统的用户需要一定量的训练,其性能不仅取决于解码算法,还取决于用户的运动想象表现,此外目前可辨识的运动想象的模式有限,只有六种,很难产生数量较多的外部设备控制命令。
图5 MI信号特征(图中脑部的热力图为不同位置电极在运动想象时的电压幅值对比情况,左手运动想象时左侧脑部的电极电压幅值明显降低,右侧脑补的电极电压幅值变高。出现左侧去同步化,右侧同步化响应的情况。同理右手运动想象时会出现右侧去同步化,左侧同步化的现象)
非侵入式脑机接口应用方向
脑机接口技术的功效可以归结为如下5 类:
- 监测:使用脑机接口系统监测部分人体意识状态。
- 替代:脑机接口系统的输出可以取代由于损伤或疾病而丧失的自然输出。
- 改善/恢复:主要针对康复领域,改善某种疾病的症状或恢复某种功能。
- 增强:主要是针对健康人而言,实现机能的提升和扩展。
- 补充:主要针对控制领域,增加脑控方式,作为传统单一控制方法的补充,实现多模态控制。
围绕上述5 大功效,脑机接口技术的应用方向主要有医疗健康、娱乐、智能家居和其他。
医疗健康
医疗健康领域是脑机接口最初、最直接和最主要的应用领域,也是目前最接近商业化的应用领域。医疗健康领域的应用案例主要集在“监测”、“改善/恢复”、“替代”、和“增强”4 大功效上,这些主要是以输出为主狭义BCI 的功效。
“监测”是指通过脑机接口系统完成对人体神经系统状态的实时监控与测量。例如,脑机接口可应用于陷入深度昏迷等微小意识状态的患者,帮助测量并评定其意识等级。
“改善/恢复”方向主要是指可以针对中风、癫痫等疾病做对应的恢复训练。例如,对于感觉运动皮层相关部位受损的中风病人,脑机接口可以从受损的皮层区采集信号,然后刺激失能肌肉或控制矫形器,改善手臂运动。癫痫病人的大脑会出现某个区域的神经元异常放电,通过脑机接口技术检测到神经元异常放电后,可以对大脑进行相应的电刺激,从而抑制癫痫发作。
“替代”方向主要针对因为损伤或疾病而丧失某种功能的患者。例如,丧失说话能力的人通过脑机接口输出文字,或通过语音合成器发声。脊髓侧索硬化症患者、重症肌无力患者、以及因事故导致高位截瘫的患者等重度运动障碍患者群体,可通过脑机接口系统将自己脑中所想的信息传达出来。
“增强”方向主要是指将芯片植入大脑,以增强记忆、推动人脑和计算设备的直接连接等
娱乐
脑机接口在娱乐领域的应用主要集中在“补充”方向。例如,脑机接口为游戏玩家提供了独立于传统游戏控制方式之外的新的操作维度,可以用意念来控制虚拟现实界面的菜单导航和选项控制,极大的丰富了游戏内涵并提升了游戏体验。
智能家居
脑机接口在智能家居领域的应用主要集中在“补充”方向。智能家居是脑机接口与物联网跨领域结合的一大想象空间。例如,脑机接口可类似于“遥控器”,帮助人们用意念控制开关灯、开关门和开关窗帘等,进一步可以控制家庭服务机器人。
其他
脑机接口在其他方向的应用主要针对健康人群的“增强”和“补充”,实现机能的扩展。例如,澳大利亚的SmartCap 公司通过在棒球帽内植入电极,可以实时监测用户的疲劳状态,同时也有部分公司将脑机接口应用于驾驶状态监测,随时关注驾驶员的疲劳状态,以降低由于疲劳驾驶而发生事故的概率。在教育领域,脑机接口技术可对学生注意力表现实时探测,从而帮助教师及时了解课堂情况以改变教学方法。
非侵入式脑机接口应用案例
医疗健康
假肢控制
BrainCo公司研发的BrainRobotics智能仿生手,可以通过手臂上肌肉神经信号,识别佩戴者的运动意图,再将运动意图转化成相应的运动指令,从而完成佩戴者想要完成的动作。BrainRobotics已经实现握手、抓杯子等日常操作,并且已有残疾患者通过练习实现了写毛笔字、弹钢琴等更为复杂的操作。
康复训练
专注于虚拟显示和运动捕捉的MindMaze公司,将自身技术与脑机接口结合发布了一款用于医疗商业领域的VR头显,用于中风后运动麻痹的病人恢复,并且已获得美国食品和药物管理局(FDA)批准,进入美国市场。
如果中风病人的左手不能动了,但右手能动,相机就会捕捉他右手的动作,然后当他试图控制左手时,会把右手的动作移植到虚拟化身的左手上,让病人观看虚拟化身的左手在动,从而欺骗病人的大脑,让大脑相信自己的左手也能动,从而提高神经的可塑性。所以,当脑机接口检测到用户的运动意图后,通过动作捕捉技术和VR技术,我们可以欺骗大脑,加速病人恢复。这就是这款VR头显中风恢复理疗的原理。
睡眠监测
国外InteraXon公司和国内的脑陆科技都推出了消费级的睡眠监测可穿戴EEG设备,通过分析脑电、心率、血氧和体动等睡眠过程中的重要指标,融合多模态生物信号,为用户提供精准的睡眠管理方案。展示量化的睡眠日报、周报、月报,可以随时掌握自身睡眠状态。特别是脑陆科技推出的脑电仪设备,能够将用户的睡眠脑电进行分期,分为清醒期、浅睡期、中度睡眠期、深度睡眠期和快速眼动期。采集的数据可供专业医生诊断提供参考,并且可以为后续通过粉噪音、白噪音等节律声波对神经实时调控,优化深度睡眠的应用场景提供可靠调控指标。
信息表达
脑机接口的一个重要应用领域是意念打字,自从1988年Farewell和Donchin提出的第一款脑机接口字符输入系统——P300 Speller开始,基于BCI的字符输入系统一直在发展迭代。目前,世界上字符输入速度最快的非侵入式BCI Speller是国内博睿康公司和清华大学合作开发的基于SSVEP的字符输入系统,该系统能够在一分钟类输入12个英文单词。该系统还处于实验室阶段,在此研究基础之上,北京邮电大学将中文双拼输入法与SSVEP字符输入系统结合,构建了基于SSVEP的中文字符输入系统。该系统目前正在产业化过程中。
娱乐
面部情绪识别
位于瑞士洛桑的MindMaze公司展示了一种在VR中读取脸部情绪的设备,名为MASK。戴上集成MASK的头显后,你马上可以看到屏幕上的虚拟化身在模仿你的表情。产品的电极被安装在泡沫衬垫面板上,而这些电极可以感觉到你的面部肌肉,甚至可以在完全作出表情之前进行预测。该设备目前可以追踪的情绪有限,包括微笑、皱眉、眨眼、嘲笑和扬眉。
智能家居
广州华南脑控公司针对手脚及身体不便人群,打造了一套脑机智能护理应用系统。该系统能够让用户随时掌握护理床各活动部件的升降开关,实现自主控制起坐、抬腿、屈腿、翻身、便盘等。结合护理场景下的智能电器设备,对所在房间空调、窗帘、电视等家居设备进行控制
其他
注意力实时检测
在注意力监测方面,BrainCo公司开发的一款Focus1注意力检测头环,可以实时显示佩戴者的当前的注意水平。该产品可用于教育领域,对于学生上课专注的评估,便于教师根据学生对于课堂的接收情况来作出课程的调整。同时也能够通过实时注意力评估值,进行一些注意力集中的调控行为如冥想,帮助学生调整状态以进入最佳的状态,更好的进行课程学习。目前该产品已经销售往15个国家,近15000名学生使用。
系统主要用于课堂上使用,分为课前、课中、课后以及常态训练四个阶段。上课之前老师给学生发放头环,打开 Focus EDU 系统,连接网络;然后依次进行不超过三分钟的冥想训练和神经反馈训练,之后进行正常课堂授课,课堂结束后取下头环。老师可以通过BrainCo提供的教育训练平台查看学生一周内的平均专注力报告,来及时作出课程的调整。
疲劳状况监测
脑陆科技提出的BCI智慧安全帽,是一款在传统安全帽或智能安全帽上集成脑机接口的新型智能终端设备。在完成安全防护的同时,对人的精神不安全状况和生理状况进行监测,实时进行安全预警,提升安全管理技术手段。
该设备中集成了EEG(脑电图)和fNRIS(功能性性近红外光谱)信号采集传感器,能够对佩戴的疲劳状况、注意力状况、脑血氧、心率和血压进行监测。可以对佩戴者的疲劳和注意力不集中情况进行报警,同时针对使用者缺氧、供血不足、脉搏紊乱和中毒等威胁生命的突发状况进行通报,通过GPS定位来确定佩戴者方位进行及时的抢救措施,保证工作人员施工过程中的生命安全。
非侵入式脑机接口成熟技术
基于脑电的生理情况监测
睡眠评估
可穿戴睡眠监测设备最常使用的信号是脑电图 (EEG) 和光电容积脉搏波 (PPG)。相比与PPG基于 EEG 的系统是最准确的,并且能够识别所有睡眠阶段。 基于EEG的睡眠分期系统能够实现 80-90% 之间的分类准确率。目前,多通道信号对于睡眠评估具有优势,但单通道脑电图睡眠分期也取得了很好的性能(针对所有睡眠阶段分期准确率最高可达到86.2%)。单通道EEG设备便于佩戴且成本相对较低,容易普及,能够满足家庭睡眠评估,用于早期诊断和持续监测。
注意力监测
大脑的神经振荡是指中枢神经系统自发产生的有节奏的脑电活动,有alpha, theta, delta, gamma等。其中的 alpha和 theta 波段活动与情绪和注意力状态有关。在注意力方面,脑电信号的alpha波段功率与其呈正相关,而脑电信号的θ波段功率同时呈负相关。目前,在研究中使用多通道采集设备结合机器学习算法对注意力的分类准确率达到91.72%。但具有注意力监测功能的产品都是单通道,单通道设备注意力监测的分类准确率平均在80%左右。并且注意力监测的准确率会因使用者不同任务情景(如阅读,听讲,计算),而存在10%左右的波动。
疲劳程度监
根据人在昏昏欲睡时α波和β波减少,而θ波保持不变这一生理特征,可通过监测 EEG 频带的功率谱的变化来检测受试者的困倦情况。目前拥有困倦程度的监测设备很多,Emotiv公司的Epoc、Neurosky的MindWave、OpenBCI 和 InteraXon公司的Muse产品都具有困倦疲劳监测功能。2020年Jones 和 Minh Dong Le写了一篇简短的文章,回顾了几种低成本 EEG 设备及其检测睡意的能力。其中MindWave设备的监测准确度波动最大,波动最小的设备为OpenBCI,平均准确率为79.4%。尽管这些系统没有达到研究级或医疗级系统的准确度,但它们足以部署在某些环境中。例如,这些系统可以用于发展中国家的小型企业或迫切需要易于获得的困倦检测的劳务派遣公司等。2016年,Wilaiprasitporn 和 Yagi提出了将 EEG 的睡意检测系统集成到防护或职业头盔中的想法。国内的脑陆科技公司根据这一思路实现了一款BCI智慧安全帽,除了加入EEG监测技术外还增加了对佩戴者头部血氧浓度的监测,能够进行疲劳、中毒、缺氧和供血不足等特殊生理状况监控预警。
基于BCI的外设交互
基于BCI的字符输入系统
非侵入式字符输入系统一直是BCI领域的研究重点。从字符分布界面的设计到采用的刺激范式一些系列的优化与提高,到目前为止基于非侵入式字符输入系统的输入速率还远远达不到正常人的平均水平,仅仅为每分钟40字符(准确率达到91.5%),而正常人的水平为115个字符。因此基于该技术的系统大多还处于实验室阶段或者实验室到商业产品的转换阶段。目前基于BCI技术的字符输入系统中最接近人类输入速度的斯坦福教授Krishna Shenoy发表于《Nature》上的基于侵入式BCI的笔记想象字符输入系统,该系统能够达到每分钟输入90个字符,并且识别准确率高达99%。该系统的速度与在智能手机上打字的速度相当,是BCI字符输入系统领域的重大突破。目前影响该技术应用的是目前侵入式BCI技术还不够成熟,芯片植入后的风险以及后续的维护更换都是待解决的问题。
总结
BCI技术最重要的应用是医疗领域,而目前医疗领域非侵入BCI最成熟的技术之一是基于EEG信号生理信息监测,睡眠监测、疲劳状况监测、注意力监测等。在从科研和医疗领域向大众市场的下放的过程中,考虑到便携性、可穿戴性和成本等多方因素,相关设备都牺牲了多通道信号源,采用单通道信号来进行后续一些应用场景分析。这使得产品的准确性和鲁棒性与研究和医疗领域有所差距,但是已经能够用于日常的使用。这类产品面临广泛的使用人群,相比于科研和医疗领域的相对单一可控的使用环境,面临复杂多变环境下的可靠性是产品体验的重要环节。目前由于产品推出不久,还没有广泛的使用人群并形成可靠权威的产品体验报告。
作为BCI技术诞生不久后,一直研究的字符输入系统,技术相对成熟,2018清华大学提出的SSVEP字符输入系统每分钟可以输入40个字符,但是目前迟迟没有产品推出,主要还是基于SSVEP的系统对于字符输入这种长时间的任务,不同频率的闪烁刺激方式容易产生疲劳,整体体验还有待优化。而针对BCI的智慧家居、假肢的控制以及基于虚拟现实的康复训练,目前只有极少的公司有产品化。
从产品的成熟度来看,脑机接口技术处于初级阶段,未来尚需更加完善的制度和标准来规范产品上市进程,对产品的安全性、有效性进行合理全面的认证。
参考
Current and Future Brain-Computer Interface,Christoph Guger,g.tech medical engineering (2021).
Imtiaz, Syed Anas. “A Systematic Review of Sensing Technologies for Wearable Sleep Staging.” Sensors 21.5 (2021): 1562.
Yang, Chen, et al. “A dynamic window recognition algorithm for SSVEP-based brain–computer interfaces using a spatio-temporal equalizer.” International journal of neural systems 28.10 (2018): 1850028.
LaRocco, John, Minh Dong Le, and Dong-Guk Paeng. “A systemic review of available low-cost EEG headsets used for drowsiness detection.” Frontiers in neuroinformatics 14 (2020).
Mohammadpour, Mostafa, and Saeed Mozaffari. “Classification of EEG-based attention for brain computer interface.” 2017 3rd Iranian Conference on Intelligent Systems and Signal Processing (ICSPIS). IEEE, 2017.
Wang, Bingbing, et al. “EEG-Based Closed-Loop Neurofeedback for Attention Monitoring and Training in Young Adults.” Journal of Healthcare Engineering 2021 (2021).
Willett, Francis R., et al. “High-performance brain-to-text communication via handwriting.” Nature 593.7858 (2021): 249-254.
伏云发,郭衍龙, 张夏冰, 李松. 脑-机接口—革命性的人机交互[译]. 北京:国防工业出版社, 2020.
伏云发,丁鹏,罗建功,吕晓彤.脑-计算机接口[译]. 国防工业出版社,北京,2021.
李静雯, 王秀梅. 脑机接口技术在医疗领域的应用[J]. 信息通信技术与政策, 2021,47(2):87-91.
脑机接口技术在医疗健康领域应用白皮书. 中国人工智能产业发展联盟”,2021.