内盖夫(Negev)本-古里安大学(Ben-Gurion University)的研究人员开发了一种新的人工智能技术，可以保护医疗设备免受网络攻击中的恶意操作指令以及其他人为和系统错误的影响。

 

BGU研究员Tom Mahler将于8月26日在2020年医学人工智能国际会议(AIME 2020)上展示他的研究，“一种保护医疗设备免受异常指令的双层架构”。马勒是北京大学教授的博士研究生。北京大学软件和信息系统工程系的Yuval Elovici和Yuval Shahar教授。

 

复杂的医疗设备，如CT(计算机断层扫描)，杏耀QQMRI(磁共振成像)和超声波机器，是由主机PC发送的指令控制的。不正常或不正常的指令会对患者带来许多潜在的有害威胁，如辐射过度照射、设备组件的操作或医学图像的功能操作。威胁可能是由网络攻击、人为错误(如技术人员的配置错误或主机软件bug)引起的。

 

作为他博士研究的一部分，马勒开发了一种使用人工智能的技术，该技术使用一种检测异常指令的新架构来分析从PC发送到物理组件的指令。

 

马勒说:“我们开发了一种双层架构，用于保护医疗设备不受异常指令的影响。”该架构着重于检测两种异常指令:(1)上下文无关(CF)异常指示等不太可能值或指令给100 x比典型的辐射,和(2)上下文敏感的(CS)异常的指令,这是正常的值或值的组合,指令的参数,但被认为是异常相对于一个特定的上下文,如失配的扫描类型,或失配病人的年龄、体重、或潜在的诊断。

 

“例如，一项针对成年人的正常教育，杏耀联系如果应用到婴儿身上，可能是危险的(反常的)。当只使用第一个CF层时，这些指令可能会被错误分类;但是，通过添加第二层，CS，它们现在可以被检测出来。”

 

研究团队使用8277条记录的CT指令评估了CT领域的新架构，并使用14种不同的无监督异常检测算法评估了CF层。然后，他们对四种不同类型的临床客观上下文的CS层进行评估，对每种上下文使用五种监督分类算法。

 

在体系结构中添加第二个CS层提高了整体异常检测性能，从仅使用CF层的F1分71.6%提高到82%至99%， 杏耀平台 ，具体取决于临床目标或身体部位。此外，CS层允许使用设备过程的语义检测CS异常，这是一种仅使用CF层无法检测到的异常类型。