据技术探索（Tech Xplore）2021年3月5日报道，新加坡管理大学(SMU)团队开展识别机器学习框架漏洞的研究，梳理机器学习框架漏洞条目，促进机器学习框架层面对保卫智能系统。

当前，尽管智能城市和智能家居已家喻户晓，但诸如TensorFlow、PyTorch、Theano等构建智能系统所需的开源机器学习（ML）框架却鲜为业外人知。公共存储库或数据存储中常见的机器学习算法和代码非常依赖于这些框架。2019年12月，在对代码托管站点GitHub的分析中，研究人员发现，46000多个存储库使用了TensorFlow，15000多个存储库使用 PyTorch。

由于这些框架的普及，其中的任何漏洞都可能被暴露，造成大范围的破坏。ML框架中的漏洞可能会转化为由它创建或在其上运行的所有经过训练的ML模型中的漏洞。

SMU智能软件工程研究实验室主任的最新研究项目“通过软件成分分析和基于定向语法的模糊测试来发现机器学习框架中的漏洞”致力于填补识别机器学习框架漏洞的空白。该领域的研究通常集中在经过训练的机器学习模型上，而不是底层框架。当前针对机器学习框架的研究更多的是处理（使系统无法按照应有的方式运行的）“故障”（bugs），而不是（可以被利用的）“漏洞”（vulnerabilities）。

信息来源：

https://techxplore.com/news/2021-03-defending-smart-machine-framework.html