人工神经网络可以携带反病毒系统不可见的恶意软件。 主板写道，这是中国科学院大学的研究人员得出的结论。
对真实恶意软件样本的实验表明，用恶意软件替换 AlexNet 模型中大约一半的神经元可确保模型的准确率超过 93.1%。 作者计算出，一个 178 MB 的算法最多可以包含 37 MB 的恶意软件。
研究人员使用常见的防病毒系统测试了大约 58 种型号，这些系统未检测到恶意软件。
“随着神经网络的普及，这种方法将成为未来恶意软件传播的通用方法，”该工作的作者认为。
通过这种方法，恶意软件被“分解”并嵌入到神经网络中。 该算法然后到达受害者的设备，在那里它使用接收器程序将代码编译成活动病毒。
根据作者的说法，如果目标设备在启动模型之前验证模型，恶意软件就可以被阻止。 它也可以使用“传统方法”进行检测，例如静态和动态分析。
“今天，防病毒软件很难检测到它，但这只是因为没有人在那里查看，”研究人员和网络安全顾问 Lukasz Oleinik 说。
他相信反病毒系统将能够注意到从神经网络中提取的恶意软件。
“但这也是一个问题，因为从模型中提取恶意软件的特殊方法 [глубокой нейронной сети] 意味着目标系统可能已经在攻击者的控制之下，”Oleinik 补充道。
专家还确信，在神经网络中隐藏恶意代码不会给攻击者带来太多好处。
回想一下，在 5 月份，马里兰州网络安全中心的研究人员发现了神经网络中的一个漏洞，该漏洞会增加其功耗。
2021 年 5 月上旬，微软推出了一款开源工具，可帮助开发人员测试人工智能系统的安全性。
今年 4 月，微软实施了英特尔的威胁检测技术，在 Defender 企业端点安全平台中寻找隐藏的矿工。
在 Telegram 上订阅 ForkLog 新闻：ForkLog AI – 来自 AI 世界的所有新闻
发现文中有错误？ 选择它并按 CTRL + ENTER
内容搜集自网络，整理者：BTCover，如若侵权请联系站长，会尽快删除。
