研究人员已经学会在神经网络中谨慎地放置恶意代码

研究人员已经学会在神经网络中谨慎地放置恶意代码

人工神经网络可以携带反病毒系统不可见的恶意软件。 主板写道,这是中国科学院大学的研究人员得出的结论。

对真实恶意软件样本的实验表明,用恶意软件替换 AlexNet 模型中大约一半的神经元可确保模型的准确率超过 93.1%。 作者计算出,一个 178 MB 的算法最多可以包含 37 MB 的恶意软件。

研究人员使用常见的防病毒系统测试了大约 58 种型号,这些系统未检测到恶意软件。

“随着神经网络的普及,这种方法将成为未来恶意软件传播的通用方法,”该工作的作者认为。

通过这种方法,恶意软件被“分解”并嵌入到神经网络中。 该算法然后到达受害者的设备,在那里它使用接收器程序将代码编译成活动病毒。

根据作者的说法,如果目标设备在启动模型之前验证模型,恶意软件就可以被阻止。 它也可以使用“传统方法”进行检测,例如静态和动态分析。

“今天,防病毒软件很难检测到它,但这只是因为没有人在那里查看,”研究人员和网络安全顾问 Lukasz Oleinik 说。

他相信反病毒系统将能够注意到从神经网络中提取的恶意软件。

“但这也是一个问题,因为从模型中提取恶意软件的特殊方法 [глубокой нейронной сети] 意味着目标系统可能已经在攻击者的控制之下,”Oleinik 补充道。

专家还确信,在神经网络中隐藏恶意代码不会给攻击者带来太多好处。

回想一下,在 5 月份,马里兰州网络安全中心的研究人员发现了神经网络中的一个漏洞,该漏洞会增加其功耗。

2021 年 5 月上旬,微软推出了一款开源工具,可帮助开发人员测试人工智能系统的安全性。

今年 4 月,微软实施了英特尔的威胁检测技术,在 Defender 企业端点安全平台中寻找隐藏的矿工。

在 Telegram 上订阅 ForkLog 新闻:ForkLog AI – 来自 AI 世界的所有新闻

发现文中有错误? 选择它并按 CTRL + ENTER

内容搜集自网络,整理者:BTCover,如若侵权请联系站长,会尽快删除。

(0)
BTCover的头像BTCover
上一篇 31 8 月, 2021 10:51 上午
下一篇 31 8 月, 2021 10:50 上午

相关推荐