6月5日至6日,在北京举行的为期两天的网络安全会议上,经济观察记者任小宁(Ren Xiaining ), 讨论最多的主题是人工智能(AI)安全。 政府官员、学术界人士、企业家在会议上谈论了AI的安全风险。
巴基斯坦计算机应急小组(NCCT)主席海德尔·阿巴斯(Haider Abbas)说,AI的袭击是新式袭击方法中最威胁和最难打击的打击之一。 对800名信息技术专家的研究显示,对巴基斯坦机构的新袭击中有51%是AI的,AI的袭击影响到许多国家和组织。
阿巴斯(Heidel Abbas)警告说,AI驱动的网络攻击比常规攻击更强大,需要认真应对。 目前,巴基斯坦政府已经成立了一个专门的全国网络安全应急小组来增加网络安全。
2024年大赦国际的报告(下称《报告》)表明,2023年根据大赦国际进行的深度伪造欺诈增加了3 000%,根据大赦国际进行的捕鱼邮件增加了1 000%,12个具有本国背景的高级威胁团体利用大赦国际进行了十几次网络攻击。
报告还指出,地下社区对大型模型非常感兴趣。 世界GPT是暗网上流行的模范产品,被视为可替代ChatGPT(AI, OpenAI开发的聊天机器人程序)的不道德选择,它产生了复杂的恶意软件和敲诈软件功能。 另一个大型模型产品,即欺诈GPT, 引发了快速、大规模的网络钓鱼袭击。
据中央网络和网络安全协调局副局长王泉康称,随着技术的发展,攻击者可以利用AI技术产生网络攻击和网络捕鱼工具,网络安全将从每个人之间的对抗和人与人之间的对抗演变为基于AI的防空对抗。
然而,尽管大赦国际有重大的安全风险,但与会专家的共识是,大赦国际应当积极发展,而不是加以防止。
“没有发展(AI)是最不安全的。 ”高级计算和关键软件(Charlie)海河实验室主任和中国新一代人工智能发展战略研究所执行主任耐克(Nike)认为,一些全球人士要求暂停开发比GPT-4(AI公司OpenAI开发的大模型)更好的大型模型是不可取的。
Chianshin集团主席在与经济观察网的访谈中说,人类不应受到大赦国际所构成的风险的恐吓,而应接受大赦国际,这是一家能够解决大赦国际所构成的安全问题的保安公司。
例如,在东部,近信安全机器人最近成立了一家核电公司,用手工钻探,共发现15起安全事件,其中半数以上已被机器人确认和证实。 这表明使用AI作为安全催化剂的行动已经开始,在未来的网络攻击中,AI将接管。
海德尔·阿巴斯还认为,大赦国际的安全问题是可以解决的。 谈到如何防范大赦国际的袭击,他争辩说,恶意软件屏蔽可以用大型模型技术建造,甚至可以用安全软件进行反击,用AI驱动的网络攻击需要AI部队来对付。
注册有任何问题请添加 微信：MVIP619 拉你进入群
打开微信扫一扫
添加客服
进入交流群
发表评论