首页 > AI资讯 > 最新资讯 > 人工智能时代 风险隐患不能“狂飙”

人工智能时代 风险隐患不能“狂飙”

新火种    2023-09-19

近期,网络领域的一个热词是“大模型”,一批国产大模型从8月以来通过首批备案“持证上岗”,面向全民开放服务。一大波测评也在平台上出现,从搜索能力、情感分析能力等角度来看哪个大模型更“聪明”;还有人关心,大模型开放对文案写作、对教育等会带来什么样的影响。大模型赋能,生成式人工智能正引发新一轮智能化浪潮。

这背后,有几个“亿级”的概念值得

新的风口,有网友的说法是技术“一路狂奔”。而在本周,网络安全宣传周上的一些典型案例,给公众的深刻感受是,新生问题也会随之出现,技术再发展,数据安全也不能失速、风险隐患不能“狂飙”。

比如,不久前网络“绍兴上虞化工厂发生重大火灾”的视频,警方确认是某科技公司利用人工智能技术深度合成,目的是为了牟取利益;再比如,技术“小白”通过简单的问答方式实施黑客攻击,网络提供的“武林秘籍”让不懂代码、不懂技术的普通人成为黑客。

大模型等智能技术“飞入寻常百姓家”,网络“加速跑”,如何加强对数据安全和个人信息的新一轮保护?

厘清法律法规边界,明确行为指引。8月15日起施行的《生成式人工智能服务管理暂行办法》提出,“坚持发展和安全并重、促进创新和依法治理相结合的原则”“采取有效措施鼓励生成式人工智能创新发展,实行包容审慎和分类分级监管”。

“鼓励”和“包容审慎”等提法,体现了以支持促发展的基调,从制度层面规范推动行业向上向善。《办法》与已有的《网络安全法》《个人信息保护法》《数据安全法》等法律紧密衔接,网络安全政策法规体现的“四梁八柱”逐步构筑。

筑牢数字安全屏障,还要有技术利器。中国科学技术大学公共事务学院、网络空间安全学院教授左晓栋告诉《热评》,需要重视人工智能技术应用带来的挑战。一方面是因为技术对抗的难度加大了,另一方面是原有的很多管理规定可能不完全适用,这给监管模式带来了挑战。解铃还须系铃人,要以技术管技术。

本周,多项“黑科技”亮相网络安全博览会。深度伪造检测鉴定技术练就“火眼金睛”,安全检测平台在新模型上线前找到相关漏洞并修复……网络安全攻与防的“矛”和“盾”在快速更迭,数据生态的流动链条,要在发展中“边跑边管”。

保障网络和数据安全没有“万能药”。当万物互联,没有人会是一座孤岛。数字网络节点上的每一个行为主体,都是保障网络安全的一道关口。企业、社会组织、广大网民也应自觉成为网络安全卫士,推动“科技向善”。

这也是“网络安全为人民,网络安全靠人民”的要义。

(文丨陶郎)

来源:央视新闻客户端

相关推荐
免责声明
本文所包含的观点仅代表作者个人看法,不代表新火种的观点。在新火种上获取的所有信息均不应被视为投资建议。新火种对本文可能提及或链接的任何项目不表示认可。 交易和投资涉及高风险,读者在采取与本文内容相关的任何行动之前,请务必进行充分的尽职调查。最终的决策应该基于您自己的独立判断。新火种不对因依赖本文观点而产生的任何金钱损失负任何责任。

热门文章