首页 > AI资讯 > 最新资讯 > 人工智能是机遇更是挑战 专家建议需要从各方面强化监管

人工智能是机遇更是挑战 专家建议需要从各方面强化监管

新火种    2023-09-15

来源:央视网

央视网消息:作为网络安全宣传周重要组成部分,2023年网络安全博览会眼下正在福州举办,记者注意到,人工智能产业如何更好发展引发与会人员的

专家指出,任何技术都是有两面性的,生成式人工智能背后隐藏着一系列安全风险,对国家安全、社会安全、网络安全及数据安全均提出了新的挑战。

在安全方面,专家指出,排除人为干预,人工智能自身的安全问题也是显而易见的。

中国计算机学会(CCF)计算机安全专业委员会委员 程度:第一,在源头上,数据有可能被投毒,会被污染,这样原始训练的数据可能会有问题。第二,在训练的时候,有可能有大数据歧视算法在里面,有可能它不是一个公正的算法,会导致结果有问题。第三,在最后的输出阶段会有一个反馈的机制,反馈的机制有可能会注入一些恶意的数据或者样本,也会导致这个模型得出的答案有偏差。

那么,如何应对人工智能存在的隐患?专家表示,这需要从监管和从业人员以及企业层面共同努力来应对。

广东省数字政府网络和数据安全应急响应专家组专家 李新亮:针对AI可能带来的安全风险,我个人觉得,从国家层面要加快相关的立法,同时要尽快制定相关的行业标准。另外,对AI的从业人员来说 ,一定要加强相应的培训,让他们在使用AI技术的时候能够在国家法律法规的层面开展。从企业层面而言,在采集公民信息的合规性方面一定要充分考虑清楚,同时采集的这些数据在传输存储方面一定要加强数据保护方面的相关动作。

相关推荐
免责声明
本文所包含的观点仅代表作者个人看法,不代表新火种的观点。在新火种上获取的所有信息均不应被视为投资建议。新火种对本文可能提及或链接的任何项目不表示认可。 交易和投资涉及高风险,读者在采取与本文内容相关的任何行动之前,请务必进行充分的尽职调查。最终的决策应该基于您自己的独立判断。新火种不对因依赖本文观点而产生的任何金钱损失负任何责任。