首页 > AI资讯 > 最新资讯 > 当端侧革新遇见群体智能:Yan1.3解密AGI新路径

当端侧革新遇见群体智能:Yan1.3解密AGI新路径

新火种    2024-09-30

「消息」9月26日,RockAI“真端侧·智无界”开放日活动在上海举行,正式推出了全新升级的Yan1.3大模型,并展示了其在无人机、机器人、PC、手机等各类终端设备上的超强模力。

相较于1月份首发的Yan1.0,Yan1.3具备了强大的多模态能力,可高效处理图文及语音等多模态信息,并实现了模型在更广泛设备端上的离线无损部署,普通电脑CPU上也能够流畅运行。

CEO刘凡平表示:“在AGI这个终极命题下,无论是云端还是端侧,都只是实现智能普惠及跃迁的一个载体。RockAI始终坚信,只有真正提升每一台设备的自我学习能力,才能激发更高级别智能形态即群体智能的涌现。”

当端侧革新遇见群体智能:Yan1.3解密AGI新路径

端侧智能“全家桶”:多模加成,各显神通

活动现场,RockAI团队展示了一款部署了Yan1.3大模型的“飞龙”无人机。区别于大多数云、边、端协同控制的无人机,飞龙的智能大脑Yan1.3直接部署于设备端,对突发状况能做出即时判断和处理,无需先传回云端判定再回到设备端执行,大大提升无人机在复杂环境中的适应性和自主性,实现高度的自动化水平和快速反应能力。如与某厂商合作的无人机项目,便能解决设备将高清画面传回云端,所产生的5G-A流量成本高的痛点。

在实际应用方面,部署了Yan1.3的飞龙无人机,可全面感知复杂环境并在设备端实时处理,支持各类环境下的智能巡检,不仅高效适配电力巡检、安全监控、环境监测等城市治理及工业场景;更可面向个人用户,广泛运用于AI拍摄、外出旅游、山地越野等日常生活情景,贴心勘探环境、规划行程的同时,还能够解放双手,自动捕捉最佳角度并挑选出最佳照片。

当端侧革新遇见群体智能:Yan1.3解密AGI新路径

此外,研发团队还演示了Yan1.3在更多端侧设备的广泛应用,比如此前惊艳亮相世界人工智能大会的 “胖虎”智能机器人,能够基于Yan1.3的多模态处理能力,在离线状态下识别复杂环境、准确理解用户意图,并据此控制其机械躯体高效完成各类复杂任务,如展现“七步成诗”“咏春拳法”等。

当端侧革新遇见群体智能:Yan1.3解密AGI新路径

又比如内嵌在PC端的迅兔智能助手,可以在离线模式下听懂“人话”、看懂图片并快速搜图,精准完成“帮我录音并整理会议记录”、“把所有橘猫图片都删掉”等模糊指令,保护用户隐私安全的同时,真正让每个人享受到AI带来的便利。

RockAI认为,真正的智能是不应受限的,因此,他们始终坚定地走在非Transformer架构、无损部署这条少有人走的路上。如今,未经压缩、裁剪的Yan1.3大模型在越来越多设备端展现出的丝滑适配和超强模力,正向行业证实RockAI技术路线的合理性,及其最终激发群体智能的充分可能。

多元化适配:打通商业化路径

在RockAI的规划中,群体智能的实现包括四个阶段:创新型基础架构、多元化硬件生态、自适应智能进化、协同化群体智能。如果说自主架构的Yan模型是走向群体智能的开端,那么此次发布的Yan1.3群体智能单元大模型,显然已经快速实现了在多元化硬件设备上的适配。其在端侧的无损推理基于两大核心技术创新,一是以底层神经网络架构MCSD替代Transformer的Attention机制,二是基于仿生神经元驱动的选择算法实现类脑分区激活,大大减少计算复杂度及算力消耗。

众所周知,Attention机制是Transformer架构的核心,其加权算法决定了计算量会随着序列长度的增加呈O(n^2 )增长,对计算的算力要求也会越来越高。而RockAI通过MCSD机制替换掉Attention,只把最有效的信息、特征往后传,以线性的方式降低计算的复杂度,提升训练和推理效率。

同时,RockAI借鉴了大脑分区激活的原理,由选择神经网络自己决定处理某个任务时参与运算的神经元,初始具有随机性,但通过大量数据学习、训练后会变得有迹可循。就像人类一样,随着一件事情做的越多,被激活的那部分神经元就会越确定,反应也就越快。基于该算法实现的模型分区激活,不仅节省了算力成本,还可以通过共享神经元实现多模态的对齐。

经过对不同硬件的研究和大量调试,目前RockAI已经适配了英伟达、高通、联发科、英特尔、瑞芯微等平台,商业化进程也在不断加速。随着自主学习机制进入实验室测试阶段,RockAI也与芯片厂商及终端厂商达成初步合作意向,突破硬件限制,打造越来越多基于Yan架构的智能单元,让世界上每一台设备拥有自己的智能。

未来,期待这些拥有不同能力、不同个性的智能单元得以协同,涌现更为宏大、多元的群体智能,最终实现个性化与群体智能的共融共生,开启人与机器的智能新时代。

当端侧革新遇见群体智能:Yan1.3解密AGI新路径

Tags:
相关推荐
免责声明
本文所包含的观点仅代表作者个人看法,不代表新火种的观点。在新火种上获取的所有信息均不应被视为投资建议。新火种对本文可能提及或链接的任何项目不表示认可。 交易和投资涉及高风险,读者在采取与本文内容相关的任何行动之前,请务必进行充分的尽职调查。最终的决策应该基于您自己的独立判断。新火种不对因依赖本文观点而产生的任何金钱损失负任何责任。