2026亿擎云计算生态大会落幕,亿灵AISSD引领端侧推理新范式

号外
2026
11/05
10:02
分享
评论

11月4日,以“亿启生态擎动未来”为主题的2026亿道集团亿擎云计算生态大会在深圳湾万怡酒店圆满落幕。

大会伊始,亿道集团董事长张治宇发表开幕致辞,欢迎并感谢各位新老合作伙伴,介绍亿道AI战略:持续迭代适配AI落地的产品线,坚持软硬件协同;设立AI研究院深耕自研,打造易用、能用、好用的AI;依托端侧与边缘优势布局服务器业务,补齐算力版图,实现算力全矩阵覆盖。

随后,亿擎智算总经理王永兵分享行业洞察:算力需求正从集中采购转向千行百业分布式部署,推理成为增长主力;行业普遍面临定制难、交付复杂、TCO较高的痛点,同时蕴含机遇。亿擎智算定位全球化算力解决方案品牌商,立足多芯片平台,覆盖训练、推理全场景,提供软硬一体、开箱即用的全栈方案,深耕医疗、教育、制造、政企、能源等行业,联合伙伴做差异化交付。

本次大会汇聚Intel、安超云、奥威亚、津渡生科、北科瑞声、江波龙等重量级生态伙伴,围绕智能制造、智慧教育、智慧医疗、智慧会议、智慧办公、等垂直赛道,分享前沿解决方案与产业落地实践,集中呈现亿擎“中心—边缘—端侧”三层协同算力架构及全栈算力产品矩阵。亿道信息(001314.SZ)自研的亿灵Ailyn,是该云边端协同架构重要的端侧载体,现已与旗下亿擎智算的AI服务器、边缘算力盒子、存储产品深度打通。作为端侧AI智能中枢,亿灵Ailyn遵循“本地优先、云端增强、多端互联”的设计理念,构建“1+3+N”全栈赋能体系:以1个亿灵Agent为核心,联动亿道云、亿道支付、亿道AIHUB三大接口,面向N类行业场景开放端侧AI能力,助力生态伙伴快速打造私有化、本地化AI应用。

算力适配层面,亿灵搭建分层模型矩阵,包含4B个人助手、35BMoE部门“AI员工”、120B企业“AI专家”,适配差异化硬件算力条件。面向企业,可提供知识沉淀、AI客服、AI办公、AI管理四大能力;面向家庭场景,依托AI+NAS实现全屋智能设备互联;面向个人用户,串联会议纪要、内容创作、信息处理等高频任务。

长期以来,端侧部署大模型普遍面临“装不下、算不动”的痛点。传统全量权重驻留模式下,模型参数量越大,对内存容量的要求越高,对于PC等终端设备,运行数百亿参数大模型,居高不下的内存开销一直是一大瓶颈。

针对这一难题,亿道信息企业级研究院(亿道研究院)近期对外发布亿灵Ailyn配套AISSD异构推理技术,成功实现35B大模型本地推理,突破了传统方案要求全部权重常驻内存的限制。整套方案无需依赖多卡AI服务器,通过对终端本地存储、内存、算力资源的一体化调度,让大模型在终端上“装得进、跑得轻、跑得快”,为端侧AI规模化落地提供可落地的技术范本。

从搭建产业生态交流平台,到底层异构推理技术持续攻坚,亿灵Agent是亿擎智算云边端协同体系中的重要组成部分。依托AISSD异构推理技术,显著提升端侧设备存储、内存与算力的综合利用效率,大幅降低AI PC及各类智能终端运行大模型的部署门槛,也为端侧Agentic AI应用的规模化发展打开空间。面向Agentic AI的产业浪潮,亿擎智算持续夯实云边端一体化算力底座,而亿灵Ailyn与AISSD异构推理技术补齐了端侧轻量化推理的关键一环。

未来,公司将继续联合生态伙伴,持续打磨底层技术与场景方案,推动大模型从云端走向各类终端,让高能力大模型在更多私有化、本地化场景落地,助力AI应用走向普惠化。

THE END
广告、内容合作请点击这里 寻求合作
免责声明:本文系转载,版权归原作者所有;旨在传递信息,不代表砍柴网的观点和立场。

相关热点

相关推荐

1
3