您现在的位置是:探知 >>正文
搁置高端另辟蹊径 28nm芯片单卡运行千亿参数大模型
探知767人已围观
简介当下英伟达、AMD继续深耕先进制程,依靠堆叠HBM显存打造高端AI加速卡,而中国台湾企业Skymizer另辟蹊径,采用成熟老旧技术推出差异化硬件方案。该企业发布HTX301 PCIe AI加速器,搭载 ...
当下英伟达、搁置高端AMD继续深耕先进制程,辟蹊依靠堆叠HBM显存打造高端AI加速卡,芯行千而中国台湾企业Skymizer另辟蹊径,片单采用成熟老旧技术推出差异化硬件方案。卡运

该企业发布HTX301 PCIe AI加速器,搭载28nm自研芯片,模型搭配LPDDR4/5内存,搁置高端搁置行业主流的辟蹊HBM、GDDR显存。芯行千其单卡便可运行7000亿参数大语言模型。片单设备集成6颗协同芯片,卡运最高拥有384GB内存,亿参功耗仅240W,模型凭借专属压缩技术,搁置高端推理性能较开源框架提升9%至17.8%。

对比竞品,英伟达、AMD同类产品功耗均为其两倍以上。该加速卡为标准PCIe规格,适配平常风冷服务器,降低部署成本,同时规避云端隐私泄露风险。

目前性能数据仅为官方公布,暂无第三方验证,厂商计划在今年台北电脑展展示实机,接纳专业机构全面检测。对此,你怎么看呢?迎接在评论区留言讨论。
Tags:
上一篇:日本熊本地震已致17人死亡
相关文章
2023软科世界一流学科排名:中国内地收获17个世界第一学科
探知10月27日,高等教育评价专业机构软科正式发布2023“软科世界一流学科排名”ShanghaiRanking's Global Ranking of Academic Subjects)。2023年排 ...
【探知】
阅读更多海事分析公司:伊朗哈尔克岛恢复原油装载作业
探知总部位于英国的海事分析公司温沃德4日发布报告说,卫星图片显示,伊朗重要石油出口枢纽哈尔克岛已恢复装载作业。报告说,6月2日获取的卫星图像显示,一艘超大型油轮停靠在哈尔克岛西部海上终端码头附近。这是自5 ...
【探知】
阅读更多深圳个人破产试点五年:810例申请,无一逃废债
探知申请人中65%以上是创业者,72%的人负债在200万元以下。图为深圳街头。视觉中国/图国内的个人破产制度始于2021年3月,在深圳开启试点。2025年11月,厦门开始试点,目前全国仅有这两座试点城市。 ...
【探知】
阅读更多