您现在的位置是：探知 >>正文
搁置高端另辟蹊径 28nm芯片单卡运行千亿参数大模型
探知84335人已围观
简介当下英伟达、AMD继续深耕先进制程，依靠堆叠HBM显存打造高端AI加速卡，而中国台湾企业Skymizer另辟蹊径，采用成熟老旧技术推出差异化硬件方案。该企业发布HTX301 PCIe AI加速器，搭载 ...
当下英伟达、搁置高端AMD继续深耕先进制程，辟蹊依靠堆叠HBM显存打造高端AI加速卡，芯行千而中国台湾企业Skymizer另辟蹊径，片单采用成熟老旧技术推出差异化硬件方案。卡运
该企业发布HTX301 PCIe AI加速器，搭载28nm自研芯片，模型搭配LPDDR4/5内存，搁置高端搁置行业主流的辟蹊HBM、GDDR显存。芯行千其单卡便可运行7000亿参数大语言模型。片单设备集成6颗协同芯片，卡运最高拥有384GB内存，亿参功耗仅240W，模型凭借专属压缩技术，搁置高端推理性能较开源框架提升9%至17.8%。
对比竞品，英伟达、AMD同类产品功耗均为其两倍以上。该加速卡为标准PCIe规格，适配平常风冷服务器，降低部署成本，同时规避云端隐私泄露风险。
目前性能数据仅为官方公布，暂无第三方验证，厂商计划在今年台北电脑展展示实机，接纳专业机构全面检测。对此，你怎么看呢?迎接在评论区留言讨论。
Tags：
相关文章
带52岁的妈妈在游戏里作战
探知52岁的杨秀蓉和女儿曾共同夺得某手游全国大赛四川省成都赛点的冠军，杨秀蓉本人获得决赛MVP。受访者供图）2023年，52岁的杨秀蓉在游戏圈的存在感骤增。虚拟世界里，她以“夕阳红阿姨”“大浪”的名头为人 ...
【探知】
阅读更多霸道局长另一面：“有这么好的爸你都不知足？”｜记者手记
探知付雪海此前接受媒体采访画面。资料图“能人”，是我在采访付雪海过往经历过程中，从不同受访者嘴里听到的一个形容词。他“能”在什么地方呢？有人说他是个嚣张跋扈的打手，“心狠手辣”，令闻者畏惧；有人说他“坏外 ...
【探知】
阅读更多小区频频上演抢桩、抢车位，如何实现电动车“充电自由”？
探知“充电难”的问题，在老旧小区占比高的上海、北京等城市更加突出。图为电动车在小区车位直接充电。周方|摄尽管每天的工作围绕充电桩，但张猛依然解决不了自己小区的“充电难”问题。这位上海新能源汽车充电企业“特 ...
【探知】
阅读更多