
新浪科技讯 3月4日上昼音书,近日,联思集团晓示基于联思问天WA7780 G3做事器,在行业内初次齐全单机部署DeepSeek-R1/V3 671B大模子,以低于行业公认1TGB显存(执行768GB)承载多并发用户引导体验,不错欣忭千东说念主企业的使用需求,为行业确立了企业级大模子部署新基准。
当作大家暖和的焦点,无边企业正准备在土产货化部署DeepSeek大模子。联系词,在落地捏行经过顶用户大宗濒临以下漏洞方案贫困:单机能否部署满血版DeepSeek R1?所需最低建树是什么?怎样确保高并发与笼统量下的优质体验?怎样幸免采购陷坑?
联思这次打破为企业提供科学选型指南。针对行业公认1TB显存是千亿参数大模子运转基线的配景下,联思研发团队通过内行并行优化、智能访存架构升级及PCIe 5.0全互联架构篡改,大幅莳植了显存应用率,从而齐全了性能的莳植。
据了解,联思WA7780 G3做事器在2月初已齐全单机768GB GPU显存条目下部署DeepSeek 671B R1和V3满血模子,并能欣忭中小企业的并发需求。进而通过联思万全异构智算平台的访存优化,内行并行调用政策等时间优化技能,齐全了单机一个月内并发材干增长10倍, 同期还莳植了每路用户的TPOT、TTFT等玄虚性能体验。(罗宁)
海量资讯、精确解读,尽在新浪财经APP
包袱剪辑:江钰涵 九游体育娱乐网