5580元!闲鱼流出96GB显存整机,本地部署AI大模型有着落了!
5580元!闲鱼流出96GB显存整机,本地部署AI大模型有着落了!5580元,四张24GB P40,合计96GB显存。老计算卡就这么水灵灵地又上岗了。 这条闲鱼商品,卖家标称双路E5-2686 v4、64GB内存,不含硬盘,附M.2转接卡和导轨,仅限南京自提。
搜索
5580元,四张24GB P40,合计96GB显存。老计算卡就这么水灵灵地又上岗了。 这条闲鱼商品,卖家标称双路E5-2686 v4、64GB内存,不含硬盘,附M.2转接卡和导轨,仅限南京自提。
在 Cheeky Pint 采访中,OpenAI CEO 山姆・奥特曼称PC闲置内存用于本地AI利用率低且浪费全球DRAM,应将紧缺内存集中到云端AI数据中心,并认为内存厂商扩产保守已使“看不见的手”失灵。
XHEART新芯航途发布由大模型反向定义的智驾芯片X7 Ultra,面向十亿参数级模型、算力达700 TOPS,较行业旗舰芯片降低80%内存带宽消耗并提升100%推理能效。
9月30日,美光再次交出了一份创纪录的财报。
无量火科技与高通联合发布移动端解决方案,Ember推理引擎让未经额外改动的30B大模型在手机运行且质量无损,并将MoE与Dense模型内存占用分别降低80%和50%。
谷歌今年的一篇论文,愣是把存储芯片巨头的股价都给整出动静了。
一张96GB显存的专业卡卖13.8万元,一套128GB的DDR5内存逼近2.5万元。
什么?35B的MoE,在手机上也能跑得很丝滑?
AI需求挤压消费级内存产能并推高PC成本,技嘉通过BIOS更新让B760、H610及DDR4平台继续支持英特尔LGA1700新处理器,开源项目Strata则让消费级电脑本地运行1250亿参数的Qwen3.8-Flash-Next成为可能。
10月6日,谷歌开源EmbeddingGemma 2,把一个能搜图、看视频、听声音的搜索引擎,塞进了一个内存不到600MB的小模型!