当前标签:内存优化
英特尔第 3 代酷睿 Ultra 处理器适配群联 aiDAPTIV:16GB 内存能跑 26B 模型
英特尔第三代酷睿Ultra处理器结合群联aiDAPTIV技术,让仅16GB内存的轻薄本也能流畅运行高达26B参数的大模型,AI能力正式“轻盈”落地主流设备。
谷歌突破性算法震惊硅谷
谷歌发布的TurboQuant算法能在不影响精度的情况下大幅压缩内存占用,引发市场对内存需求降温的预期和华尔街的激烈辩论。
谷歌新论文把内存股价干崩了!KV cache压缩6倍,网友:硅谷成真了 profile-avatar
谷歌一篇新论文通过KV cache压缩技术大幅降低内存需求,引发市场对高带宽内存(HBM)和DRAM未来需求的担忧,导致存储芯片股重挫。