当前标签:大模型推理
让 32GB 内存能跑 GPT-OSS-120B:Nextorage 将推外接式 AI 加速硬件
一款名为Nextorage的外接式AI加速硬件即将问世,旨在让仅配备32GB内存的普通电脑流畅运行GPT-OSS-120B等百亿级大模型,通过专用硬件桥接与边缘计算优化,彻底打破AI算力的内存瓶颈。
256-bit 大位宽 LPDDR,江波龙发布 AIDIMM、AILPBGA 内存方案
江波龙发布基于LPDDR5/5x的AIDIMM与AILPBGA内存方案,单条AIDIMM达128GB容量、256bit位宽、307.2GB/s带宽,带宽为传统DDR5的3倍,为AI推理与训练提供大容量高带宽解决方案。
General Compute
General Compute 是全球最快的AI推理服务提供商,采用专用ASIC芯片提供极致性能。