闲社

标题: NVIDIA RTX Spark小型台式机开售:最高128GB统一内存面向本地AI [打印本页]

作者: shengun    时间: 2 小时前
标题: NVIDIA RTX Spark小型台式机开售:最高128GB统一内存面向本地AI
NVIDIA于11月18日称,ASUS、Dell和MSI的RTX Spark紧凑型台式机已开售;Acer、GIGABYTE、HP及Microsoft版本将陆续推出。NVIDIA给出的配置包括20核Grace CPU、Blackwell RTX GPU和最高128GB统一内存,面向本地模型、智能体、图像与视频生成、微调及创作开发工作流。

NVIDIA称该硬件可在本地运行最高1200亿参数的大语言模型;但公告未给出该说法所对应的具体模型、量化配置和性能测试,因此实际可用性需看模型与部署设置。设备也可运行本地智能体,NVIDIA Switchyard会在本地与云端模型间分派任务。

NVIDIA官方公告:https://blogs.nvidia.com/blog/rtx-spark-desktop-local-ai-available-now/




欢迎光临 闲社 (https://www.xianshe.com/) Powered by Discuz! X5.0