基本信息
******有限公司
项目预(概)算:预算未确定
联系信息:登录可查看
截止时间:2025-02-13 11:00:00
关键词:电脑及工作站
需求详情
需求描述:专业级硬件方案场景:支持30B-70B参数模型;中等并发推理,可扩展模型微调;多卡并行、高可用性、低延迟响应。参考配置:GPU集群:2×NVIDIA A100 80GB(PCIe/NVLink互联),支持4卡。CPU:双路AMD EPYC 7xx3(64核+/2.5GHz+)。内存:512GB DDR5 ECC。存储:4TB NVMe RAID 0 。网络:100Gbps InfiniBand/RoCEv2(多机扩展)
需求说明附件: