上海浦东发展银行总行2025年大模型算力扩容及算力管控能力建设项目之异构算力及配套网络设备采购供应商征集公告
一、征集时间:2025年7月18日- 7月24日二、项目需求为紧跟金融科技创新技术发展动态,加快推动业务场景落地,推进大模型基础设施建设及八大助手应用场景,拟开展60P异构算力设备采购,现需要公开征集供应商报名。凡符合本公告要求的企业(制造厂或生产厂)均可自愿报名,并提交相关证明文件和材料,具体要求如下:(1)包件一:训练算力 采购内容 需求项 需求说明 异构算力****设备及配套络设备(用于大模型推理、微调、训练) 服务器技术指标 1. 总算力30P 2. CPU:海光处理器C86-4G 3. 内存:DDR5 DIMM 64G 5600MHz *24 4. 硬盘:系统盘480GBSATA-SSD(支持热插拔)*2;数据盘******** NVMe-SSD(支持热插拔)*4 5. 网卡:配置≥8* 200GE光口(含光模块);配置≥2* ****以太卡-25GE光口-双端口(含光模块) 6. Raid卡:配置1张RAID标卡,支持Raid0、1、5、10、50,缓存≥2G,支持断电保护 7. 电源:gt;=4 个热插拔电源模块,支持 N+N 冗余备份 8. 风扇:≥8个热插拔风扇模块 9. 6年原厂7x24x4现场保修,保修期内硬盘不返还 GPU技术指标 1. 配置国产化GPU 加速卡gt;=8张,支持计算节点内部 GPU 卡间互联。 2. 单卡算力不小于312 TFLOPS@FP16,整机算力不小于********@FP16。 3. 单卡显存不小于96GB,整机显存不小于768GB。 4. 支持16通道PCIe ********,支持128 GB/s 主控双向带宽。 5. 支持GPU虚拟化,可根据算力需求灵活切分 GPU 资源,可将一个物理GPU虚拟化成1/2/4个vGPU实例使用。 6. 单卡 GPU 最大 TDP 功耗不超过 400W。 7. 提供与kubernetes的兼容设备插件(Device Plugin),支持动态绑定GPU资源(整卡/多卡/虚拟化)至容器,因容器化挂载造成的性能损耗≤5%。 8. 提供显卡指标exporter实时采集GPU性能指标,指标内容须包括显卡AI core的利用率,显存的使用量以及显卡设备上运行的容器名或应用进程ID。 配套交换机技术指标 1. ****以太交换机,满足信创要求,数据中心级产品,CPU及转发芯片为国产信创自研芯片。 2. 性能:整机交换容量≥********(双向)、包转发率≥********Mpps。 3. 功能:需支持IPv4和IPv6双栈,###路由和OSPF、BGP、OSPFv3、BGP4+等###路由协议,支持PFC、ECN和RoCEv2,支****持与服务器卡配置LACP、支持M-LAG等###路聚合技术,支持VxLAN协议,支持BGP EVPN协议,支持VRRP,支持BFD,支持组播,支持Q0S,支持Telemetry和Netconf。 4. 端口:支持400GE及以上端口。 (2)包件二:多模态推理 异构算力****设备及配套络设备(用于多模态大模型推理) 服务器技术指标 1. 总算力15P 2. CPU:海光处理器C86-4G 3. 内存:DDR5 DIMM 64G 5600MHz *24 4. 硬盘:系统盘480GBSATA-SSD(支持热插拔)*2;数据盘******** NVMe-SSD(支持热插拔)*4 5. 网卡:配置≥8* 200GE光口(含光模块);配置≥2* ****以太卡-25GE光口-双端口(含光模块) 6. Raid卡:配置1张RAID标卡,支持Raid0、1、5、10、50,缓存≥2G,支持断电保护 7. 电源:gt;=4 个热插拔电源模块,支持 N+N 冗余备份 8. 风扇:≥8个热插拔风扇模块 9. 6年原厂7x24x4现场保修,保修期内硬盘不返还 GPU技术指标 1. 配置国产化GPU 加速卡gt;=8张,支持计算节点内部 GPU 卡间互联 2. 整机算力不小于********@FP16 3. 单卡显存不小于64GB,整机显存不小于512GB 4. 支持16通道PCIe ********,支持128 GB/s 主控双向带宽 5. 支持千问系列等多模态大模型,整机部署********在8并发场景下单交易吞吐量不低于10tokens/s。 6. 提供与kubernetes的兼容设备插件(Device Plugin),支持动态绑定GPU资源(整卡/多卡/虚拟化)至容器,因容器化挂载造成的性能损耗≤5%。 7. 提供显卡指标exporter实时采集GPU性能指标,指标内容须包括显卡AI core的利用率,显存的使用量以及显卡设备上运行的容器名或应用进程ID 配套交换机技术指标 1. ****以太交换机,满足信创要求,数据中心级产品,CPU及转发芯片为国产信创自研芯片。 2. 性能:整机交换容量≥********(双向)、包转发率≥********Mpps。 3. 功能:需支持IPv4和IPv6双栈,###路由和OSPF、BGP、OSPFv3、BGP4+等###路由协议,支持PFC、ECN和RoCEv2,支****持与服务器卡配置LACP、支持M-LAG等###路聚合技术,支持VxLAN协议,支持BGP EVPN协议,支持VRRP,支持BFD,支持组播,支持Q0S,支持Telemetry和Netconf。 4. 端口:支持400GE及以上端口。 (3)包件三:文本推理 异构算力****设备及配套络设备(用于文本大模型推理) 服务器技术指标 1. 总算力15P 2. CPU:海光处理器C86-4G 3. 内存:DDR5 DIMM 64G 5600MHz *24 4. 硬盘:系统盘480GBSATA-SSD(支持热插拔)*2;数据盘******** NVMe-SSD(支持热插拔)*4 5. 网卡:配置≥8* 200GE光口(含光模块);配置≥2* ****以太卡-25GE光口-双端口(含光模块) 6. Raid卡:配置1张RAID标卡,支持Raid0、1、5、10、50,缓存≥2G,支持断电保护 7. 电源:gt;=4 个热插拔电源模块,支持 N+N 冗余备份 8. 风扇:≥8个热插拔风扇模块 9. 6年原厂7x24x4现场保修,保修期内硬盘不返还 GPU技术指标 1. 配置国产化GPU 加速卡gt;=8张,支持计算节点内部 GPU 卡间互联 2. 单卡算力不小于180 TFLOPS@FP16,整机算力不小于********@FP16; 3. 单卡显存不小于64GB,整机显存不小于512GB 4. 单卡 GPU 最大 TDP 功耗不超过 350W 5. 提供与kubernetes的兼容设备插件(Device Plugin),支持动态绑定GPU资源(整卡/多卡/虚拟化)至容器,因容器化挂载造成的性能损耗≤5%。 提供显卡指标exporter实时采集GPU性能指标,指标内容须包括显卡AI core的利用率,显存的使用量以及显卡设备上运行的容器名或应用进程ID 配套交换机技术指标 1. ****以太交换机,满足信创要求,数据中心级产品,CPU及转发芯片为国产信创自研芯片。 2. 性能:整机交换容量≥********(双向)、包转发率≥********Mpps。 3. 功能:需支持IPv4和IPv6双栈,###路由和OSPF、BGP、OSPFv3、BGP4+等###路由协议,支持PFC、ECN和RoCEv2,支****持与服务器卡配置LACP、支持M-LAG等###路聚合技术,支持VxLAN协议,支持BGP EVPN协议,支持VRRP,支持BFD,支持组播,支持Q0S,支持Telemetry和Netconf。 4. 端口:支持400GE及以上端口。
本招标项目仅供正式会员查看,您的权限不能浏览详细信息,联系工作人员办理入网升级。
联系人:徐煜
手机:13520858862(欢迎拨打手机/微信同号)
邮箱:xuyu@dlzb.com
电话:400-111-8900
QQ:1784703670

该项目仅供银牌会员及以上会员查看

立即注册 立即登录 点击对接负责人
相关公告