当前位置：首页 > 上海厂房信息 > 正文内容

应对算力需求井喷！上海打造智能算力资源统筹调度服务平台支撑大模型与行业应用发展

admin2个月前 (03-07)上海厂房信息117

　　中小企业创新成本，在上海市经济信息化委指导下，上海仪电将牵头建设上海市智能算力资源统筹调度服务平台（以下简称“上海调度平台”），平台旨在通过精准匹配多方供需，融合调度各方资源，支撑和繁荣上海大模型创新生态。

　　上海调度平台将包含算力超市、算力纳管、算力融合等主要功能板块。算力超市核心定位为“构建算力交易生态，促成供需多边交易”，包括算力产品商城、算力招标市场等两部分。算力纳管核心定位为“汇总监测、计费、资源统计等数据，实现算力的统筹调度”，包括交易直连、监控计费数据上报、可视化数据分析等三部分。算力融合核心定位为异构异域算力资源管理和调度，包括算力调度、任务调度、算力补贴闭环管理三部分。

　　近日，在由上海仪电主办，上海仪电旗下上海智能算力科技有限公司（以下简称“智算科技”）与云赛智联股份有限公司联合承办的“智算擎产业·垂类启新章”专场活动上，上海市智能算力资源统筹调度服务平台生态合作伙伴与算力合作伙伴共建签约仪式顺利举行。智算科技携手、无问芯穹、基流科技、库帕思、硅基流动、清程极智、奇岱松、松应科技、智能汽车创新发展平台等9家创新企业，进行了平台生态合作联盟共建签约。智算科技还携手上海电信、上海移动、上海联通、阿里云、商汤科技、碳和科技、上海算丰、世纪利通等8家算力合作伙伴，进行了算力合作伙伴共建签约。

　　智算科技总经理孙跃对记者表示，DeepSeek的成功充分体现了创新生态对产业发展的重要作用。作为国资功能性平台企业，智算科技既要支撑好基础大模型的发展，也要服务好中小微企业和垂类应用。统筹全社会闲散算力资源，以低成本、普惠化算力厚植生态创新沃土、繁荣大模型创新生态，支撑中小企业、开源社区乃至个人开发者的研究探索，是上海调度平台的定位。“我们在市经信委等相关政府职能部门的指导和支持下，进一步把算力资源在相对统一的平台上进行调度和资源统筹，进一步解决供需匹配问题，提高算力使用的效率、降低企业创新成本。”

　　通用或行业大模型的研发训练和部署都离不开大量的算力支撑，但对于中小企业和初创企业来说，这是一笔不小的负担。

　　“如果能降低企业算力成本，创新就会更加活跃。我们希望通过上海调度平台来进一步降低创新成本，更精准地把供需双方进行匹配，融合调度多方的算力资源，来支撑整个大模型生态。这既涉及到算力供给企业，也涉及到参与整个调度平台的相关技术开发的企业。”孙跃称。

　　谈及大模型所引发的算力需求风暴，孙跃表示，自百模大战以来，在2023年至2024年，训练算力占据了算力需求的很大部分。如今，随着大模型往不同的垂类行业渗透，推理需求也在快速增长。“这是一个非常明显且重要趋势，像DeepSeek采用自我博弈和多轮强化学习实现自我优化，训练过程中间也会采用很多生成的数据，导致其在训练过程中也会用到大量推理算力。”

　　春节期间，DeepSeek在全球范围内迅速爆火出圈，孙跃的一大感受是各个行业都在积极接入DeepSeek平台，进一步带动对推理算力的需求。

　　“需要指出的是，算力需求本质上仍是训推相结合的市场，而不是简单地划分为训练算力和推理算力。训练算力依然有需求。而且从目前的趋势来看，算力依然是符合scaling law规则，符合规模效应，依然继续在增长。但因为行业应用打开了，会带来推理需求的快速增长。”孙跃强调。

　　而 Deepseek大模型的成功对算力并非利空，反而有诸多促进算力需求增长的因素。

　　“DeepSeek拥有非常强的工程能力，确实提高了算力使用的效率。但前提条件还是必须得有足够的算力，这样提升算力效率才有意义。并非DeepSeek大模型出现后，算力就不那么重要了。因此，对智算中心来说，需要更好地提升整体资源统筹调度和服务能力。目前正在做的上海调度平台，就是希望把运营商、云厂商、其他厂商的算力资源可以运用起来，进一步提高使用效率，让供需双方更好地实现资源调配。”孙跃认为。

　　据悉，上海仪电已经投产了多个“大规模、高等级”万卡智算集群。谈及后续规划，孙跃称会进一步扩大算力规模。“目的是为了符合现在产业发展的趋势，更好地支撑上海乃至长三角的创新生态，服务企业、科研机构的算力需求。”

　　集群建设方面，仪电智算云率先实现了对国产智算芯片的异构纳管，全面支持沐曦、壁仞、天数、华为等智算芯片的软硬件适配。算力效率方面，支持容器化调度和大模型自动续训，有效训练时间占比达99%以上。应用部署方面，支撑了阶跃星辰Step、书生浦语、商汤日日新、MiniMax ABAB、DeepSeek、Llama3、通义千问等大模型的高效部署和加速，并内置“一站式”模型研发平台。

　　“国产芯片和英伟达的区别主要在软件生态上。这不光是芯片企业要努力的，我们也希望发挥平台作用，把上下游软件和硬件都能够整合起来，打造一个全栈的国产生态，更好地服务大模型行业。”孙跃表示。