- 資訊與博客
商湯大裝置SenseCore 2.0全新升級 以極致性價比加速大模子落地
商湯科技於上星期四舉辦的2025技術交流日上宣佈商湯大裝置SenseCore 2.0全新升級,,,,,以極致性價比推動大模子技術的高效落地與規模;;;;;瘧,,,,,同時擁抱開源,,,,,打造零本钱、零門檻、零開發的一站式模子服務。。。。。。。商湯還發佈了面向具身智能、AIGC、AI4S以及傳統企業智能化轉型的四大行業解決计划,,,,,為企業提供全流程AI服務支持,,,,,全棧賦能各行業智能化升級。。。。。。。

商湯科技聯合創始人、大裝置事業群總裁楊帆体现:「商湯大裝置SenseCore 2.0希望依託更迅速、更靈活、更可靠的平台能力,,,,,積極擁抱開源生態,,,,,通過提供更高性價比的產品服務和一系列行業解決计划,,,,,將商湯多年積累的焦点能力與生態夥伴的行業優勢充分整合,,,,,為差别行業、差别場景的客戶提供貼身的解決计划,,,,,切實幫助客戶解決技術、產品和商業化問題,,,,,從而推動人工智能產業的長遠發展。。。。。。。」
實現國產算力規模;;;;;逃,,,,,多模態推理本钱持平大語言模子實現極致性價比
性價比是大模子應用的生死線。。。。。。。现在AI產業發展面臨多重本钱壓力:供應鏈本钱變化快導致算力供需波動大,,,,,國產芯片亦保存產能有限、種類繁多以及使用率較低等挑戰;;;;;;模子參數量的指數級增長,,,,,使訓練本钱持續增添;;;;;;推理本钱大幅下降帶動需求爆發增長,,,,,導致總算力消耗進一步加劇。。。。。。。商湯大裝置實現了異構算力混淆計算使用率和推理本钱的顯著突破,,,,,以極致性價比幫助客戶更早突破本钱限制。。。。。。。
在國產芯片方面,,,,,商湯大裝置異構訓練效率可達同構訓練的95%。。。。。。。同時,,,,,商湯大裝置聯合某頭部客戶進行了大規模異構混訓,,,,,基於異構算力調度、自動並行战略、跨芯通讯、自動容錯恢復等焦点技術,,,,,在5,000張國產GPU集群上實現1個月穩定異構混訓,,,,,算力使用率達到80%,,,,,乐成突破單一GPU限制,,,,,有力推動國產算力的規模;;;;;逃眠M程。。。。。。。

别的,,,,,商湯大裝置通過基礎設施、模子優化和動態負載平衡優化,,,,,實現了多模態大模子推理本钱與大語言模子持平。。。。。。。同時,,,,,其在線推理性能較頭部廠商提升15%,,,,,離線推理Prefill階段實現提速5倍、Decode階段提速3.5倍,,,,,為大模子技術的應用提供極致性價比的基礎設施服務。。。。。。。
擁抱開源,,,,,打造零本钱、零門檻、零開發的一站式模子服務
數據顯示,,,,,開源模子能力已靠近閉源模子,,,,,這帶動了企業應用需求快速湧現。。。。。。。商湯大裝置積極擁抱開源主流趨勢,,,,,通過OpenAPI兼容、K8S原生平台適配、開源大模子託管服務、全棧開源工具鏈及豐富的開源組件等,,,,,實現了技術棧的無縫整合與迅速迭代,,,,,滿足快速發展的技術棧應用需求。。。。。。。
面向差别客戶群體,,,,,商湯大裝置可提供「零本钱遷移、零門檻使用、零開發安排」的一站式模子服務。。。。。。。其中,,,,,極客創業團隊可通過標準化的 k8s API直接對接商湯大裝置,,,,,完成應用組件、日誌、監控等無縫遷移並實現彈性擴展;;;;;;應用企業可在模子廣場中直接選擇DeepSeek等開源主流模子,,,,,一鍵安排和微調,,,,,實現模子託管與零門檻使用;;;;;;互聯網平台企業則可借助 JuiceFS 緩存和Volcano 優化等技術,,,,,提升開源计划在生產環境的穩定性等。。。。。。。
四大行業解決计划亮相,,,,,從場景定義到業務落地全鏈路賦能
多模態大模子的突破,,,,,正快速激活各類新場景、新模式,,,,,好比席捲全球的GPT-4o「吉卜力風」、形態各異的AI機器人等,,,,,激發行業大宗跨模態能力需求。。。。。。。买通從產品到多模態場景的端到端行業解決计划,,,,,是AI 2.0時代新興行業加速技術落地,,,,,傳統行業實現數智升級的「快車道」。。。。。。。此次,,,,,商湯大裝置面向具身智能、AIGC、AI4S以及傳統企業智能化轉型推出四大行業解決计划,,,,,針對差别行業客戶提供從場景定義到業務落地的全鏈路賦能,,,,,真正解決智能化落地最後一公里難題。。。。。。。

其中,,,,,具身智能解決计划能夠端到端賦能技術研發,,,,,覆蓋數據生產、工具支撐及模子研發全流程。。。。。。。針對具身智能數據生產需求,,,,,可提供「仿真+真機」雙通道,,,,,雲上通過全棧工具鏈實現仿真數據天生、模子驗證;;;;;;並依託商湯全國智算佈局支持跨地区數據採集匯聚,,,,,實現分鐘級同步,,,,,並結合智能分級存儲有用控制本钱。。。。。。。會上,,,,,商湯與松應科技簽署戰略相助協議,,,,,雙方將在數據仿真、研發管線、客戶服務層面展開周全相助。。。。。。。







返回