- 資訊與博客
商湯大裝置接入DeepSeek企業版 同時開源AI開發框架LazyLLM
商湯科技於上海舉行的全球開發者先鋒大會(Global Developer Conference)宣佈商湯大裝置SenseCore兩項主要升級:接入DeepSeek企業版,,,,,,以及開源AI開發框架LazyLLM。。。。。。。
商湯大裝置DeepSeek企業版上線+免費版擴大容量
今年2月,,,,,,商湯大裝置萬象平台正式上線了DeepSeek-R1、DeepSeek-V3等模子,,,,,,並為免費版提供3個月內千萬Token額度,,,,,,受到客戶的熱烈響應。。。。。。。為了更好地服務用戶,,,,,,經過一系列優化,,,,,,現正式推出企業版,,,,,,亦完成免費版國產化適配與擴大算力容量。。。。。。。
為滿足各行業對DeepSeek系列模子應用的迫切需求,,,,,,並提升用戶體驗,,,,,,商湯大裝置特意上線DeepSeek-R1-Enterprise企業版,,,,,,提供高性能、高穩定性的服務包管,,,,,,實現推理性能行業領先、最大化推理效率,,,,,,提供一站式監控诉警,,,,,,助力模子服務實現效率與質量的飛躍。。。。。。。
别的,,,,,,商湯大裝置為企業用戶提供專家服務,,,,,,提供端到端解決计划,,,,,,包括:
l 模子定製服務:打造輕量化模子定製,,,,,,基於場景強化學習在特定場景提升基模子,,,,,,支持蒸餾到小模子高效推理;;;;;;
l 場景化綜合解決计划:涵蓋模子定製、模子開發平台、Agent應用開發平台三大焦点模塊,,,,,,提供全鏈路支持;;;;;;
l 快速全週期交付體系:專家團隊提供從業務診斷到系統落地的全週期服務,,,,,,最快14 天完成安排。。。。。。。
同時,,,,,,商湯大裝置已基於國產算力進行優化,,,,,,並擴大算力容量,,,,,,讓DeepSeek-R1模子惠及更多用戶。。。。。。。
l 國產化適配:完成多家主流國產晶片國產化適配,,,,,,支持運行DeepSeek-R1滿血版;;;;;;
l 國產化優化:完成國產芯片的8bit量化版本模子優化,,,,,,同時提供最優的算子、並行等计划,,,,,,包管極致推理性能;;;;;;
l 擴大算力容量:周全切換國產算力,,,,,,支持高併發、多人同時使用,,,,,,體驗不受影響。。。。。。。
商湯大裝置始終致力於為企業和開發者提供高效率、低本钱、規模;;;;;男滦腿斯ぶ悄芑A設施,,,,,,可支持商湯「日日新」融合大模子 SenseNova、DeepSeek、Qwen、Llama 等大模子。。。。。。。未來,,,,,,商湯將繼續提供強大的技術支持和全方位的服務包管,,,,,,持續為行業輸出高效、易用、普惠的 AI 雲服務,,,,,,幫助客戶實現業務場景的提智增效。。。。。。。
商湯大裝置網址:https://console.sensecore.cn/aistudio
開源「懶人必備」開發平台LazyLLM
大模子熱潮的持續高漲,,,,,,讓各類Agent應用開發需求也快速激增。。。。。。。商湯大裝置推出了開源、低代碼的大模子應用開發框架——LazyLLM,,,,,,幫助開發者以低至約10行的代碼,,,,,,輕鬆構建複雜、定製化的多Agent大模子應用。。。。。。。

「Lazy」意為「懶惰」,,,,,,商湯將其命名為「LazyLLM」,,,,,,希望用戶無需具備高明技術或複雜操作,,,,,,越「懶」,,,,,,就越能協助用戶輕鬆解決問題。。。。。。。
助力高效迭代:將商湯內部在大模子和應用開發中,,,,,,對AI Native開發範式的沉澱和經驗,,,,,,作為工具面向廣大開發者開源,,,,,,幫助各人以最簡單的要领和最少的代碼,,,,,,像積木一樣快速構建複雜、強大得多Agent AI應用原型。。。。。。。有了這一快速、高效、低門檻的途徑,,,,,,AI應用開發的門檻將大幅降低。。。。。。。
提升數據效果:採用以數據流為焦点的應用開發範式,,,,,,可透過Pipeline、Parallel等數據流拼接已有組件或其他開源軟件。。。。。。。
一鍵安排複雜應用:讓開發者得以更迅速地將意圖識別、知識庫檢索能力、大模子能力等組合在一起,,,,,,快速實現產品落地。。。。。。。待開發完成後,,,,,,智能體可一鍵將其安排至網頁、企業微信等平台。。。。。。。
國內外廣泛適配:LazyLLM還對多種模子服務進行了封裝,,,,,,讓開發者在對差别技術進行選型時,,,,,,也能獲得統一的體驗,,,,,,實現統一調用、統一服務、統一安排,,,,,,靈活試驗各種基模子、訓推框架與數據庫。。。。。。。别的,,,,,,LazyLLM還解決了部分國外工具本土化適配缺乏的問題,,,,,,並获得許多國內開發者認可。。。。。。。

以實現一個數學公式為例,,,,,,透過LazyLLM僅需10行代碼,,,,,,效率較LangChain、LlamaIndex提升30%-60%以上。。。。。。。

LazyLLM已在GitHub上開源,,,,,,歡迎廣大開發者體驗使用:
項目位址:https://github.com/LazyAGI/LazyLLM
項目文檔:docs.lazyllm.ai
萬象平台-一站式賦能AI應用落地全流程
商湯大裝置上的萬象平台是基於LazyLLM構建的完整的模子開發平台與Agent應用開發平台,,,,,,為用戶提供一站式的、AI 應用落地的全流程最優计划。。。。。。。
在低代碼的基礎上,,,,,,萬象平台徹底降低了對代碼的要求,,,,,,用戶可以不具備任何編程技巧,,,,,,最低不寫一行代碼,,,,,,只要懂業務的數據流程、數據鏈路,,,,,,就可通過可視化的拖拽操作,,,,,,自動天生代碼、完成安排,,,,,,快速搭建私有化大模子應用。。。。。。。

作為面向企業級模子開發與治理的一站式服務平台,,,,,,萬象平台具備模子治理、精調、推理、評測等全方位功效,,,,,,可提供商湯「日日新」大模子以及DeepSeek 等幾百種開源大模子,,,,,,做到開箱即用,,,,,,僅需一分鐘就可以搭建起整個應用開發的pipeline。。。。。。。隨後,,,,,,通過快速的搭建、試錯、上架、迭代以及使用,,,,,,實現從應用開發到迭代的完善閉環。。。。。。。其中,,,,,,針對用戶差别的場景特征,,,,,,商湯大裝置可基於差别模子進行高效推理和微調,,,,,,幫助用戶「花一塊錢的算力,,,,,,获得兩塊錢的效果」。。。。。。。在最近SuperCLUE 發布的針對DeepSeek-R1的第三方API測評中,,,,,,商湯大裝置位居免費版API排名第一,,,,,,充分體現了大裝置及萬象平台的工程能力。。。。。。。

现在,,,,,,商湯大裝置己通過LazyLLM和萬象平台為眾多行業提供 AI 應用落地的綜合解決计划,,,,,,覆蓋金融、建築、航空航天等10個行業場景,,,,,,並助力30餘家企業組織實現 AI 能力的提升與落地,,,,,,讓AI能力轉化為生產力,,,,,,實現數智化轉型升級。。。。。。。






返回