商汤研究始终坚持原创，，，，，，一直突破立异。。。。。。具有人工智能领域深挚的学术积累，，，，，，具备健全的人才作育机制，，，，，，已与海内外五十余所一流高校和科研院所建设了深度相助关系，，，，，，并与众多行业同仁同心共建AI生态圈。。。。。。

新闻中心

< 返回新闻中心

GDC 2024 | 商汤大装置加速大模子能力下沉，，，，，，构建智能盘算新生态

2024-03-28

大模子手艺一连突破前沿，，，，，，怎样加速向工业“下沉”？？？？？？

3月23~24日，，，，，，2024全球开发者先锋大会（GDC）在上海乐成举行。。。。。。时代，，，，，，商汤科技大装置执行总监乐成，，，，，，以及商汤科技大装置产品总监陈希受邀出席大会分论坛运动，，，，，，围绕大模子前沿开发、智能盘算立异等话题分享前瞻洞见，，，，，，共话智能生态构建。。。。。。

以系统化基础能力支持，，，，，，加速大模子向下演进

去年以来，，，，，，天生式AI取得了奔腾式的生长，，，，，，并一直从简单模态向多模态演进。。。。。。那么，，，，，，尚有哪些因素是大模子生长的要害？？？？？？

在GDC 2024大模子前沿论坛上，，，，，，商汤科技大装置执行总监乐成以为，，，，，，大模子在许多场景下已经具备了强盛的基础能力，，，，，，但在推理和妄想执行能力方面还需要继续突破。。。。。。同时，，，，，，效率和本钱也是大模子生长的要害因素，，，，，，需要以更低的本钱、更快的速率触达应用并形成闭环。。。。。。

乐成还分享了大模子在向下游手艺演进历程中需要突破的主要挑战。。。。。。

其一是多模态融合的挑战，，，，，，需要有用地将更多差别模态举行深度融合，，，，，，提高模子对多模态数据的明确和处置惩罚能力。。。。。。

其二是模子性能与本钱平衡的挑战，，，，，，需要在模子小型化的同时尽可能坚持原有模子性能，，，，，，特殊是知足小我私家场景下端侧模子、端云协同的应用需求。。。。。。

别的，，，，，，随着大模子标准的提升和训练数据的增添，，，，，，行业还需要一套高效的大规�；；；；；∩枋�，，，，，，以提供包括高质量的数据管线、周全的评价系统、完善的工具链等系统化的底层支持。。。。。。

乐成体现，，，，，，SenseCore 商汤大装置沉淀了整套大模子基础设施能力，，，，，，不但可效劳于众多企业和科研院所的开发者，，，，，，很快也会向小我私家开发者周全开放。。。。。。

在AI基础设施之上，，，，，，SenseCore 商汤大装置将推出全新升级的大模子效劳平台和开发者工具，，，，，，并向社区免费提供万万级算力津贴、万亿token大模子挪用资源。。。。。。

商汤希望通过大装置引发整个社区的实力，，，，，，携手更多开发者配合探索大模子能力前沿，，，，，，拓展手艺界线。。。。。。

高效率、低本钱智算基础设施 赋能AI生产新范式

大模子时代，，，，，，盘算量、模子参数和数据集规模都在快速增添从而一直推升模子的“智能”水平，，，，，，其背后遵照的就是标准定律。。。。。。同时，，，，，，随着AI在各行各业的落地向深水区挺进，，，，，，人工智能基础设施化已成为一定趋势。。。。。。

在GDC 2024曙光智能盘算开发者讲坛上，，，，，，商汤科技大装置产品总监陈希分享了依托SenseCore商汤大装置，，，，，，商汤科技在智能盘算领域的探索和实践。。。。。。

第一，，，，，，加速国产算力结构。。。。。。通过与众多国产算力厂商相助，，，，，，商汤与上下游工业同伴配合推动国爆发态建设，，，，，，完成多款芯片与框架适配，，，，，，落地1500P国产算力集群，，，，，，起劲推进芯片评价标准和系统的完善，，，，，，加速整个国产算力商业化历程。。。。。。

第二，，，，，，一连探索标准定律界线。。。。。。随着大模子的参数目朝向万亿以上级别激增，，，，，，稳固、高效的超大规模算力调理和训推引擎成为焦点基石。。。。。。

SenseCore 商汤大装置拥有万卡规模异构算力池，，，，，，可知足万亿参数大模子训推需求，，，，，，实现分钟级容错以告竣30天以上大规模长时间训练不中止。。。。。。

另外在推理侧，，，，，，自研推理引擎在大语言、多模态模子性能体现提升2倍；；；；；通过训练、微调、推理混部，，，，，，资源使用率提升40%，，，，，，为用户提供极致性价比效劳。。。。。。

第三，，，，，，建设面向开发者友好的AI基础设施。。。。。。面临愈发高频次、高效率的模子迭代需求，，，，，，SenseCore商汤大装置拥有领先的AI 原生云算力产品系统，，，，，，为客户打造0门槛，，，，，，一站式的极致开发体验，，，，，，缩短大模子开发周期。。。。。。

凭证国际着名调研机构弗若斯特沙利文（Frost & Sullivan）团结头豹研究院宣布的《2023年中国AI开发平台市场报告》，，，，，，商汤大装置成为AI开发平台领军者，，，，，，市场综合竞争体现海内第一，，，，，，全球位居第二，，，，，，仅次于亚马逊云。。。。。。

以人工智能大模子开发、生产、应用为焦点，，，，，，商汤致力于通过高效率、低本钱、规�；；；；；南乱淮娜斯ぶ悄芑∩枋┯胄Ю�，，，，，，深化AI算力生态建设，，，，，，助力生长数字经济工业全生态。。。。。。

您尚未完善信息

完善信息后，，，，，，即可下载资料

完善信息跳过，，，，，，继续浏览

您尚未登录

您还未登录，，，，，，登录方可继续

登录跳过，，，，，，继续浏览

请选择您以为需要刷新的地方：

导航欠好用，，，，，，不利便找到感兴趣的内容
产品先容信息不敷周全
产品先容信息禁止易懂
页面翻开速率烦懑，，，，，，页面浏览不流通/有卡顿
页面不敷雅观
售后效劳欠好找，，，，，，体验欠好

跳过下一个

您是否能够抵达本次网站的会见目的？？？？？？

是
否
仍在举行中

下一个

您对商汤官网的知足度怎样？？？？？？

很是不知足很是知足

提交

已收到您对商汤官网的评价和建议！

谢谢您的耐心反响~

关闭

产品试用

填写此简朴表格，，，，，，我们将尽快联系您！

把您的需求发给我们相识所有产品

商务相助

400 900 5986

周一至周五 9:00-12:00，，，，，，13:00-18:00

business@sensetime.com

相助同伴招募

成为相助同伴