商汤研究始终坚持原创，，，，，一直突破立异。。。。。。。。具有人工智能领域深挚的学术积累，，，，，具备健全的人才作育机制，，，，，已与海内外五十余所一流高校和科研院所建设了深度相助关系，，，，，并与众多行业同仁同心共建AI生态圈。。。。。。。。

新闻中心

< 返回新闻中心

小比大好？？？？？？商汤宣布业内最快推理速率「日日新 5.0 端侧大模子」，，，，，性能跨级领先

2024-04-29

现在，，，，，就是AI大模子在端侧应用的春天！

无论全球芯片巨头，，，，，照旧“AI手机”、“AIPC”厂商们，，，，，都在发力AI大模子的端侧应用。。。。。。。。

是什么让各人簇拥而至？？？？？？

4月23日「商汤手艺交流日」上，，，，，商汤科技董事长兼CEO徐立用一段街霸小视频讲出了其中道道：

红色KEN是商汤日日新端侧模子使用，，，，，绿色KEN是GPT-4使用。。。。。。。。对战最先绿色KEN略占优势，，，，，但红色KEN出拳速率更快，，，，，种种连招打到绿色KEN反应不过来，，，，，最终取胜。。。。。。。。这个比照表达的并不是模子能力强弱，，，，，而是体现了差别使用场景下端侧模子决议速率更快，，，，，它不需要云端大模子的漫耐久待，，，，，直接在装备上给出谜底，，，，，速率飞起

“天下武功，，，，，唯快不破”

当数十亿个端侧装备都在一直地挪用云端大模子，，，，，预计没有任何一个效劳器受得了。。。。。。。。因此，，，，，能够提供即时推理决议的端侧能力是AI大模子进一步提高应用渗透率的要害。。。。。。。。

来看看哈哈(haha)体育主角：商汤「日日新 5.0 端侧大模子」

它有多优异？？？？？？

性能实现一律标准性能最优，，，，，跨级标准周全领先。。。。。。。。

BenchMark效果显示，，，，，「日日新 5.0 端侧大模子」SenseChat-Lite 1.8B周全领先所有开源2B同级别模子，，，，，甚至在大部分测试中跨级击败了Llama2-7B、13B模子。。。。。。。。

同时，，，，，在现实应用中，，，，，为进一步提高种种终端使命处置惩罚无邪性，，，，，它还引入端云联动的MoE框架，，，，，可针对差别行业应用设置差别的云端联动配比，，，，，在性能、速率和本钱间取得平衡，，，，，获得最佳推理效果。。。。。。。。

▎AI大模子端侧应用，，，，，不但拼性能，，，，，还拼“手速”

下面，，，，，我们一起看看商汤端侧大模子的现实体现。。。。。。。。

首先，，，，，是纯端侧大模子推理速率。。。。。。。。

现在商汤「日日新 5.0 端侧大模子」语言模子能力的推理速率抵达了业内最快，，，，，比照人眼20字/秒的阅读速率，，，，，可在中端性能手机上抵达18.3字/秒的推理速率。。。。。。。。

在高端旗舰手机上，，，，，推理速率更是抵达78.3字/秒！

例如，，，，，手机断网模式下天生一个“理由充分、安排详实”的员工休假申请，，，，，效果是这样：

现场原速

离线航行模式下，，，，，打工人也能迅速总结事情纪要，，，，，天生速率紧跟人眼阅读节奏。。。。。。。。

现场原速

别的，，，，，多模态图文能力也是端侧模子在行业铺开的要害。。。。。。。。

以扩图功效为例，，，，，商汤「日日新 5.0 端侧大模子」扩散模子可实现目今业内最快推理速率。。。。。。。。

在高通旗舰平台上推理速率小于1.5秒，，，，，比手机云端处置惩罚快10倍，，，，，且支持输出1200万像素以上的高清图片，，，，，支持等比扩图、自由扩图、旋转扩图多种图像编辑功效。。。。。。。。

可以看到，，，，，在「商汤手艺交流日」现场实时演示中，，，，，商汤端侧大模子完成3种差别计划的扩图速率比竞品手机自带App扩1张图的速率还快：

旋转扩图效果同样精彩，，，，，端侧险些是实时的：

现场画面2X速

运动现场直接照相，，，，，即时自由扩图，，，，，“自信”瞬间拉满：

▎「日日新 5.0 端侧大模子」已开放SDK效劳

可以看到，，，，，商汤端侧大模子在语言处置惩罚和多模态交互方面展现了强盛的应用潜力。。。。。。。。

它能够胜任端侧AI场景中多种使命，，，，，包括一样平常对话、知识问答、文案天生、相册治理和图片创作等，，，，，可知足种种用户日益普遍的AI应用需求。。。。。。。。

现在，，，，，商汤端侧大模子已开放SDK效劳，，，，，周全笼罩智能手机、平板电脑、VR眼镜、车载系统等多样化的装备场景，，，，，为开发者和制造商提供富厚的应用适配空间。。。。。。。。

最后，，，，，让我们听听商汤的相助同伴怎样评价商汤日日新大模子：

在小我私家出行场景，，，，，近期火爆市场的小米汽车SU7，，，，，小米小爱同砚为车主提供智能化交互体验，，，，，当中也有荟萃应用了商汤的大模子手艺能力，，，，，有基于商汤端云大模子解决计划；；；；；；小米集团小爱总司理王刚体现：“商汤的云边端全栈组合，，，，，可以很好地赋能和适配小米物联网生态。。。。。。。。我们希望与商汤配合为哈哈(haha)体育用户打造更具智能化的产品体验。。。。。。。。”

「商汤手艺交流日」现场，，，，，小米集团小爱总司理王刚（左），，，，，商汤科技团结首创人、首席科学家王晓刚（右），，，，，配合探讨AI大模子在智能终端的应用趋势和用户反响

▎One More Thing：端侧智能体is coming

着眼未来，，，，，端侧大模子还将走向更高阶应用——端侧智能体。。。。。。。。

有啥效果？？？？？？

通过语音直接给手机下使命，，，，，智能体就会自动挪用手机中种种应用完成使命：

您尚未完善信息

完善信息后，，，，，即可下载资料

完善信息跳过，，，，，继续浏览

您尚未登录

您还未登录，，，，，登录方可继续

登录跳过，，，，，继续浏览

请选择您以为需要刷新的地方：

导航欠好用，，，，，不利便找到感兴趣的内容
产品先容信息不敷周全
产品先容信息禁止易懂
页面翻开速率烦懑，，，，，页面浏览不流通/有卡顿
页面不敷雅观
售后效劳欠好找，，，，，体验欠好

跳过下一个

您是否能够抵达本次网站的会见目的？？？？？？

是
否
仍在举行中

下一个

您对商汤官网的知足度怎样？？？？？？

很是不知足很是知足

提交

已收到您对商汤官网的评价和建议！

谢谢您的耐心反响~

关闭

产品试用

填写此简朴表格，，，，，我们将尽快联系您！

把您的需求发给我们相识所有产品

商务相助

400 900 5986

周一至周五 9:00-12:00，，，，，13:00-18:00

business@sensetime.com

相助同伴招募

成为相助同伴