终端侧生成式AI更多惊喜?高通将在WAIC带来新的“首个”演示

2024 年 7 月 4 日,备受瞩目的世界人工智能大会暨人工智能全球治理高级别会议 ( WAIC ) 将于上海开幕。自 2018 年首次举办以来,WAIC 已走过六个年头,如今,WAIC 已经成为全球人工智能领域最具权威和影响力的行业盛会。

在本届 WAIC 即将开幕之际,终端侧 AI 推动者、领导者高通宣布了即将登展 WAIC 的消息,并迅速引发了业界的广泛期待。

终端侧生成式AI更多惊喜?高通将在WAIC带来新的“首个”演示

据了解,7 月 4 日 -6 日期间,高通将带来一系列的主题演讲和直播访谈,将重点分享 AI 技术基础研究、领先产品应用和未来行业赋能愿景上的最新进展。例如,大会当天,高通公司中国区董事长孟樸将出席活动,并发表主题为 ” 推动终端侧 AI 发展让智能计算无处不在 ” 的演讲,同时还有 ” 拥抱 AI 终端创新 ” 等系列直播访谈节目。高通公司中国区研发负责人徐晧也将发表 ” 终端侧 AI 规模化扩展,释放工业化创新活力 ” 的演讲,并通过媒体直播间分享 ” 我们可以用上怎样的 AI 硬件 ?”。

技术展示环节更是亮点频现,包括首个在 Android 智能手机上运行的大语言和视觉助理大模型 ( LLaVA ) 、骁龙 X Elite 终端上的剪映 AI 视频编辑功能、第三代骁龙 8 赋能 Android 智能手机带来创新终端侧生成式 AI 体验等等。

这一系列技术展示,将是高通公司在推动终端侧 AI 技术边界拓展与行业生态合作方面的集中展现,也是对未来智能科技发展趋势的一次生动预演,相当值得期待了。

终端侧生成式AI更多惊喜?高通将在WAIC带来新的“首个”演示

当下,生成式 AI 已经成为行业炙手可热的话题,特别是随着生成式 AI 技术在全球数以亿计的终端中的大规模应用,以终端侧为主旋律的生成式 AI 浪潮已然到来,而引领这一变革的核心力量,正是高通。

高通作为 AI 行业变革的赋能者,已经从底层芯片、到软硬件生态建设,以及应用的落地,都做足了准备,赋能引领行业创新。

比如在标准制定上,去年,高通发布了《混合 AI 是 AI 的未来》白皮书,明确指出云端与智能手机、汽车、个人电脑及物联网终端的协同工作,将促进更强大、更高效且高度优化的 AI 发展,这是实现 AI 普惠的必由之路。今年,高通又推出了《通过 NPU 和异构计算开启终端侧生成式 AI》白皮书,深入解析了 Hexagon NPU 为核心的异构计算技术,并探讨了如何利用这些技术,在生成式 AI 需求激增的背景下,为终端侧带来丰富多样的生成式 AI 应用场景。

再比如在底层芯片方面,早在 2015 年,高通就在骁龙 820 平台上集成了首个 AI 引擎 ; 在今天的第三代骁龙 8 上,高通将高性能 AI 注入整个平台系统,采用面向生成式 AI 应用重新设计的 Hexagon NPU,够在终端侧运行高达 100 亿参数的模型,无论是首个 token 的生成速度还是每秒生成 token 的速率,都处在业界领先水平。例如在生成式 AI 语言理解模型 MobileBERT 上,第三代骁龙 8 的表现比竞品 A 高 17%,在鲁大师 AIMark V4.3、安兔兔这些 AI 基准测试的总分方面,第三代骁龙 8 也是远超竞品。

终端侧生成式AI更多惊喜?高通将在WAIC带来新的“首个”演示

更重要的是,高通还将大语言模型完整的搬到了端侧运行,赋能众多的 AI 手机。比如包括三星、小米、荣耀、OPPO 、vivo 等在内的手机厂商,其发布的骁龙 8 Gen3 手机,均已具备了在端侧运行生成式 AI 的能力。

借助第三代骁龙 8 的 AI 能力,此次展会,高通也将展示首个在 Android 智能手机上运行的大语言和视觉助理大模型 ( LLaVA ) 。

除了移动端,在 AI PC 领域,高通还带来了骁龙 X Elite 和骁龙 X Plus PC 平台,凝聚了高通在通用处理和 AI 异构计算多年积累的技术成果,其集成的 NPU 更是具有 45TOPS 的恐怖算力,这是 PC 平台中最强大的 NPU。

当下,微软 Surface 系列新品,以及联想、戴尔、惠普、宏碁、华硕等品牌,也都已经或即将发布搭载骁龙 X 系列平台的 Windows 11 AI PC 新品。在这次展会上,高通就将展示骁龙 X Elite 终端上的剪映 AI 视频编辑功能,可以期待,无论是消费者还是企业用户,借助骁龙 X Elite 终端,都能够全天候利用 AI 增强的终端侧工具来提升生产力、创造力和协作能力。

不仅如此,高通还积极投身 AI PC 生态的建设,让开发者能够获取基于异构计算的 AI 加速,高通打造了 AI 软件栈 ( Qualcomm AI Stack ) 。它能够支持目前所有的主流 AI 框架,包括 TensorFlow、PyTorch、ONNX、Keras; 它还支持所有主流的 AI runtime,包括 DirectML、TFLite、ONNX Runtime、ExecuTorch,以及支持不同的编译器、数学库等 AI 工具。

就在 6 月份,高通还针对其 45 TOPS 的 Hexagon NPU 开发、优化并验证了 AI 模型。注册开发者可以前往高通的 AI Hub 获取这些预训练模型,快速构建人工智能应用。据介绍,高通 AI Hub 提供了各种针对骁龙 X 系列处理器的边缘设备优化的 AI 模型,涵盖图像分类、对象检测、语义分割和生成式 AI 等领域。此外,AI Hub 还提供了便捷的工具和文档,帮助开发者轻松地在视觉、音频和语音等应用中部署 AI 模型。

其所做的这一切,正如高通公司 AI 产品技术中国区负责人万卫星所言:

高通具备顶尖的异构计算能力,使 AI 能力能够贯穿整个 SoC,将 CPU、GPU、NPU 和高通传感器中枢的能力都充分释放给应用开发者。

可以说,骁龙 X Elite / X Plus PC 平台的推出,如同为 AI PC 的变革性体验打下了扎实的地基,而借助骁龙 X Elite 平台强大 AI 能力和高通在生态建设上的开放策略,接下来会有更多 AI 生成式应用的涌现。

写在最后

在刚刚结束的 MWC 上海展会上,高通 AI 产品技术中国区负责人万卫星发表了 ” 终端侧生成式 AI 的未来 ” 的主题演讲,他提到,凭借面向生成式 AI 全新设计的 NPU 和异构计算系统,高通正为终端侧 AI 规模化扩展提供了有力支持。此外,高通还致力于构建完善的 AI 生态系统,不断推动 AI 技术的创新与发展。

终端侧生成式AI更多惊喜?高通将在WAIC带来新的“首个”演示

利用领先的边缘 AI、高性能低功耗计算和无与伦比的连接,高通正不断推动终端侧 AI 的规模化扩展,让智能计算无处不在。随着 WAIC ( 世界人工智能大会 ) 的到来,可以期待,终端侧 AI 领导者的高通还将带来更多新的惊喜。

7 月 4 日 -6 日,WAIC,我们现场见 !

【来源:经济界】凡本网注明“来源:经济界” 的所有作品,版权均属于经济界。如转载,须注明“来源:经济界”。违反上述声明者,本网将追究其相关法律责任。
上一篇 2024-07-02 下午4:43
下一篇 2024-07-10 下午4:11

相关推荐

  • “独角兽王国:英国科创探路者大奖”中国区决赛落幕 两家中国公司入围全球半决赛

    由英国政府发起的 “独角兽王国:英国科创探路者大奖”(以下简称“探路者大奖”)中国区决赛近日落下帷幕。在全球范围内超过400家科技增长型企业(scale-up)申请中,西井科技(Westwell) 和利氪科技 (Leekr Technology)在中国区决赛中获得评委一致肯定,将代表中国进入下一轮全球半决赛角逐。 “探路者大奖”以英国科技火箭奖的成功为基础,…

    2024-09-25
    0
  • 一嗨租车华夏揽胜之旅 探秘广胜寺“三绝”!

    眼下,随着“古建游”的持续升温,越来越多的家长带着孩子走进古建景点,让孩子们感受中华优秀传统文化的博大精深,在小小的心中播下文化自信的种子。一嗨租车作为国人最喜爱的出行平台,这份历史使命感和社会责任感责无旁贷。今天将带大家欣赏广胜寺的魅力。     ‌广胜寺位于‌山西省‌临汾市‌洪洞县,始建于东汉桓帝建和元年(公元147年),原名俱庐舍寺…

    2024-09-24
    0
  • 科技引爆赋新消费,趣拿打造城市生活新体验

    在数字化浪潮的推动下,科技正以前所未有的速度重塑我们的日常生活。作为AI互动营销的领导者,趣致集团旗下的「趣拿」持续拥抱创新,将尖端科技融入消费体验,助力品牌激发活力,为消费者带来前所未有的新奇乐趣。9月6日至9月8日,趣拿将其旗下一款超巨型AI互动终端“搬”到了上海长宁来福士并设计了一系列丰富有趣的互动,迅速成为城市新焦点。 科技赋能互动体验,AI互动终端…

    2024-09-09
    0
  • 拜登有阿尔茨海默症风险吗?中国的公司告诉你真相

    中国科技公司预测美国总统感染风险:从视频分析到现实验证 在科技日益融入全球公共卫生监测体系的背景下,中国沃民高新科技(北京)股份有限公司的新冠病毒风险监测分析能力再次吸引了世界的目光。7月11日,该公司发布的一份报告指出,美国总统乔·拜登存在新冠病毒感染的高风险。7月18日早晨,拜登竞选团队负责人珍妮特·穆尔吉亚(Janet Murguia)确认,总统的Co…

    2024-07-19
    0
  • 炎黄盈动发布企业级AWS AI Copilot智能助理平台

    “企业数智化转型过程中,需要的AI能力不仅仅是简单的一问一答。” 炎黄盈动创始人兼CEO刘金柱一针见血地指出企业借助AI转型升级中的痛点所在,而这也是大模型落地的难点之一。 历经2023年惨烈的“百模大战”之后,今年AI市场的重心转向大模型应用的落地、商业模式、治理、可持续等方面。和市场大热的AI Agent在引领智能化进程中扮演“主驾驶”角色不同,AI C…

    2024-07-11
    0