能耗比达到GPT-4的10倍!黄亲自解密Zoom AI成功,AI合伙人直接为你召开会议

日期:2023-12-04 18:53:20 / 人气:288

能耗比达到GPT-4的10倍!黄亲自解密Zoom AI成功,AI合伙人直接为你召开会议。编辑:润艾伦【新智元简介】Zoom CTO黄发了一篇文档,讨论Zoom高效处理AI任务需求的技术——Zoom Federated AI。在实现GPT-4性能的同时,Zoom AI只使用了不到10%的成本。最近,人工智能老板、现任Zoom CTO黄在其官方网站上发表了一篇博客。其中,我郑重介绍了我加入Zoom半年后的创新成果——Zoom AI Companion,以及驱动Zoom AI Companion的federated approach)AI。在Zoom之前,黄是微软Azure AI的首席技术官。他不仅是微软首位全球华人技术院士,也是微软职位最高的华人科学家。黄在微软工作了30多年。在他的牵线搭桥下,微软于1998年在北京成立了第一个亚洲研究院。2017年和2020年,黄分别当选ACM和,2023年还当选美国国家工程院院士和美国艺术与科学院院士。黄表示,人工智能从概念化到实现的转型之旅就像一条曲折的道路,充满了不断的破坏、适应和创新。“过去30年,我一直在这条路上,从语音识别、自然语言理解到计算机视觉。在我加入Zoom的这半年里,创新的步伐尤其令人震惊。Zoom federated AI,用正确的AI运行正确的任务Zoom希望利用AI改善人类的协作,不断提高生产力。多年来,Zoom一直在为客户提供语音识别、计算机视觉、机器翻译和大型语言模型(LLM)等AI服务,以增强自身软件的竞争力。他们的最新产品Zoom AI Companion旨在帮助用户提高工作效率,促进无缝协作,并获得更深入的交流和见解。Zoom的联邦AI使用户在之前付费服务的基础上,无需额外付费即可享受AI伴侣的功能。这样可以大大提升用户体验,也可以快速提高高科技在用户中的渗透率。但对于Zoom这样用户量大,密集使用AI功能的软件,LLM推理的额外成本如何承担?要知道,GitHub的Copilot可是传说中的,每月收费10刀,每个用户每月还补贴20刀。Zoom目前使用的LLM包括自有模型和第三方模型(如OpenAI GPT-3.5和GPT-4,以及拟人化的克劳德2)。Zoom Federated AI可以整合合作伙伴的最新LLM技术(如OpenAI发布的最新GPT-4 Turbo),进一步改善Zoom客户的端到端体验。Zoom采用了更具性价比的策略:首先使用合适的低成本LLM完成任务,然后通过Z-Scorer评估初始任务完成质量。如有必要,Zoom将使用更高级的LLM来改进初始LLM获得的结果。这类似于一个有凝聚力的团队一起工作,可以比一个人更高效地生产出更高质量的产品。根据Zoom内部测试,与OpenAI GPT-3.5 Turbo或其他最先进的LLM相比,Zoom采用联邦AI,提高了AI伴侣的输出质量,有效控制了成本。黄说,他们衡量性能的标准是更低的成本、更快的响应时间和更高质量的输出。上图是Zoom AI Companion和GPT-4在英语会议查询任务中的性能和成本对比。图中比较的两个关键指标是成本和产出质量。Zoom AI Companion可以用不到GPT-4成本的6%实现几乎相当的输出质量。与微软Copilot使用的GPT-4-32k型号相比,Zoom AI Companion的会议提问功能可以降低成本,加快响应速度,并保持相当的输出质量。上图是Zoom AI Companion和GPT-4在多语言会议总结任务中的对比。此外,AI Companion的多语言性能进一步证明了Zoom Federated AI的强大功能,支持除英语以外的32种语言。因为大部分LLM主要使用英语数据进行前期训练,所以Zoom增加了翻译模型来扩展多语言能力。上图比较了Zoom AI Companion和微软Copilot在多语言会议总结任务中的性能,还使用了GPT-4作为微软Copilot的代理进行比较。在Zoom AI Companion的多语言会议摘要中,使用Zoom的翻译模型将非英文文本翻译成英文,这样既可以考虑翻译数据,也可以考虑原始数据。从图中可以看出,Zoom AI Companion以不到6%的成本(百分之九十七)完成了质量接近GPT-4-32k的输出。Zoom认为,人工智能的好处应该被尽可能多的人广泛使用,Zoom的联邦AI可以无缝结合不同AI系统的优势,并提供高性能的结果,这对实现这一愿景具有重要作用。最智能的会议助手Zoom AI Companion,现在几乎所有Zoom AI功能的入口都集中在他们9月底推出的Zoom AI Companion上。作为Zoom提供的“充值服务”,它可以利用Zoom提供的AI能力,帮助你在中途加入会议后,自动汇总错过的会议内容。然后轮到你发言的时候,把你的观点和上一次会议的内容结合起来,生成一篇演讲稿,真正做到了“会议代替用户。“中途加入会议后,AI可以告诉你会议的要点。还能帮你实时转录、翻译其他与会者的发言,一键获取会议讨论文本。AI还可以帮你汇总碎片化的信息,最终为团队生成会议总结和记录。还可以对Zoom平台上获取的客户短信进行汇总,生成具体的实施方案。而且对于不能参加的会议,也可以直接在日程上安排AI智能录音,然后分段复习。在这整个人工智能伴侣的背后,浓缩了Zoom和黄的联邦人工智能的技术思想,并使用适当的人工智能资源来处理适当的请求。而且,Zoom承诺不会使用任何音频、视频、聊天、屏幕共享、附件或客户生成的其他数据(如投票结果和白板)来训练Zoom或第三方AI。这么多有用的功能,这么负责任的AI,要花多少钱?150到200刀可以用一年,企业用户有专门定制的版本。

作者:6A娱乐




现在致电 5243865 OR 查看更多联系方式 →

COPYRIGHT 6A娱乐 版权所有