查看原文
其他

大模型企业为啥都要上火山?这场发布会给出答案

云上增长新动力 GPLP 2023-12-27


大模型企业为什么会选择火山引擎?

来源:转载火山引擎

改编:随卞

4月18日,火山引擎在其举办的“原动力大会”上发布自研DPU等系列云产品,并推出新版机器学习平台:支持万卡级大模型训练、微秒级延迟网络,弹性计算可节省70%算力成本。基于自研DPU的GPU实例,相比上一代集群性能最高提升三倍以上。

火山引擎总裁谭待透露,“国内大模型领域的数十家企业,超过七成已经在火山引擎云上”。

大模型企业为什么会选择火山引擎?让我们看看这场发布会都释放了哪些信息。

在数字化世界里,快速开发、快速迭代是不变的关键。企业要做到这一点,坚定上云用好分布式云做好云上创新是三个关键步骤。

火山引擎总裁谭待

火山引擎总裁谭待表示,要坚定企业上云的决心,就要做好云的弹性与性价比。在这方面,火山引擎具备三大优势:

1.资源复用,复用字节跳动过亿核CPU资源池、数十EB的企业存储,实现更极致的弹性和性价比;

2.全面云原生化,基于云原生实现了超大规模存储池化,帮助客户进一步用好云的弹性,提升资源利用率;

3.坚持全栈自研,为上层应用带来更高资源利用率。

为助力企业坚定上云,火山引擎打造了全栈自研核心组件之一的火山引擎DPU,采取了从硬件到软件的全栈自主研发理念,并基于DPU实现了新一代RDMA网络,以及软硬一体的Hypervisor层,网络性能高达5000万pps转发能力、延迟低至20μs。

基于火山引擎DPU的各类计算实例性能也有显著提升,适用于大模型分布式并行训练场景的GPU实例,相较上一代实例集群性能最高提升3倍以上;新一代CPU实例,小规格实例性能最高提升6倍以上;同时,火山引擎全新发布的SPOT实例,相比按量付费实例价格最高节省80%,能有效降低企业云服务器使用成本。

晶泰科技联合创始人兼CEO马健
云计算带来的敏捷和弹性在快速改变各行各业的迭代速度。晶泰科技通过人工智能和机器人技术,致力于实现生物医药、生命科学和新材料产业的数字化和智能化革新。晶泰科技联合创始人兼CEO马健表示,火山引擎与晶泰科技联手从“算力”和“算法”双维进行优化,形成应对不同特点业务的差异化策略,共同应对AI药物研发中不同阶段不同环节的差异化需求。

如何帮助企业用好分布式云?当前,云计算发展百花齐放,但在中心侧多公共云、混合云、本地服务器共存的异构基础设施体系将长期存在,在边缘侧连接与计算将无处不在。

为应对多云、混合云、边缘云场景的分布式云原生管理的挑战,火山引擎发布了分布式云原生平台,提供多云集群统一管理与运维、应用跨集群分发、统一流量管控等能力,为用户打造无处不在的云原生一致体验;发布多云CDN管理平台,帮助客户用好CDN,提升CDN管理效率并降低支出成本;发布轻量级的全栈多云安全平台,提供SaaS化多云安全管理服务,解决客户多云环境下护网、合规、数据泄露等痛点场景;发布混合云veStack,具备高性能和敏捷性,并采用与火山引擎公有云完全同源的架构,可以实现资源灵活调度。

近期,多模态大模型的兴起、AI对不同垂直行业的推动、垂直领域的模型创新,都在推动企业进行云上智能创新。谭待表示,火山引擎全力支持大模型发展,不让任何创新因为算力不足而夭折。在多云多模型的时代服务好模型企业和应用企业,是火山引擎的关键使命。

因此,火山引擎发布智能推荐-高速训练引擎,将模型的训练推理效率进行极致优化,帮助企业实现降本增效,提高模型实时性,保障服务稳定性;升级机器学习平台,正式发布实验管理-模型效果对比和弹性实例,全力支持大模型,超大规模并行,让机器学习更稳更快。

在大会现场,三位嘉宾各自分享了多云多模型时代,大模型训练和应用的心得。

MiniMax联合创始人杨斌

MiniMax是目前国内少数已经推出自研大模型产品的AI技术公司,拥有文本、视觉、声音三种通用大模型引擎能力。据MiniMax联合创始人杨斌介绍,MiniMax与火山引擎合作建立了超大规模实验平台,实现千卡级常态化训练;超大规模推理平台有万卡级算力池,支撑单日过亿次调用。在火山引擎的云上,MiniMax大模型业务实现快速突破。

字节跳动副总裁杨震原

数字化时代,机器学习可以智能、高效地围绕目标解决问题。数字化的下一步是智能化,我们在机器学习方面的技术积累和经验,都会通过火山引擎提供给外部客户,帮助更多企业做好智能化 

字节跳动副总裁杨震原表示,业务创新需要试错,试错要大胆、敏捷,但试错也一定要控制成本。通过潮汐、混部等方式,火山引擎实现资源的高利用率和极低成本。

毫末智行CEO顾维灏

毫末智行与火山引擎联合打造了中国自动驾驶行业最大智算中心MANA OASIS雪湖·绿洲,毫末智行4月发布的行业首个自动驾驶生成式大模型DriveGPT雪湖·海若,是由MANA OASIS雪湖·绿洲提供算力支持。毫末智行CEO顾维灏介绍,DriveGPT雪湖·绿洲基于量产车4000万公里的驾驶数据进行训练,参数规模达1200亿,可持续对自动驾驶认知决策模型进行持续优化,最终实现端到端自动驾驶。火山引擎携手毫末智行,共同冲刺自动驾驶3.0时代。

权威报告显示,到2025年全球数据总量将会达175ZB。但在海量的数据中,只有活的数据、用起来的数据才是有价值的数据。因此,火山引擎正式提出了数据飞轮体系。

谭待表示,数据飞轮的建设,一定要以数据消费为核心,通过数据消费驱动业务应用,建立数据应用的闭环;通过数据消费驱动数据建设,有的放矢的建立数据平台。围绕数据飞轮,火山引擎提供了一系列产品解决方案,在大会上也发布了三款产品。

数据平台层,火山引擎升级云原生湖仓产品LAS,提供Serverless全托管大数据分析服务,性能深度优化,提供行列权限以及动态数据脱敏、透明数据加密等安全能力;实时计算层面,发布Serverless版Flink计算服务,实现在离线业务混部,满足流批一体等多种计算模态;数据应用层面,发布管理驾驶舱Plus,0代码搭建管理驾驶舱系统,管理者可以实时观测战略目标达成情况并向下传递决策动作,多端覆盖,随时随地洞察数据,辅助决策。

 平安银行行长特别助理蔡新发

金融行业一直重视对数据价值的深入挖掘。去年以来,平安银行提出了打造“智能化银行3.0”,持续推动转型进阶。平安银行行长特别助理蔡新发表示,平安银行与火山引擎围绕数据、算法、运营等多个领域已经进行了深入的合作,以实现智能化3.0的系统落地。通过火山引擎增长咨询服务,构建了基于北极星指标的数据指标体系;在数据治理方面沟通合作,明确了数据基建的工作方向;通过火山引擎个性化推荐平台和A/B测试平台,实现“人、货、场”的精准匹配,实现数据驱动决策,促进策略的持续迭代。

随着5G技术的不断推广,视频化体验的渗透率进一步加深,并成为企业优化用户体验中必不可少的组成部分。视频体验的优化有三个关键的方向:更高清、更互动、更沉浸。去年最大的视频盛宴莫过于世界杯,在抖音世界杯直播中,火山引擎支持了累计106亿人次的直播观看,决赛直播观看人数更是高达2.3亿。

更高清方面,火山引擎通过自研BVC编码器与智能编码方式,大幅提升直播画质;

更互动方面,火山引擎通过RTC开拓了边看边聊互动模式,通过SFU+MCU融合方案,同时兼顾好了用户规模和互动体验;

更沉浸方面,火山引擎支持了PICO的VR直播,基于全真超清显示技术,让观影清晰度提升50%。

在大会中,火山引擎带来6款音视频方向的新产品和相关升级。火山引擎云游戏产品,提供面向云游戏渲染、试玩和互动的一站式服务;创意互动Vlog,提供全新高精度拍摄和自动成片技术,同时支持一键分发到抖音;升级AR互动营销方案,优化AR try-on和AR互动能力,打通抖音广告和电商,帮助企业更好开展整合营销;WTN(WebRTC传输网络),帮助客户实现高清、实时的线上互动体验;升级数字人产品,增加支持十多种“外语”,十多种方言,5-10分钟视频即可生成趋近于真人的数字分身;音视频云端一体解决方案veVOS,在功能和体验层面进行全面升级,周级别即可完成应用上线。

视频场景外,工作场景下的员工体验也非常重要。当下,混合办公成为了企业办公新常态,而字节跳动拥有大规模混合办公的实践经验。面对混合办公场景,火山引擎推出全面升级后的飞连产品,为企业提供一站式IT管理与办公安全平台,包含身份、网络、终端的一站式管理,让员工随时随地安全接入办公网络。云、网、端融合,帮助企业构建安全无缝的统一办公网整合全套办公安全能力,解决混合办公中的安全隐患。

增长三要素源于字节跳动的技术沉淀,通过火山引擎开放给外部企业,帮助更多企业获得增长,共同构建增长新生态。

火山引擎生态副总裁赵文婕 

此前,火山引擎面向SaaS伙伴推出万有计划,通过“SaaS+云”的方式助力客户业务增长和提效。火山引擎生态副总裁赵文婕表示,电商产业链条上的商家、服务商、上下游等对数字化工具有巨大的诉求。因此,火山引擎发布生意增长一站式数字化解决方案——生意云,从客户场景需求出发,由火山引擎自有产品与生态精选SaaS产品进行方案深度共创,火山引擎提供统一的基础云服务。生意云将聚焦“增长”和“提效”这两点,通过数字化解决方案来帮助商家和品牌企业解决生意经营中的问题。

 抖音电商副总裁木青

近年来,抖音电商发展较快,在其背后有着火山引擎的支持。抖音电商副总裁木青表示,抖音电商是“货找人”和“人找货”双链路的电商场景,“货找人”能力主要基于火山引擎的大数据和算法能力打造,在抖音电商业务成长后,火山引擎也为抖音电商提供了大规模并发业务支持;在“人找货”的场景,抖音电商成为生意云落地的最佳载体之一,基于火山引擎自有产品,双方合作通过短视频完成深度兴趣种草,用直播实现规模化爆发,完成覆盖用户营销全链路。

北京字节跳动公益基金会副理事长兼秘书长李涛

技术不止能够让商业更加高效,也能创造更多的社会价值。北京字节跳动公益基金会副理事长兼秘书长李涛表示,火山引擎自成立起,就将“连接善意,共创美好”这一公益理念根植并延展于对外合作和服务中。火山引擎万有计划与字节公益对接,与电子发票领域的公司联合共创,正式推出公益版的电子票据服务与公有云服务,为符合条件的公益组织提供为期3年的免费服务,帮助公益机构以更低成本实现自动化开票,提升开票效率,实现公益组织捐款的数字化管理以及用途追溯管理,帮助公益组织提升数字化水平,同时让捐赠人有更好的捐赠体验。

当城市重回车水马龙,当新技术带来的效率革新近在眼前,如何增长就成为企业关注的重点。敏捷迭代、数据驱动、体验创新,火山引擎愿意用这些能力,助力越来越多的企业释放自身的数字化原力,重新回到增长的主航道。

▼ 往期精彩回顾 

继续滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存