来源:证券时报网
媒体
2025-05-20 14:50:34
(原标题:京东云发布JoyScale AI算力平台等九大产品 助力企业重构AI基础设施)
大模型加速奔跑,深度应用全面开启。5月20日,京东云城市大会在上海顺利举行,京东云发布JoyScale AI算力平台、JoyBuild大模型开发计算平台、JoyAgent智能体2.0等九大产品,三大垂直行业一体机,助力企业全面重构AI基础设施,生成企业专属数字员工,加速迈向深度应用。
京东集团技术委员会主席、京东云事业部总裁曹鹏表示,“随着深度应用加速来临,数字员工的上岗率将成为衡量一个企业先进性的标准。有多少工作是AI完成的,决定了企业未来能跑多快。新一代Agent成为深度应用的代表,京东云JoyAgent2.0正在帮助企业生成专业数字员工。同时,大规模应用爆发,也将推动AI基础设施迈向标准化,AI Infra1.0已经具备。”
京东云认为,全面走向深度应用,企业当下需要做好三件事:
分钟级部署+零门槛接入大模型一体机助力企业快速尝鲜大模型
一体机作为最快速部署大模型的方式之一,是尝鲜企业级AI的最佳路径。过去三个月,“开箱即用”的京东云大模型一体机跑出“新速度”,从江浙沪到湘赣鲁,多省市全面铺开,医疗、汽车、教育、制造、泛互多行业深度渗透,全国规模化落地突破500台。京东云大模型一体机软硬协同,支持千人规模企业并发需求,实现推理速度提升50%,满血版、标准版、轻量版为不同规模企业提供灵活选择,助力企业快速构建企业级AI服务能力,极大降低专业技术门槛。
今天,京东云正式发布三大垂直行业一体机。
· 医疗一体机:医疗领域将融合京医千询大模型,实现智能问诊、病历分析、辅助诊疗等功能;
· 工业一体机:工业场景将集成京东工业供应链大模型,预置供应链管理、智能排产等模块;
· 金融一体机:金融行业将在保障数据安全合规基础上,针对券商、银行等机构需求进行优化适配。
深度应用全面开启,智能体重塑AI生产力
虽然“超级应用”还有距离,但聚焦企业端的“深度应用”已奔涌而至,正在加速渗透到需要投入大量人力进行重复劳动的场景。随着大模型及智能体技术的持续升级,行业正加速迈向深度应用阶段。
京东正是大模型深度应用的超级孵化器。数据显示,近三个月京东大模型服务调用量爆发式增长,环比提升200%;超1.4万个智能体在京东内部运行,解决超18%的工作内容,外卖员招聘、财务管理等大面积使用;各类大模型应用已深入到京东零售、物流、医疗等细分业务场景,为超50万商家、超38万快递小哥、超5万副主任以上级别医生、超2万采销运营、超1万研发提高工作效率和提升服务体验。
智能体,是深度应用方面最具代表性的方向。成长于京东自身业务系统的JoyAgent 智能体 2.0全新升级, 基于混合代理模型(Mixture-of-Agents,MoA),融合大小型模型的优势,通过规划推理构建动态DAG执行引擎,大幅提升任务执行效率;集成了覆盖搜索、数据分析、代码开发等领域的丰富工具链,支持文本、图像、视频等多模态输入输出,为企业提供全面智能支持;还通过自研多智能体协同引擎,多个智能体可在对话规划、推理上协同工作,通过自我对话优化策略。
在 GAIA Benchmark 的 Level 1-3 测试中,JoyAgent 表现卓越,尤其在复杂任务处理上优势明显,超越众多竞争对手。实现从过去被动响应需求,进化为能主动聚焦问题、精准运算、深度分析、和智能决策、精准执行。
相较于通用智能体,JoyAgent在企业场景展示出更多优势。
· 在研发场景,JoyCode智能编码助手持续进化,实现开发即部署,代码采纳率超过40%,开发周期缩短30%,京东上万名研发人员都在使用;
· 在直播场景,京东数字人已经在9000+商家开播,高保真低成本的人体建模技术、多模态自然化行为生成等数字人技术栈更新,高商业可用数字人正式上线服务,618向京东商家免费开放,助力直播转化;
· 在政务服务场景,基于JoyAgent构建的智能政务研报服务,可根据历史报告自动识别模板,进行指标试算、验证,自动生成新报告,识别准确率超98%,已深度应用在北京亦庄、上海普陀等政务平台上。
技术栈迎来全面重构 AI基础设施走向标准化
随着大模型应用的深入,以CPU为中心的架构在支持AI原生应用上面临挑战,需要以GPU为中心重塑基础设施;此外,面对激增的推理需求,计算资源持续增加,企业需要思考资源投入产出的问题,都指向需要一套AI Native的基础设施。
在大模型开发应用方面,JoyBuild支持多类模型的调优开发,内置20余种开源模型和丰富的数据集,提供100余种算法和工具链。围绕开源模型蒸馏需求的不断增加,可以帮助客户根据自身业务特征,用自有数据进行大模型的蒸馏,快速开发专属大模型。
京东大模型开发计算技术相关论文被《Nature》收录,为国内首次系统性解决开放环境下大模型开发效率难题,这套技术也支撑了JoyBuild应用。此外,JoyBuild推理引擎基于大规模专家并行推理集群技术,提升高并发下并行度,实现单Token推理成本降低80%。
在计算方面,京东云发布全新的JoyScale AI算力平台——以GPU为核心,高效异构计算,强大推理性能。具备两大核心优势:
· 极致的算力性能。面向大模型训推需求,JoyScale支持单集群万卡调度、全局超10万卡调度能力,支持跨智算中心横向扩展,通过软硬件协同优化,将大模型算力利用率MFU从45%提升至75%。
· 灵活的异构算力管理。JoyScale全面适配十余家国产算力,支持异构算力统一纳管、精细化运维,通过集群算力池化调度,提升集群利用率70%。
在存储方面,云海AI存储基于京东全自研的引擎,对AI训练语料的随机访问达到1000万级,单集群支持TB级超大带宽,能有效支持千亿级参数AI大模型的训练。云海针对性地提供了原生 KV Cache 特性,支持主流推理框架,以存代算的模式显著提升了推理性能,长文推理成本下降 40%,长文/多轮对话响应延迟降低 60%。
大模型浪潮汹涌澎湃,京东云将持续深耕技术,以更开放、更协同的生态理念为引领,不断拓展和深化大模型技术的边界与应用。同时,凭借在京东内部场景千锤百炼的深度应用经验,打造出的极致性能、极致性价比的技术与产品,助力更多企业重塑AI生产力。
格隆汇
2025-05-20
格隆汇
2025-05-20
证券时报网
2025-05-20
证券之星港美股
2025-05-20
证券之星港美股
2025-05-20
格隆汇
2025-05-20
证券之星资讯
2025-05-20
证券之星资讯
2025-05-20
证券之星资讯
2025-05-20