极致性能、极致性价比。
引擎启动，人工智能的创造力得到全新塑造。在2月26日，深圳成功举办了京东云城市大会。在此次会议上，京东云推出了八款极具性价比的智能计算产品，五种适用于不同场景的大模型部署方案，并且同时推出了“开发训练与场景应用相结合”的双引擎一体化平台，帮助企业轻松实现大模型的快速部署、智能体的深入开发和应用，全面贯通了从模型落地到产业智能化升级的最终环节。
京东集团技术委员会的主席、京东云事业部的总裁曹鹏指出，目前，我国众多企业正加快部署步伐，力求让员工能够无缝使用大型模型。在京东云看来，企业在应用大模型时，应着眼于场景，寻求性能与成本效益的最佳契合点。京东云所拥有的先进异构算力调度引擎，能助力企业充分利用现有算力资源。此外，超智算一体集群的引入，将为大中型企业搭建智能计算的基础设施，从而革新企业的AI生产力。
五大模式助力企业火速上线
全球热度攀升，相关数据揭示，我国已有高达2.5亿人次体验过大型模型，人工智能的普及化时代已然到来。为满足众多企业用户在多样化部署方面的需求，京东云推出了涵盖多个场景、形态和规格的五大解决方案。
京东云五大部署模式
京东云的大模型一体机凭借其自主研发的算力池化技术和智能推理加速引擎，成功实现了软硬件的深度结合，从而全面提升了性能表现。其推理速度较之前提高了50%，企业用户可根据自身需求，灵活挑选适合的版本，并且设备开箱后即可直接投入使用。
在河南鹤壁、江苏宿迁以及山东滨州等地，京东云已协助多个政府机构在其现有基础设施上实现本地化部署，既保障了当地政务服务的需求，又使企业无需额外投入资源，便可通过政务云平台进行服务调用。
八大行业领先智算产品，极致性价比托举大模型落地
依托于京东集团在复杂场景中的实际操作经验，京东云成功打造了一套全面的大模型产品体系，涵盖了从基础的智能计算基础设施，到中层的模型服务与工具，直至顶层的Agent应用开发，助力企业高效实施大模型及其应用。
言犀AI开发的计算平台，全方位地助力言犀大模型及超过20种开源模型的运行，同时融合了超过百种的行业算法、工具链以及高质量的数据集，助力企业根据自身业务需求，高效地构建定制化的大模型。值得一提的是，京东云自主研发的推理引擎，运用P-D分离技术，成功释放了异构GPU的算力，使得模型的单Token推理成本大幅下降了80%。
计算、存储、网络的“黄金三角”，对破解大模型成本至关重要。
京东云的vGPU AI算力平台，针对大模型技术的特性，采用了推理加速和内核驱动的优化手段，从而将单台服务器的推理性能提高了50%。此外，通过集群算力池化调度，集群的利用率也得到了70%的提升。该平台全面兼容超过十家的国产化算力资源。同时，依托AI全密态机密容器的技术，确保了模型参数和训练数据在两个领域均实现零泄露，为用户提供了达到金融级别的安全保障。
智算中心的功率密度远超传统数据中心，达到其5倍之多，对电力供应和散热条件提出了更为严格的要求。京东云自主研发的阿尔法智能算力模块，能够实现液冷系统的一体化交付，将PUE值控制在1.15以下，与同等规模的数据中心相比，成本可降低15%；此外，新一代液冷服务器在散热效率上提升了50%，单个机柜在一年内可节省电量高达8500度。
智能时代，大模型安全堪称最为关键的防线。京东云推出的这款大模型安全可信平台，凭借超过200种自主研发的红蓝对抗攻击技巧，全面涵盖了31类合规风险。平台采用全流程AI检测技术，能够精确打击风险，风险识别率高达95%以上，为千亿参数模型业务提供坚实的保障，确保零漏洞运行。
在行业应用中，京东云助力一家新能源汽车领域的领军企业以及一家全球新能源科技领域的领军企业，构建了涵盖整个集团的智能化计算基础平台，并实现了对千卡级人工智能算力集群的细致管理。在技术层面，一方面，通过创新多元算力调度机制，显著提高了GPU的运用效率；另一方面，搭建了贯穿全生命周期的AI开发环境，实现了即买即用的便捷性，从而大幅提高了研发的效率。
目前，该平台已为企业智能驾驶研发、人形机器人等超过20个关键领域提供支撑，成为集团的核心“数智动力源泉”。预计在一年之内，两家企业的模型训练周期将减少40%，每年可节省的算力费用相当于新建两座数据中心。
京东云智算全景图
突破生产力边界，智能体重构企业效能
全面接入之后，众多企业纷纷寻求轻量化实施的途径，智能体已成为大模型产业落地实施的关键媒介，其应用形式正逐步从“工具助手”的角色转变为“生产力引擎”。
言犀智能体平台在技术层面取得了显著进展，具体表现在：首先，成功集成了包括数十款主流大型模型在内的多种功能模块；其次，基于超过万个智能体的实战经验，预先设置了协同办公、专业助手、客户服务、营销推广、数据应用等五大高价值场景模板；最后，积累了1000多个智能插件和100多个行业解决方案，为智能体的零代码快速构建提供了强大支持。
智能体技术的应用促进了生产力的不断提升。智能编码助手0实现了需求解析、代码编写、单元测试等环节的全面自动化，大幅提升了京东的研发效率；AI原生应用开发平台将低代码开发与智能体技术深度融合，提供了超过30个行业定制的开发模板；而言犀则通过自然语言交互功能，实现了数据的快速分析，为供应链优化等场景创造了新的决策模式。
越来越多的公司正利用言犀智能体平台推进自身的业务变革。例如，味全食品、中国飞机租赁以及融谷信息等企业，已在平台上成功实施了智能会议的管控、构建了航空知识库以及AI实训系统，从而实现了从单一环节到整体业务场景的智能化提升。
垂直模型蒸馏，全面智能场景加速渗透
京东科技人工智能业务负责人、京东探索研究院的院长何晓冬指出，通用大模型的创新性发展正在迅速推进全场景智能的普及，预计未来大模型的小型化将成为大规模产业应用的核心。我们坚信，实现全面智能的路径应采取双管齐下的策略：一方面，推动智能体向更高层次的“超级智能体”发展；另一方面，对现有的数字化场景进行全面的系统优化升级。
甲子光年公司创始人兼首席执行官张一甲，京东科技人工智能业务部门总裁及京东探索研究院院长何晓冬，圣象集团数字化中心总经理沈晓明，悠易科技首席运营官蔡芳，以及金证AI技术中心的总负责人廖智霖。
随着应用的不断推进，采用企业内部数据对模型进行精炼变得尤为关键。京东的言犀大模型，通过实施高效的模型精炼技术，为零售、健康、物流、金融等多个领域提供了服务，其推理速度提升了1.5倍，同时内存消耗减少了70%。目前，AI技术已在京东内部超过100个场景中投入使用，服务于超过60万名员工及20万商家。展望未来，模型精炼的技能也将向其他企业开放。除了应用于内部，京东的大模型技术已广泛渗透至多个产业的核心领域，并积极参与其智能化升级的进程。
人工智能的创造力旺盛，智能化的发展正处于关键时期。京东云凭借其在行业中的顶尖智算基础设施，致力于为用户带来卓越的性能和极高的性价比，不断降低大型模型应用的门槛，帮助每一家企业探索出AI转型的最佳途径。
本站简单学堂，主要教新手怎么在网上开店，分享网店运营知识，全力为学员打造一个电商学习的综合平台，欢迎您的关注。
还没有评论，来说两句吧...