立即联系我们
提交成功!
你所提交的信息已经成功提交,会有专业人员在48小时内跟您联系!谢谢。
提交失败!
抱歉,提交失败,请重新校准信息提交,谢谢。
CN EN
产品
解决方案
开发者资源
中文

生成式 AI 风起云涌 | 如何破解算力调度难题,发挥算力最大效能

行业参会

2023.11.21

微信图片_20240729114333.jpg

万物智联时代,技术领域最关心的话题是什么?IDC 发布的《2022-2023 中国人工智能计算力发展评估报告》显示,2022 年智能算力规模达到 268百亿亿次 /秒(EFLOPS),首次超过通用算力规模,成为了数字经济主航道中最核心的驱动力。随着人工智能技术发展,大模型和生成式 AI 出现,AI 落地应用数量持续走高,催生出了更加多样化的需求和场景,这些对 AI 算力的发展提出了更高的要求。

微信图片_20240729114336.png

11 月 15 日,成都市信息领域新产品发布会人工智能专场在成都科创生态岛 1 号馆顺利举行,「DaoCloud 道客」创始人兼首席执行官、云原生计算基金会全球大使陈齐彦在会上带来《智能算力云操作系统》的精彩分享。

01

冰山下暗藏的玄机

在这个星球上,有很多生产要素是人类掌握的,但在数据是生产资料的情况下,最有效的生产力其实不是人,而是机器,这是一个逆转。所以,在数字化时代,最关键的生产关系中,人会从原来信息化世界生产力的中间位置走到边缘位置,而数据走到了最中心。在这个过程中,操作系统领域也迎来了一次重大的技术变革,原来的生产力关系是以人为中心,人机交互为界面,传统的操作系统技术也是停留在这一层生产关系上。

而新一代操作系统,它最大的使命不是解决人机交互,而是解决数据和机器生产力的协同。新一代操作系统实际上是一个分布式的算力调度管理体系,将极大地提升自动化的能力,这样机器和算法的效能可以被极大地释放出来。在基于云原生技术的新一代操作系统中,碳基智能和硅基智能发生了非常大的变化,新的生产关系是机器操作人,主要包括两种形式,一种是碳基智能融到硅基智能的交互体验中(比如 VR),还有一种是大模型所创造的硅基智能伪装成碳基智能的交互界面——语言。

从 Google 最早提出的 Transformer 语言模型,到如今我们大家都能接触到的 ChatGPT,人工智能迎来了继 AlphaGo 之后的第二次高潮,整个人工智能技术的发展也呈现出多元化的形态。在 OpenAI 的暴力美学中,吞噬尽可能多的数据是必要的,但这同时也需要庞大的算力作为支撑。

在这个发展过程中,我们需要迫切解决的不仅仅是模型的问题,而是模型下的基础设施问题。很多开始走进 AI 这座冰山的企业逐渐发现这不仅仅是“买张卡”的问题,“买卡”只是海平面以上的冰山一角,深藏于海平面以下的部分——算力基础设施能力或许才是更值得关注的部分。而「DaoCloud 道客」的智能算力云操作系统解决的正是 AI 场景下的系统性调优问题,它能将算力效能更大化,为 AI 时代创造更多的有效生产力。

02

智能算力的插座

GPU 的出现完全改变了操作系统的调度逻辑,GPU 时代的调度是带有宏观调控的“市场经济”,这与 CPU 时代的“计划经济”大相径庭。因此,这个智能算力云操作系统,首先要解决的,就是算力调度的问题。要使 GPU 的效能完全发挥出来,不仅需要 GPU 性能足够强,还需要完成整个系统资源调度的优化。作为风靡全球的一种软件基础设施技术,云原生在实现资源灵活调度、弹性可扩展方面,有着天然的优势。分布式的 AI 开发框架 Ray,Kubernetes 原生作业队列系统 Kueue 以及大规模的仿真测试工具 KWOK,三剑合璧,为算力提供了稳定、高效、灵活的调度支持。窥一斑而知全豹,不仅如此,还有更多由操作系统公司带来的工具正在改变着 AI 时代的软件基础设施。

在特定的国情下,国内的 GPU 资源面临着数量更多、复杂性更高的问题。为了解决 GPU 资源管理的问题,「DaoCloud 道客」做了一件很有意思的事情,叫一云多芯,把异构的 GPU 能力统一纳管,这里的云指的就是云操作系统。在统一的云原生平台上,通过标准化的接口,实现了算力资源的互通和兼容,打造了一个能够让各种异构算力插拔即用的“插座”,满足不同应用场景下的计算需求。

当然,仅有 GPU 是不够的,要想全面发挥算力的效能,网络和存储的能力也要同步提升。高性价比的 RDMA(Remote Direct Memory Access)高速网络,是提高人工智能、超算等效率的关键。此外,「DaoCloud 道客」还提供了增强 RDMA 解决方案——Spiderpool。这样即使在单点算力受限的情况下,也能够通过高性能的网络将算力资源整合到一起,得到同样的算力供给。而作为 AI 的燃料,大量数据已经成为了 AI 算法模型发展和演进的基础,在这中间,存储的重要性不可忽视。通过 MinIO 对大规模数据的存储支持,以及 Fluid 的数据加速处理,智能算力云操作系统能够把 GPU 芯片的效能更大化地发挥出来,加速大模型的推理演进。由「DaoCloud 道客」开源的 HwameiStor 还能够增强本地存储的管理,为云原生 + AI 场景提供更为丰富的存储支持。

除此之外,在大规模算力基础设施就绪的情况下,还有一些管理问题也需要解决。面对多样化的业务场景,这个操作系统提供了多租户、计量、计费、报表等运营功能,还有多维度的资源监控和工作负载的告警统计,提升前端运营者的工作效率。

03

肩负使命,携手共建

操作系统的出现,往往都能带来软件世界的巨大变革,和 Windows、Android 一样,这个云操作系统身上,也肩负着十分重要的使命。

第一个使命是敏捷性。当“把人从生产关系中剔除出来”时,当数据和机器成为核心的生产关系时,机器能够更好地实现编排和调度,工作的敏捷性自然就提升起来。

第二个使命是连接。新一代的算力结构就是需要集中精力办大事,因此我们需要把 GPU 资源连接起来,统一调度,特别的是,连接不能中断,从而避免个别工作掉链子,而导致付出系统性失败的巨大成本。

第三个使命是多样化。不管在 CPU 时代,还是在 GPU 时代,我们都需要放弃对传统半导体技术摩尔定律的崇拜,在无穷算力和协同逻辑中,“每隔 18-24 个月,芯片性能也将提升一倍”这件事情已经变得微不足道,我们需要在算力上寻求的突破是异构和多样性。中国乃至全世界的算力操作系统都是朝着这个方向前进。

第四个使命是统一调度。操作系统产业应该勇敢地站在统一调度的位置上,将应用、数据、算法的调度都统一到一个层面,突破人机交互的瓶颈,避免资源的浪费,能够产生极大的效率和性能的复用。

第五个使命是自由计算,这也是我们的终极目标。过去我们总是认为集中是最优的,但在真正自由计算的世界,恰恰应该是去中心化的。计算能力可以停留在它天然原生的地方,离生产资料更近的地方,同生物世界一样,一棵树就有一个自身的生态系统,让它保持原生的生态循环,往往效率是最高的,算力也需要在自己出生的地方构建这样一个“生态系统”。操作系统技术如果能把这些事情都做好,我们就会迎来一个完全自由计算的时代。

在操作系统领域,开源的力量十分重要。站在“巨人的肩膀”上搞研发,全世界从业者的通力合作仍是未来科技发展的大趋势。今年,「DaoCloud 道客」在新一代基于云原生的操作系统技术 Kubernetes 的贡献度排名上又向前走了一步,已经达到了全球第六。同时,作为一个来自中国的科技公司,「DaoCloud 道客」完成了一个非常重要的历史性使命,非常荣幸地获得了 Kubernetes 指导委员会的席位,未来将代表中国的科技公司参与到整个操作系统技术的长期规划当中。

去中心化的分布式计算时代已经来临,这不仅仅是大模型和人工智能时代的必然,也是向往更公平更自由,数据价值更容易焕发的未来世界所需要的。广大的科技从业者,需要站在先进生产力的逻辑上,找到智能算力调度和应用的最优解,承担起新一代操作系统变革的伟大责任。