网络安全检测|网络安全服务|网络安全扫描-香港墨客投资移动版

主页 > 业界资讯 > 网络渗透测试

AI加持,openEuler打造数字基础设施全场景操作系统

大模型的东风席卷全球,一些行业已开始基于大模型重构。在数智未来的世界里,AI无疑将扮演重要角色。通过与不同基础技术及产品的结合,AI将促进各领域技术的持续创新,作为核心基础软件的操作系统也不例外。“崛起数字时代,引领数智未来。”在操作系统大会 & openEuler Summit 2023上,我们发现面向数智未来,openEuler已提前进行布局。

一直以来,openEuler聚焦根技术的投入,为千行百业构建坚实的软件根基。目前openEuler系累计装机量已超过610万套,成为首个改变软件操作系统格局的开源操作系统。据IDC预测,2023年openEuler系在中国服务器操作系统市场份额第一,达到 36.8%。面向数智未来,openEuler与AI全面结合,打造面向数字基础设施全场景操作系统,为更多用户提供技术便捷。

面向智能新时代,openEuler使能AI更高效

在过去的四年里,openEuler社区快速发展。据开放原子开源基金会TOC副主席、openEuler委员会执行总监熊伟回顾,openEuler社区建立之初,每天活跃的开发者仅两三百人,但如今已汇聚16800+名开源贡献者,日活用户超4259人。开发者在系统特性、创新及漏洞修复方面提供了大量的帮助。此外,openEuler社区积累超过1300+的企业和合作伙伴。

image.png

开放原子开源基金会TOC副主席、openEuler委员会执行总监熊伟

当诸多的用户和合作伙伴加入openEuler社区,那么未来的openEuler将会走向何方呢?在过去,openEuler有两个技术支柱,全场景和多样性算力。伴随大模型等新技术的不断发展,openEuler增加第三个技术支柱——智能化,数字openEuler将逐步演化为智慧openEuler,成长为面向多样性算力和智能时代的下一代OS。

智能的边界在持续拓展,作为连接硬件和应用之间的桥梁,操作系统拥抱数智未来,与AI结合是一种必然趋势。

openEuler技术委员会主席胡欣蔚表示,在当前硬件趋势下,有越来越多智能的多样性算力需要做高效协同,也有越来越多泛在智能应用需要快速介入。为了实现这样的愿景,openEuler希望做到0门槛、0损耗和0介入的效果。对于普通用户部署和安装智能应用,帮助用户做到“0”门槛;对于智能应用在多样性算力上运行,操作系统让智能算力“0”损耗;在智能应用日常运维过程中,系统管理员对系统日常工作“0”介入。

因此,openEuler通过“openEulerfor AI”和“AIfor openEuler”两点,实现AI全栈使能,打造容器化的、开箱即得即用的方案。

“openEuler for AI”是一种对于生态边界的拓展,未来openEuler全面增强对于AI的契合度,支持更多主流的智能应用和语言大模型,实现智能能力升级。AI的生态构建并不容易,当下我们可以看到一些 AI产品、技术生态、基础设施等各自为战,但随着市场的逐渐成熟,AI全栈使能是未来发展的一种必然结果。

全栈使能将让openEuler的用户在未来使用智能应用时,通过openEuler提供的容器化方案开箱即用,同时也可以自动适配硬件环境,达到性能最优。openEuler的全栈使能还包括两层含义。首先是对各类应用、模型、工具、框架的支持优化,如AquilaDB等向量数据库,Llama、ChatGLM等业内流行的大模型,cuda、rocm、openvino等工具链,以及PyTorch、TensorFlow等AI框架。此外,由于AI硬件的复杂性,openEuler也针对AI硬件亲和等提供了广泛支持,一系列的升级将会极大地提升用户的AI开发使用效率。

其次是对于开发者的支持,openEuler在AI可用性、适配性方面不断优化,并对训练及推理推环境的容器化封装、镜像一键拉取等进行了升级,为开发者提供了即得即用的能力,实现AI环境部署的“0”门槛。

当前,我们进入多样性算力的时代,软硬件的共同发展给操作系统调度重新设计的空间。通过 CPU的SMT架构,给操作系统预先部署任务的机会,而GPU也可通过硬件warp切换来避免暂停等问题。因此,如何将独立的异构设备汇聚在一起,统一调配资源,解决算力浪费和异构内存编程的复杂性是个重要课题。

在传统意义上,不同的异构算力对于内存的管理是完全割裂的,相互之间也很难形成共享。而“openEuler for AI”的另一个重要价值就是异构融合,其核心思路是将独立的异构设备汇聚在一起,统一调配资源,解决算力浪费严重和异构内存编程复杂两个问题。通过在openEuler中引入的异构内核管理,可以在CPU和NPU通过共享页表的方式实现统一编址,使得双方可以互用内存,达成内存“透明”扩容、超分,这样可以提升推理场景吞吐量提升50%,并极大的简化内存管理的需求成本,以往多套内存接口简化为一套,异构驱动代码也能从万行下降到百行。

大模型与OS协同成趋势,AI赋能openEuler更智能

(责任编辑:admin)