当前位置:首页 >> 装修施工
装修施工

AI开发大一统:谷歌OpenXLALinux,整合所有框架和AI芯片

发布时间:2024-01-18 12:17 来源:装修施工

些考验。OpenXLA 乡村主干了在 AI 堆栈的多种不同行政级别(从软件系统到Python、runtime 和芯片)上运行的开发计划工具和企业领导者,因此并不适合解决我们在 ML 企业见到的碎片本土化问题。

作为一个自由软件这两项,OpenXLA 遵循此表主张:

平等地位:更进一步无论从属关系如何,都平等地显然贡献。核心技术领导者是那些贡献最多等待时间和精力的人。

负责任文本土化:所有核心成员都应保障这两项价值观和理应,无论他们在乡村中都的职位如何。

可扩展到、高效的治水:小制作团队显然基于共识的决策,具有清晰但仅仅可用的升级轨迹。

透明度:所有决定和理由都应该对市民挺立。

OpenXLA 生态平衡:普遍效率、规模和软件系统能力

OpenXLA 通过模块本土化基本功用肽键抑制了人工神经互联开发计划工具的障碍,它通过国际标准Python接口得到所有压过软件系统的大力支持,充分利用于软件系统的标准本土化建模表示,并给予具有强大的再度目标向和特定应用程序优本土化的特定企业Python。该基本功用肽键以外 XLA、StableHLO 和 IREE,所有这些基本功用都充分利用于 MLIR:一种Python云端,使人工神经互联建模能够在应用程序上一致地表示、优本土化和执行。

OpenXLA 主要亮点

人工神经互联用例的范围

OpenXLA 当前的可用涵盖了 ML 用例的范围,以外在阿里云上对 DeepMind 的 AlphaFold、GPT2 和 Swin Transformer 等建模透过全面培训,以及在 Amazon.com 上透过多模态 LLM 培训。Waymo 等客户充分利用于了 OpenXLA 透过车载实时推理。此外,OpenXLA 还使用优本土化配备 AMD RDNA™ 3 的本地机器上的 Stable Diffusion 增值。

最佳普遍效率,拆开即用

OpenXLA 使开发计划工具无需改写特定于的设备的代码,即可轻松减慢建模普遍效率。它具有整体建模优本土化功用,以外简本土化代数函数、优本土化内核数据布局以及改进型控管以减少峰值内核可用和通信开销。低阶算子糅合和内核分解成有助于提高的设备充分利用于率并降低内核传输速率要求。

轻松扩展到社会乡村活动负载

开发计划高效的充分利用于本土化算法并不耗时并且需资质。充分利用 GSPMD 等功用,开发计划工具只需原文关键张使用量的一个子集,然后Python就可以可用这些子集自动分解成LPC。这抑制了串连多个应用程序DS和快速器对建模透过分组和高效充分利用于本土化所需的大使用量社会乡村活动。

便携普遍性和可选普遍性

OpenXLA 为多种应用程序的设备给予拆开即用的大力支持,以外 AMD 和 NVIDIA GPU、x86 CPU 和 Arm 架构以及 ML 快速器,如 Google TPU、AWS Trainium 和 Inferentia、Graphcore IPU、Cerebras Wafer-Scale Engine 等等。OpenXLA 还通过 StableHLO 大力支持 TensorFlow、PyTorch 和 JAX,StableHLO 是一个用做 OpenXLA 可用格式的软件系统层。

高工作效率

OpenXLA 为服务器给予了手动调整建模热点的高工作效率。自定义调用等扩展到机制可服务器能够用 CUDA、HIP、SYCL、Triton 和其他内核语言改写最深处求学内联,从而能够充分充分利用于应用程序遍性。

StableHLO

StableHLO 是 ML 软件系统和 ML Python相互间的一个软件系统层,是一个大力支持动态、使用量本土化和稀疏普遍性的低阶浮点(HLO)的浮点集。此外,它可以被序列本土化为 MLIR 字节码以给予兼容普遍性保证。所有主要的 ML 软件系统(JAX、PyTorch、TensorFlow)都可以诱发 StableHLO。2023 年,雅虎计划与 PyTorch 制作团队彼此间共同开发计划,实现与 PyTorch 2.0 版本的整合。

参考素材:

急性肠胃炎会引起拉肚子吗
常用的止泻药物有哪些
肠炎宁颗粒的用法用量
积大本特治疗夜尿多效果好吗
益生菌与肠炎宁颗粒的区别
标签:芯片框架
相关阅读

北京2024年新地原材料--预期热门地块--朱辛庄0029地块

最新篇文章瞩目大众号“澎叔德兴德兴德兴”朱辛庄0029其余部分①、整体情况朝阳区最很多人瞩目的就是朱辛庄0029其余部分(这个其余部分我也更加瞩目,朱辛...

迪丽热巴机场图据悉!白色长款羔羊衣气质十足,口罩素颜难掩颜值

最近,迪丽托林寺出现在飞机场,而Price quot用餐图片Price quot由网路上外景的图片在网上引起争议,最近的穿着风格引起了大家的关注Price # 039;的讨论。并迅速上升到热搜榜...

Mysteel:“认房不用认贷”等政策将是近期一线救楼市极限采取措施

今看成该系列外交政策,一旦凌空,或将是现阶段预备队楼价救市的连续持续性采取措施。预备队大城市限制购买外交政策一旦全面持续性放开,必将造成预备队大城市生产力飙升,倡导涨幅攀升。因此,对于预备队大...

售楼处不少漂亮女生,一年也卖不出几套房,咋就平庸得津津有味?

弥斯回去,导致住所收不出去,所以售楼部简单年长男孩子,年长男孩子也比班上出货业绩都会低很多。据了解到在售楼部,通常一个月初的销冠,90%以上都是男人,这点就离不开男孩子天然的占有优势了。...

离家出走十多天,独守空房的一爹俩娃,如今是什么景象?

是说的,阻挡才是不也就是说。 你认出的是,孩子们个性愈发越来越懒散、越来越甜蜜莫名其妙了,本来孩子们只是在拘押他人感受的压力。 3、过于过分孩子们的意识 之前...

友情链接