Araçları ön uç çerçeveleri ve donanım arka uçları arasında bir araya getirerek makine öğrenimi geliştirmeyi basitleştiren etkili, taşınabilir ve genişletilebilir makine öğrenimi (ML) altyapı bileşenlerinden oluşan açık bir ekosistem. AI modelleme, yazılım ve donanım alanlarında sektör liderleri tarafından geliştirilmiştir.
Topluluk Toplantısı 18.06.2024, 09:00 PT
OpenXLA Dev Lab Nisan 2024: Birlikte Çığır Açan ML Sistemlerini Derleme

XLA

XLA (Hızlandırılmış Doğrusal Cebir), makine öğrenimi için açık kaynak bir derleyicidir. XLA derleyici PyTorch, TensorFlow ve JAX gibi popüler çerçevelerden modeller alır ve GPU'lar, CPU'lar ve makine öğrenimi hızlandırıcıları gibi farklı donanım platformlarında yüksek performanslı yürütme için modelleri optimize eder.
XLA, birçok makine öğrenimi çerçevesi için önceden oluşturulmuş olarak sunulur. Bu durumlarda XLA'nın nasıl kullanılacağıyla ilgili bilgi için belgelere ve bağımsız çerçeve sayfalarına bakın.
XLA dokümanları, yeni bir PJRT eklentisinin entegre edilmesi, yeni bir XLA arka ucunun uygulanması ve XLA programının çalışma zamanını optimize etme gibi bir dizi temel ve ileri düzey konuyu kapsar.

StableHLO

StableHLO, makine öğrenimi (ML) modellerindeki üst düzey işlemler (HLO) için kullanılan bir işlem grubudur. Temel olarak farklı ML çerçeveleri ile makine öğrenimi derleyicileri arasındaki taşınabilirlik katmanıdır: StableHLO programları üreten makine öğrenimi çerçeveleri, StableHLO programlarını kullanan makine öğrenimi derleyicileriyle uyumludur.
StableHLO belgeleri, StableHLO OpSet'in spesifikasyonu ve yaygın makine öğrenimi çerçevelerinden StableHLO grafiklerinin nasıl dışa aktarılacağı gibi çeşitli konuları kapsar.

PJRT

PJRT, makine öğrenimi derleyicileri ve çalışma zamanları için donanımdan ve çerçeveden bağımsız bir arayüzdür. Şu anda XLA dağıtımına dahil edilmiştir. PJRT'yi kullanma ve entegre etme hakkında daha fazla bilgi için XLA GitHub'a ve belgelere bakın.

Topluluk

Sürümler, etkinlikler ve diğer önemli güncellemelerle ilgili haberleri almak için openxla-discuss posta listesine katılın. Bu kanal aynı zamanda tasarım ve geliştirme tartışmaları için de ana kanalımızdır.
XLA ve StableHLO konularıyla ilgili sohbetlere katılmak için OpenXLA Discord'a katılın.
Toplantılar her ayın 2. veya 3. Salı günü saat 09:00'da (Pasifik Saati) Google Meet üzerinden yapılır. Belirli tarihler ve konular için lütfen toplantı dokümanına veya openxla-discuss'a göz atın.
Topluluğun katkılarından memnuniyet duyarız. Daha fazla bilgi edinmek için lütfen katkıda bulunma yönergelerimize bakın.

Sektör iş ortakları

OpenXLA projesi, önde gelen makine öğrenimi donanım ve yazılım kuruluşları tarafından iş birliğiyle geliştirilmektedir.
Alibaba logosu

Alibaba

"Alibaba'da OpenXLA, büyük PyTorch modellerinin eğitimi ve sunumu için Elastic GPU Service müşterileri tarafından kullanılıyor. OpenXLA kullanan müşteriler açısından önemli performans iyileştirmeleri gördük. Bu artışlar arasında GPT2 için% 72 ve NVIDIA GPU'larında Swin Transformer% 88 hızda artış gözlemledik. OpenXLA Projesi'nin kurucu üyesi olmaktan ve açık kaynak topluluğuyla birlikte çalışarak Alibaba Cloud müşterilerine üstün performans ve kullanıcı deneyimi sunan gelişmiş bir makine öğrenimi derleyicisi geliştirmekten gurur duyuyoruz." - Yangqing Jia, AI ve Veri Analizi Başkan Yardımcısı, Alibaba

Amazon Web Services logosu

Amazon Web Services

"Yüksek performanslı, ölçeklenebilir ve genişletilebilir yapay zeka altyapısına erişimi demokratikleştirecek ve açık kaynak topluluğu içinde yeniliği teşvik edecek daha fazla iş birliği yapacak olan OpenXLA Projesi'nin kurucu üyelerinden biri olmaktan heyecan duyuyoruz. AWS'de müşterilerimiz, üretken yapay zeka uygulamalarını AWS Trainium ve Inferentia ile ölçeklendiriyor. Neuron SDK'mız ise XLA'dan yararlanarak makine öğrenimi modellerini vat başına yüksek performans ve sınıfının en iyisi performans için optimize ediyor. Sağlam bir OpenXLA ekosistemiyle geliştiriciler, sürdürülebilir bir makine öğrenimi altyapısıyla yenilikler yapmaya ve mükemmel performans sunmaya devam edebilir ve kodlarının, istedikleri donanımda taşınabilir olduğunu bilebilir." - Nafea Bshara, Başkan Yardımcısı ve Kıdemli Mühendis, AWS

AMD logosu

AMD

"OpenXLA'nın geniş AMD cihaz ailesinde (CPU'lar, GPU'lar, AIE) gelecekte nasıl yönlendirileceği konusunda heyecanlıyız ve bu topluluğun bir parçası olmaktan gurur duyuyoruz. Projelere açık yönetim, esnek ve geniş uygulanabilirlik, son teknoloji ürünü özellikler ve birinci sınıf performans ile değer veriyoruz ve makine öğrenimi geliştiricileri için açık kaynak ekosistemini genişletmek amacıyla sürekli iş birliği yapmayı umuyoruz." - Alan Lee, Kurumsal Başkan Yardımcısı, Yazılım Geliştirme, AMD

Anyscale logosu

Herhangi bir ölçek

"Anyscale, yapay zeka uzmanlarının uygulamalarını daha hızlı geliştirmesine ve daha fazla kullanıcıya sunmasına yardımcı olmak için Ray gibi açık ve ölçeklenebilir teknolojiler geliştiriyor. Kısa süre önce, Büyük Dil modelleri için yüksek performanslı model eğitimini geniş ölçekte göstermek amacıyla OpenXLA'yı kullanmak üzere ALPA projesiyle iş ortaklığı yaptık. OpenXLA'ya katılmaktan mutluluk duyuyoruz. Bu açık kaynaklı çalışmanın, yapay zeka iş yüklerinin daha çeşitli donanım platformlarında verimli bir şekilde çalıştırılmasına olanak tanıması ve böylece giriş engelinin azaltılması, maliyetlerin azaltılması ve yapay zeka alanını daha hızlı bir şekilde geliştirmesi bizi heyecanlandırıyor." - Philipp Moritz, Baş Teknoloji Sorumlusu, Anyscale

Apple logosu

elma

Apple Inc. akıllı telefon, kişisel bilgisayar, tablet, giyilebilir cihaz, aksesuar tasarım, üretim ve pazarlamasının yanı sıra alakalı çeşitli hizmetler de satmaktadır.

Arm logosu

Kol

"OpenXLA Projesi, makine öğrenimi yazılımı geliştirmeyi basitleştirme yolunda önemli bir dönüm noktası. OpenXLA misyonunu tamamen destekliyor ve Arm® NeoverseTM donanım ve yazılım yol haritalarında OpenXLA kararlılığından ve standartlaştırmasından yararlanmak için sabırsızlanıyoruz." - Peter Greenhalgh, Teknolojiden Sorumlu Başkan Yardımcısı ve Fellow, Arm.

Cerebras logosu

Serebra

"Cerebras olarak en büyük yapay zeka modellerinin bile eğitimini hızlı ve kolay hale getirmek için tasarlanmış yapay zeka hızlandırıcıları geliştiriyoruz. Sistemlerimiz ve yazılımlarımız kullanıcılara bulundukları yerde hizmet vererek standart makine öğrenimi çerçevelerini değiştirmeden hızlı geliştirme, ölçeklendirme ve yineleme sağlar. OpenXLA, Cerebras Wafer-Scale Engine'e üst seviye makine öğrenimi çerçeveleri için ortak bir arayüz sunarak kullanıcı erişimimizi genişletmemize ve çözüm süresini hızlandırmaya yardımcı oluyor. OpenXLA ekosisteminin GitHub'da daha geniş bir topluluk katılımı, katkısı ve kullanımı için kullanılabilir olduğunu görmekten büyük heyecan duyuyoruz." - Andy Hock, Başkan Yardımcısı ve Ürün Müdürü, Cerebras Systems

Google logosu

Google

"Açık kaynak yazılımlar, yapay zekada çığır açan buluşlar yaratmaya yardımcı oluyor. Açık kaynak olma taahhüdümüzü pekiştirmek ve makine öğrenimi performansı standardını yükselten, çerçeveler ile donanım arasındaki uyumsuzlukları gideren ve geliştiricilerin özel kullanım alanlarını ele alacak şekilde yeniden yapılandırılabilen yapay zeka araçlarının benimsenmesini teşvik etmek için Google olarak OpenXLA Projesi üzerinde birlikte çalışıyoruz. Geliştiricilerin yapay zeka yığınının birçok farklı katmanında ilerleme kaydedebilmeleri için bu araçları OpenXLA topluluğuyla birlikte geliştirmekten heyecan duyuyoruz." - Jeff Dean, Kıdemli Çalışan ve SVP, Google Araştırma ve Yapay Zeka

Graphcore logosu

Grafik

"IPU derleyici ardışık düzenimiz, herkese açık hale getirildiğinden beri XLA'yı kullanıyor. XLA'nın platform bağımsızlığı ve kararlılığı sayesinde, yeni silikon oluşturmak için ideal bir ön uç sağlıyor. XLA'nın esnekliği, IPU'muzun yeni donanım özelliklerini açığa çıkarmamıza ve birden fazla çerçeveyle en gelişmiş performansı elde etmemize olanak tanıdı. XLA tarafından derlenen kod çalıştıran sistemler günde milyonlarca sorguya hizmet veriyor. OpenXLA'nın yönlendirmesi bizi heyecanlandırıyor ve açık kaynak projesine katkıda bulunmaya devam etmeyi umuyoruz. Bu teknolojinin, yapay zeka/makine öğreniminin geleceğinde temel bir bileşen oluşturacağına inanıyoruz." - David Norman, Yazılım Tasarım Direktörü, Graphcore

Hugging Face logosu

Kucaklayan Yüz

"Herhangi bir donanım üzerinde herhangi bir modeli verimli bir şekilde çalıştırmayı kolaylaştırmak ciddi teknik bir zorluk ve iyi makine öğrenimini herkese eşit şekilde ulaştırma misyonumuz açısından önemli bir hedeftir. Hugging Face'te TensorFlow metin oluşturma modelleri için XLA'yı etkinleştirdik ve yaklaşık 100 kat hız artışı elde ettik. Ayrıca Intel, AWS, Habana, Graphcore, AMD, Qualcomm ve Google'da bulunan mühendislik ekipleriyle yakın işbirliği içinde çalışarak çerçeveler ve her silikon arasında açık kaynaklı köprüler oluşturarak Optimum kitaplığımız sayesinde son kullanıcılara anında verimlilik sunuyoruz. OpenXLA, standart hale getirilmiş yapı taşları vadediyor. Bu yapı taşları üzerine çok ihtiyaç duyduğumuz birlikte çalışabilirlik özelliğini inşa edebiliyoruz. Bunları takip edip katkıda bulunmak için sabırsızlanıyoruz!" - Morgan Funtowicz, Makine Öğrenimi Optimizasyonu Başkanı, Hugging Face

Intel logosu

Intel

"Intelli olarak yapay zekaya açık ve demokratik bir şekilde erişim sağlanması gerektiğine inanıyoruz. Intel CPU'lar, GPU'lar, Habana Gaudi hızlandırıcıları ve OpenVINO gibi tek API destekli yapay zeka yazılımları, üst düzey süper bilgisayarlardan büyük bulut dağıtımlarına kadar her yerde makine öğrenimi iş yüklerini destekler. Diğer OpenXLA üyeleriyle birlikte, dünyayı değiştiren bilim ve araştırmaları hızlandırmak için birden fazla çerçeve ve donanım ortamında yeniliği destekleyen, standartlara dayalı, bileşenleştirilmiş makine öğrenimi derleyici araçlarını desteklemeyi amaçlıyoruz." - Greg Lavender, Intel SVP, CTO ve GM, Software & Advanced Technology Group

Meta logo

Meta

"Araştırmamızda, Meta AI olarak Cloud TPU'lar için PyTorch modellerini etkinleştirmek amacıyla OpenXLA projesinin temel teknolojisi XLA'yı kullanıyoruz ve önemli projelerde önemli performans iyileştirmeleri elde edebildik. Açık kaynağın dünyada inovasyonu hızlandırdığına inanıyor ve OpenXLA Projesi'nin bir parçası olmaktan heyecan duyuyoruz." - Soumith Chintala, Lead Treater, PyTorch

NVIDIA logosu

NVIDIA

"OpenXLA Projesi'nin kurucu üyelerinden biri olan NVIDIA, OpenXLA topluluğuyla yapay zeka/makine öğrenimi alanındaki ilerlemeler konusunda işbirliği yapmak için sabırsızlanıyor. OpenXLA'nın daha yaygın bir şekilde kullanılması ve benimsenmesiyle, makine öğrenimi geliştiricilerinin son teknoloji yapay zeka altyapısıyla destekleneceğinden emin." - Roger Bringmann, Compiler Software Başkan Yardımcısı, Compiler Software, NVIDIA.

İletişim

Doğrudan sorular için openxla.org'daki uygulayıcılarla (sağlayıcılar) iletişime geçin