Yeni Yapay Zeka Modeli Groq, Elon Musk’ın Grok’u ve ChatGPT’ye Meydan Okuyor
Yeni bir yapay zeka modeli Groq, inanılmaz hızı ve yenilikçi teknolojisiyle ön plana çıkarak Elon Musk’ın yapay zeka aracı Grok ve ChatGPT’ye meydan okuyor.
Bu yeni yapay zeka aracı, halka açık testlerinin popüler sosyal medya platformu X üzerinde viral hale gelmesinin ardından büyük bir ilgi topladı.
Kullanıcılar tarafından paylaşılan videolar, Groq’un etkileyici performansını ve özellikle hesaplama becerilerini gözler önüne seriyor.
Bu paylaşımlar, Groq’un tanınmış yapay zeka sohbet robotu ChatGPT‘ye göre daha üstün bir performans sergilediğine dair iddiaları gündeme getirdi.
side by side Groq vs. GPT-3.5, completely different user experience, a game changer for products that require low latency pic.twitter.com/sADBrMKXqm
— Dina Yerlan (@dina_yrl) February 19, 2024
Groq Kendisi İçin Özel ASIC Çipi Geliştiriyor
Groq, yapay zeka alanındaki yenilikçi yaklaşımıyla dikkat çekiyor. Şirketin büyük dil modelleri (LLM’ler) için özel olarak tasarladığı uygulamaya özel entegre devre (ASIC) çipi, Groq’un performansını diğer yapay zeka modellerinden ayırıyor. Bu özel çip, saniyede 500 token üretebilme kapasitesiyle, ChatGPT’nin ChatGPT-3.5 sürümünün saniyede 40 token üretim kapasitesini aşarak önemli bir teknolojik avantaj sağlıyor.
Groq Inc.’in geliştirdiği dil işleme birimi (LPU), geleneksel yapay zeka modellerinin aksine, az bulunan ve pahalı olan grafik işleme birimlerine (GPU’lar) dayanmıyor. Bunun yerine, LPU, benzersiz hız ve verimlilikle alternatif bir çözüm sunuyor. 2016’da kurulan Groq Inc., bu alanda yeni sayılmaz ve sektörde önemli bir yer edinmiş durumda.
Wow, that's a lot of tweets tonight! FAQs responses.
• We're faster because we designed our chip & systems
• It's an LPU, Language Processing Unit (not a GPU)
• We use open-source models, but we don't train them
• We are increasing access capacity weekly, stay tuned pic.twitter.com/nFlFXETKUP— Groq Inc (@GroqInc) February 19, 2024
Elon Musk’ın 2021 Kasım’ında tanıttığı ve isim benzerliği taşıyan “Grok” adlı yapay zeka modeli ise, Groq’un orijinal yaratıcılarının dikkatini çekti. Groq Inc., Musk’ın isimlendirme seçimine ilişkin olarak kendi blogları üzerinden esprili ve iddialı bir tavırla yorum yaparak, Musk’tan farklı bir isim seçmesini istedi. Ancak şu ana kadar ne Musk ne de X’teki Grok sayfası, bu isim örtüşmesi hakkında herhangi bir yorumda bulunmadı.
Bu gelişmeler, yapay zeka sektöründe devam eden rekabet ve yeniliklerin yanı sıra, benzer isimlendirmelerin de dikkat çekici bir parçası haline gelmiş durumda. Groq ve benzeri teknolojiler, yapay zeka alanında sürekli gelişen ve genişleyen bir ekosistemin parçası olarak dikkat çekmeye devam ediyor.
Yapay Zeka Geliştiricileri Özel Çipler Oluşturacak
Groq’un yapay zeka alanında özel olarak geliştirdiği Doğrusal İşlemci Birimi (Linear Processing Unit – LPU) ile elde ettiği performans, sektörde heyecan uyandırıyor. Bu yenilikçi teknoloji, geleneksel Grafik İşlem Birimleri (Graphics Processing Units – GPU) tabanlı modellerle karşılaştırıldığında belirgin avantajlar sunuyor.
Bazı uzmanlar, Groq’un LPU’larının, Nvidia’nın A100 ve H100 gibi popüler çiplerinin sağladığı yüksek performanslı donanımlarla rekabet edebileceğini düşünüyor.
Kullanıcı Jay Scambler, Groq’un Tensör Akış İşlemcisi (Tensor Streaming Processor – TSP) olarak da bilinen ve LPU olarak kategorize edilen yeni bir işlem birimi yarattığını belirtti. Bu işlem birimleri, geleneksel GPU’ların aksine, yapay zeka hesaplamalarına odaklı ve bu alanda belirleyici performans sağlamak üzere tasarlı.
Scambler’a göre, bu durum, gerçek zamanlı yapay zeka uygulamalarında performansın daha kesin olarak tahmin edilebilmesi ve optimize edilebilmesi anlamına geliyor.
Groq is serving the fastest responses I've ever seen. We're talking almost 500 T/s!
I did some research on how they're able to do it. Turns out they developed their own hardware that utilize LPUs instead of GPUs. Here's the skinny:
Groq created a novel processing unit known as… pic.twitter.com/mgGK2YGeFp
— Jay Scambler (@JayScambler) February 19, 2024
Bu trend, büyük yapay zeka geliştiricilerinin Nvidia gibi markalara olan bağımlılıklarını azaltmak için kendi içlerinde çip geliştirme çabalarını hızlandırdıkları mevcut endüstri hareketine uyum sağlıyor.
Ayrıca, yapay zeka alanında öncü bir oyuncu olan OpenAI’nin, kendi özel çipini geliştirmek için dünya genelinde hükümetlerden ve yatırımcılardan ciddi miktarda fon toplamaya çalıştığı bildirildi.
