#LPU

🐱毛巾大俠🐱scarfman@g0v.social
2026-01-01

inside.com.tw/article/40405-al
【一切為了 LPU?解密 NVIDIA 為何狠砸 200 億美元收購 Groq】

『LPU 專為大語言模型推論設計,具備極速、低延遲與高能效特點。勝過 TPU 的關鍵優勢在於捨棄外部 HBM,改用整合式靜態記憶體,消弭數據傳輸瓶頸。』

Nvidia 已經衝到讓其他對手完全看不到它的尾燈了。

#AI #Nvidia #LPU

2025-12-27

Nvidia nie bierze jeńców. Wydaje 20 mld dolarów na „mózgi” Groq w największej transakcji w swojej historii

Mieli być „pogromcą Nvidii”, oferując szybsze i tańsze chipy do AI. Zamiast tego, ich szefowie i technologia właśnie trafili pod skrzydła Jensena Huanga.

Nvidia cementuje swoją pozycję monopolisty, wydając rekordowe 20 miliardów dolarów w kontrowersyjnym modelu „acquihire”.

Groq był gwiazdą startupów AI. Ich procesory LPU (Language Processing Units) obiecywały to, czego GPU Nvidii nie potrafiły: błyskawiczne generowanie odpowiedzi (inference) przy ułamku kosztów energii. Firma budowała nawet własne centra danych w Europie i otwarcie oskarżała Nvidię o praktyki monopolistyczne. Cóż, jak mówi stare porzekadło: jeśli nie możesz ich pokonać, kup ich.

Najdroższe „CV” w historii

Według doniesień Tom’s Hardware, transakcja jest majstersztykiem prawnym, mającym na celu ominięcie urzędów antymonopolowych. Nvidia nie kupuje firmy Groq (co zablokowałaby Federalna Komisja Handlu). Zamiast tego:

  • Płaci 20 miliardów dolarów za niewyłączną licencję na własność intelektualną Groq.
  • Zatrudnia kluczowych pracowników, w tym założyciela i CEO Jonathana Rossa (twórcę układów TPU Google’a) oraz prezydenta Sunny’ego Madrę.

To model działania znany jako „acquihire” (przejęcie dla talentów), który w ostatnich latach stosowały Microsoft (z Inflection AI) i Amazon (z Adept).

Co zyskuje Nvidia?

Jensen Huang, CEO Nvidii, powiedział wprost: „Planujemy zintegrować procesory Groq o niskich opóźnieniach z architekturą fabryk AI Nvidii”. Oznacza to, że firma łata swoją jedyną słabość – wydajność w tzw. inference (wnioskowaniu). Nvidia ma najlepsze chipy do uczenia AI, ale Groq miał lepsze do jej obsługi. Teraz Nvidia ma obie te rzeczy.

Groq jako „wydmuszka”?

Formalnie Groq pozostaje niezależną firmą. Nowym CEO zostanie dotychczasowy dyrektor finansowy Simon Edwards, a usługa GroqCloud ma działać bez zmian. Pytanie jednak, czym jest firma technologiczna bez swoich założycieli, kluczowych inżynierów i z technologią, którą właśnie oddała największemu konkurentowi?

Dla rynku to jasny sygnał: w 2026 roku Nvidia zamierza być jedynym liczącym się graczem. A 20 miliardów dolarów to dla nich niska cena za święty spokój.

Koniec eldorado w chmurze. Od 1 stycznia NVIDIA wprowadza sztywne limity w GeForce Now

#AIInference #Groq #JensenHuang #JonathanRoss #LPU #nvidia #przejęcie #rynekChipów #sztucznaInteligencja
NVIDIA
2025-09-11

[Перевод] Архитектура LPU и будущее AI без задержек

Команда AI for Devs подготовила перевод статьи о том, как Groq пытается устранить главное «бутылочное горлышко» современного ИИ — задержку. Их специализированный процессор LPU обещает скорость в реальном времени и открывает путь к новым приложениям: от финансовых систем до Coding AI-ботов. Но за пределами маркетинга остаются вопросы: что с большими контекстами, какова конкуренция с Cerebras и GPU, и выдержит ли бизнес-модель такие вызовы?

habr.com/ru/articles/945894/

#Groq #LPU #инференс #задержка #ai #gpu

Primit1v3 :lpuverified:Primit1v3@locksport.space
2025-08-29
Rowdyrowdy
2025-02-08

I was an early member in 2001 and happy to have joined the @linkinpark Undergrpund again. Looking forward to their concert in June! The last one I attended was exactly 1 month before @chesterbe passed away. 💔

2024-12-02

🌟 Exciting Online Program on High-Performance Computing (HPC) in India!

Learn about Foundations, Parallel Programming, and GPU Acceleration from a stellar team of 7 experts, including industry leaders and international experts.

📅 Dates: Jan 27-Feb 1, 2025.
⏰Time: 6-9 PM IST.
💻 Mode: Online.
💰 Free registration!

Topics include MPI, OpenMP, CUDA, and more. Perfect for academicians and professionals.

Limited seats! Register now:
atalacademy.aicte-india.org/

#HPC #FDP #FreeEvent #LPU

2024-11-12

[Перевод] Глубокое погружение в базовую архитектуру LPU Groq

В этой статье мы собираемся разобрать архитектуру Tensor Streaming Processor TSP и его компилятора, а затем увидим, как Groq построили надежный и высокопроизводительный распределенный механизм инференса искусственного интеллекта с использованием этих TSP.

habr.com/ru/articles/857800/

#Groq #LPU #TPU #TSP #cyberdyne

fireshaper :lpuverified:fireshaper@locksport.space
2024-05-18

Want to talk about #lockpicking with others from around the world? Lockpickers United (#LPU) is the largest and most active lockpicking Discord server. Come hang out with us! lockpicking.chat

Stefan Müller :verified:stefanmuelller@climatejustice.social
2024-04-10

@florianaigner

Na, dann hätte er aus den 20 Arbeiten 200 gemacht. #LPU

Ist halt doof für alle, denn alle müssen das Zeug lesen, begutachten, zitieren. Wir beschäftigen uns alle mit uns selbst. Damit irgendwelche Verwaltungen was zusammenzählen können.

Aber die DFG ist zumindest schon bei den Antragstellungen vom Prinzip Masse weg. Da darf man nur noch wenige Publikationen auflisten.

Matthiasmarix1
2024-03-02

wow.groq.com/why-groq/

"An LPU has greater compute capacity than a GPU and CPU in regards to LLMs. This reduces the amount of time per word calculated, allowing sequences of text to be generated much faster. Additionally, eliminating external memory bottlenecks enables the LPU Inference Engine to deliver orders of magnitude better performance on LLMs compared to GPUs."

Chema Alonso :verified:chemaalonso@ioc.exchange
2024-03-02

El lado del mal - LPU vs. GPU vs. CPU: Cómo Groq implementa IA en tiempo real con LPU Inference Engine elladodelmal.com/2024/02/lpu-v #IA #GenAI #Prompting #InteligenciaArtificial #LPU #GPU #CPU

Erik JonkerErikJonker
2024-02-25

Groq sounds exciting with it's LPU (Language Processing Unit) as a faster and more efficient alternative to GPU's for LLM's. However difficult to establish the viability with only a website, whitepaper and online demo. Time will tell.
groq.com/

2023-01-28

Finished #LockpickersUnited #LPU picks for the Raffle pot 22! Shout out to @mb for the engraving.

Don't forget to get in on Raffle pot 2 "The American Pick Makers Pot" to get a set of 7 gorgeous picks from amazing pick makers😁

lpu.locksport-service.com/raffle/
#locksport

fireshaper :lpuverified:fireshaper@locksport.space
2022-10-31

#introduction for all the fediverse people I'm beginning to follow and who might follow back. I've been interested in #physicalsecurity and #lockpicking for the past 20 years, and started Augusta Locksports and the #LPU discord server. I'm a casual #linux user, mostly for server things but every once in a while I get a wild hair up my ass to run it as my daily driver. I'm a hobbyist #dicemaker and my wife and I raise rabbits.

Client Info

Server: https://mastodon.social
Version: 2025.07
Repository: https://github.com/cyevgeniy/lmst