#nvlink

NVIDIA 開放自家互連架構 NVLink Fusion 登場,GPU 直連高通, 富士通 CPU
NVIDIA 最近推出全新 NVLink Fusion 技術,首次開放其高速互連技術予合作夥伴使用,讓第三方處理器及加速器能與 NVIDIA 晶片共同運作。今次也是 NVIDIA 生態系統重大轉變,企業可根據需求選擇搭配不同廠商晶片,提升系統靈活性。
The post NVIDIA 開放自家互連架構 NVLink Fusion 登場,GPU 直連高通, 富士通 CPU appeared first on 香港 unwire.hk 玩生活.樂科技.
#科技新聞 #NVIDIA #NVLink Fusion
unwire.hk/2025/05/20/nvidia-an

shac ron ₪‎shac@ioc.exchange
2025-05-19

When PCIe is just too slow, #NVLink is now available to third parties. CPU manufacturers can build chips that tightly couple with their GPUs and participate in the cluster-wide coherent memory mesh. #nvidia social.heise.de/@heiseonlineen

Benjamin Carr, Ph.D. 👨🏻‍💻🧬BenjaminHCCarr@hachyderm.io
2025-04-08

#UALink debuts its first #AI interconnect spec – usable in just 18 short months
Consortium (UAC) was formed in May 2024 by vendors – AMD, AWS, Broadcom, Cisco, Google, HPE, Intel, Meta, Microsoft, and Astera Labs – who think world needs an open alternative to #Nvidia's #NVLink tech that allows creation of networked GPU clusters needed to run AI workloads at scale.
The Ultra Accelerator Link Consortium has delivered first GPU interconnect specification: UALink 200G 1.0.
theregister.com/2025/04/08/ual

2025-04-08

[Перевод] Подробное руководство по облачной инфраструктуре для ИИ-проектов

Как вычислительные ресурсы, системы хранения, сетевые технологии и AI-фреймворки влияют на производительность AI-проектов. Почему понимание этой инфраструктуры даёт конкурентное преимущество

habr.com/ru/articles/896194/

#облачная_инфраструктура #искусственный_интеллект #gpu #tpu #dpu #хранение_данных #сетевые_технологии #nvlink #rdma #ai_фреймворки

2024-12-06

Невероятная мощь NVIDIA GB200 NVL72: Внутри гиганта ИИ-вычислений

Привет, Хабр! Если вас всегда интересовало, как устроены по-настоящему производительные системы , вы попали по адресу. В сегодняшней статье мы расскажем, как Nvidia объединила сразу 72 ускорителя B200 в единый CUDA процессор GB200 NVL72 . Узнаем, как для создания эффективного интерконнекта используются технологии NVLink , Ethernet и Infiniband . Предметный разговор об аппаратной части уже ждет вас под кнопкой «Читать далее».

habr.com/ru/companies/serverfl

#сервер_флоу #GB200_NVL72 #nvlink #blackwell #nvidia_grace #Nvidia_Superchip #NVLink_Spine #infiniband #llm #SeverFlow

2024-11-25

Мы потратили 320 тысяч рублей ради Nvlink для нейросетей. Но был ли в этом смысл?

Привет Хабр, с вами снова ServerFlow. И да, мы потратили 320 тысяч рублей, чтобы проверить, есть ли какой-то толк от NVLink для развертывания нейросетей? Тесты мы провели на двух видеокартах Nvidia A5000, сначала объединённые NVLink , а после без него. Для наглядности теста нами была выбрана последняя языковая модель LLaMA 3.2 на 90 миллиардов параметров. Что у нас в итоге вышло – сможете узнать ниже в посте.

habr.com/ru/companies/serverfl

#ServerFlow #Машинное_обучение #Искуственный_интеллект #ИИ #Серверное_администрирование #nvidia #A5000 #видеокарты #llama #nvlink

HPC GuruHPC_Guru
2024-11-08

Digging Into The Ultra Accelerator Link Consortium

o Nvidia's proprietary addresses GPU-to-GPU connectivity

o looks to broaden this capability across the industry - not just for GPUs, but any accelerator

forbes.com/sites/moorinsights/

Benjamin Carr, Ph.D. 👨🏻‍💻🧬BenjaminHCCarr@hachyderm.io
2024-06-06

#AMD & #Intel Team Up For #UALink As Open Alternative To #NVIDIA's #NVLink
UALinks aims to be an open standard for scaling of tens to hundreds of #GPU /accelerators within pods. In addition to Intel and AMD, #Broadcom, #Cisco, #Google, #HPE, #Meta, and #Microsoft have also been involved in the formation of the #UltraAcceleratorLink. #UltraEthernet high speed networking will still have its role for #scaleout purposes.
phoronix.com/news/Ultra-Accele

Benjamin Carr, Ph.D. 👨🏻‍💻🧬BenjaminHCCarr@hachyderm.io
2023-09-24

From #SLI to #NVLink: The Evolution of #NVidia's Gaming and Multi-#GPU Technologies and Their Influence on #AI
NVLink is crafted for scientific research, data analysis, and, most notably, AI and machine learning applications. The higher bandwidth, lower latency, and unified memory make NVLink a far more flexible and powerful solution for today’s computational challenges. The most recent iterations offer bandwidths up to 900 GB/s, a significant enhancement over SLI.
storagereview.com/review/from-

Tero Keski-Valkamatero@rukii.net
2023-05-13

#Google Launches AI Supercomputer Powered by #Nvidia #H100 #GPUs | #TomsHardware

"Google says the new A3 supercomputers are purpose-built to train and serve the most demanding #AI models that power today's #GenerativeAI and #LargeLanguageModel innovation while delivering 26 exaFlops of AI performance.

Each A3 supercomputer is packed with 4th generation Intel Xeon Scalable processors backed by 2TB of DDR5-4800 memory. But the real brains of the operation come from the eight Nvidia H100 #Hopper GPUs, which have access to 3.6 TBps of bisectional bandwidth by leveraging #NVLink 4.0 and #NVSwitch."

tomshardware.com/news/google-a

sn 🐦‍⬛sn@ruhr.social
2023-03-27

… finally! Llama-65B runs in GPU memory (4bit quantized). #LLaMA #LLM #nvlink

Two GPUs connected with NVLink bridge
Новини Українськоюrss_ukr_news
2023-03-22

NVIDIA представила апаратні прискорювачі для ChatGPT, обробки відео за допомогою ШІ, генеративних та інших моделей itc.ua/ua/novini/nvidia-predst

Client Info

Server: https://mastodon.social
Version: 2025.04
Repository: https://github.com/cyevgeniy/lmst