#M3Ultra

Alex Cheema - e/acc (@alexocheema)

Kimi K2.5 모델을 데스크톱 환경에서 실행한 사례 보고: 2대의 512GB M3 Ultra Mac Studio를 Thunderbolt 5(RDMA)로 연결하고 @exolabs의 MLX 백엔드를 사용하여 초당 약 24 tokens 처리 성능을 기록했으며, 이를 통해 'clawdbot' 같은 애플리케이션도 구동 가능함을 시연했습니다. 개인/랩톱급 하드웨어에서의 실무적 실행 사례로 의미가 큽니다.

x.com/alexocheema/status/20164

#kimik2.5 #llm #m3ultra #exolabs #thunderbolt5

Ivan Fioravanti ᯅ (@ivanfioravanti)

M5 Max는 prefill(전처리) 단계에서 훨씬 빠를 것으로 예상되며, RDMA over Thunderbolt와 두 대의 M3 Ultra를 결합하면 강력한 실험 환경을 구축할 수 있을 것이라고 전망합니다. 작성자는 1월 28일을 기대 일자로 언급하며 하드웨어 기반 성능 향상이 연구 실험에 미칠 영향을 강조합니다.

x.com/ivanfioravanti/status/20

#m5max #m3ultra #rdma #thunderbolt #hardware

Ivan Fioravanti ᯅ (@ivanfioravanti)

OpenCode에서 GLM-4-7-Flash-4bit 모델을 MLX와 함께 애플 M3 Ultra에서 실행해 매우 빠른 성능을 보였다는 게시물입니다. 4비트 데모(video)가 공개되어 있으며 8비트 버전도 언급되어 있습니다. 하드웨어(M3 Ultra)에서 경량화(4bit/8bit) 모델의 고속 실행 사례를 보여줍니다.

x.com/ivanfioravanti/status/20

#opencode #glm4 #mlx #m3ultra #quantization

Ivan Fioravanti ᯅ (@ivanfioravanti)

GLM-4.7 Flash가 @Zai_org에서 M3 Ultra 위에서 MLX로 구동된다는 성능 보고: 4bit에서 81 toks/s, 8bit에서 64 toks/s. 모델은 transformers에서 MLX로 온더플라이 변환되었고 Codex와 GPT-5.2 High를 함께 사용해 변환했다는 기술적 언급이 포함되어 있습니다.

x.com/ivanfioravanti/status/20

#glm #mlx #m3ultra #quantization #codex

Ivan Fioravanti ᯅ (@ivanfioravanti)

M3 Ultra 2대를 최대 성능으로 활용해 한 대에서는 GLM-Image 생성 작업을 돌리고, 다른 한 대에서는 @0xSero가 만든 MiniMax-M2.1-REAP-30(및 40)을 테스트하고 있다는 게시물입니다. 하드웨어 한계 테스트와 새로운/버전화된 모델 실험을 동시에 진행하는 사례를 보여줍니다.

x.com/ivanfioravanti/status/20

#m3ultra #glmimage #minimax #ai

Behnam (@OrganicGPT)

M3 Ultra에서 특정 모델을 구동할 때 코일 와인(coil whining) 소음이 발생하는 현상을 관찰했다는 기술적 발견입니다. 예로 MiniMax M2.1 8bit는 소음이 없으나 GLM 4.7 reap mxfp4는 소음이 발생했으며, 두 모델 모두 MLX 포맷이라는 점을 지적했습니다. 하드웨어-모델 상호작용 관련 주의 환기입니다.

x.com/OrganicGPT/status/201087

#m3ultra #coilwhine #minimax #glm #mlx

limegreenpeper753 (@limegreenpeper1)

업데이트: LTX-2 I2V 모델이 사용자의 M3 Ultra에서 제대로 실행되는 것으로 보인다는 보고입니다. 하드웨어(M3 Ultra)에서의 모델 호환성·실행 성공을 알리는 짧은 기술 업데이트입니다.

x.com/limegreenpeper1/status/2

#ltx2 #m3ultra #inference #model

Ivan Fioravanti ᯅ (@ivanfioravanti)

MiniMax 2.1을 8bit로 압축해 단일 M3 Ultra(512GB)에서 오픈코드로 실시간 동작시켰다는 보고. 실시간 비디오 재생(무가속)과 함께 텐서 병렬성(TP)에 대한 심층 탐구 계획을 밝힘—경량화·실행성 관련 기술 데모.

x.com/ivanfioravanti/status/20

#minimax #m3ultra #tensorparallelism #opensource

apfeltalk :verified:apfeltalk@creators.social
2026-01-01

Hat der Mac Pro noch eine Zukunft?
Der Mac Pro wurde seit 2023 nicht mehr aktualisiert – und aktuelle Berichte deuten darauf hin, dass sich daran so bald nichts ändert. Im Raum steht sogar, dass Apple mit dem Mac Pro abgeschlossen haben könnte.

Mac Pro angeblich nur noch Nebenthema bei Apple
Laut einem jüngsten Bericht
apfeltalk.de/magazin/news/hat-
#News #Apple #M2Ultra #M3Ultra #M5Ultra #MacPro #MacStudio #PCIe #ProfiDesktop #Thunderbolt5

Awni Hannun (@awnihannun)

MiniMax M2.1을 4비트로 양자화해 Apple M3 Ultra에서 mlx-lm으로 구동했습니다. 5098 토큰으로 Space Invaders 게임을 생성했고 처리 속도는 초당 약 47.2 토큰을 기록하여, 경량화(4-bit)된 LLM의 실사용 성능 및 게임 생성 같은 창의적 애플리케이션 가능성을 보여줍니다.

x.com/awnihannun/status/200457

#minimax #quantization #mlxlm #m3ultra #llm

Le site de Korbenkorben.info@web.brid.gy
2025-12-21

1,5 To de VRAM sur un Mac Studio - Le RDMA Thunderbolt 5 qui change la donne

fed.brid.gy/r/https://korben.i

<p>Vous rêvez de faire tourner des modèles d'IA de 600 milliards de paramètres sur votre bureau sans avoir à vendre vos enfants ? Hé bien Jeff Geerling vient de tester un truc qui va vous faire baver, je pense. En tout cas, moi ça m'énerve (dans le bon sens du terme hein...) !</p>
<p>Apple lui a prêté 4 Mac Studios M3 Ultra pour tester une nouvelle fonctionnalité qui débarque avec macOS 26.2 et qui s'appelle le <strong>RDMA over Thunderbolt 5</strong>. En gros, c'est une techno qui permet à plusieurs Macs de partager leur mémoire unifiée comme si c'était un seul gros pool de RAM et du coup, au lieu d'avoir 4 machines séparées avec chacune leur mémoire, vous vous retrouvez avec 1,5 To de VRAM partagée accessible par toutes les machines.</p>
<p>Le setup de Jeff c'est deux Mac Studios avec 512 Go de RAM chacun à environ 11 700 dollars pièce, plus deux autres avec 256 Go à 8 100 dollars. Total de la douloureuse : environ 40 000 dollars. Ça pique, c'est clair, mais attendez de voir ce que ça fait.</p>
<p>Le truc qui change vraiment la donne avec le RDMA c'est la latence. Avant, quand un Mac devait accéder à la mémoire d'un autre Mac via le réseau, ça prenait environ 300 microsecondes. Avec cette nouvelle implémentation Thunderbolt 5, on tombe à moins de 50 microsecondes. Ça paraît rien comme ça, mais pour faire tourner ce genre de modèles, c'est énorme.</p>
<p>Jeff a fait tourner des benchmarks classiques et les résultats sont plutôt impressionnants. Sur Geekbench 6, le M3 Ultra e
N-gated Hacker Newsngate
2025-12-14

🤦‍♂️ Ah, the Kimi K2 1T—a marvel of modern tech that requires the power of two 512GB M3 Ultras just to remind you to *turn on JavaScript* for the 846th time. Meanwhile, X Corp's Help Center offers more than a bakery and less help than a 🦄 in a tech support role. 🍪🔒
twitter.com/awnihannun/status/

2025-12-03

Qwen3-Next chạy chậm trên Mac Studio M3 Ultra với llama.cpp (11 tok/s). Các model lớn hơn như Minimax M2 và gpt-oss:120b nhanh hơn lần lượt 3x và 7x.

#LocalLLaMA #AI #Qwen3Next #MacStudio #M3Ultra #llama #trituenhantao #congnghe

reddit.com/r/LocalLLaMA/commen

2025-11-26

Yêu cầu hỗ trợ tìm nền tảng UI locally host tương thích HIPAA cho mô hình Llama CPP đang chạy trên Mac Studio M3 Ultra. Người đăng cần giải pháp lưu trữ log an toàn tại địa phương, đồng thời hỏi thêm về hiệu năng hệ thống. #LocalLLaMA #HIPAA #M3Ultra #LlamaCPP

reddit.com/r/LocalLLaMA/commen

Ars Technica Newsarstechnica@c.im
2025-11-17

Report claims that Apple has yet again put the Mac Pro “on the back burner” arstechni.ca/5BXQ #Applesilicon #MacStudio #M2Ultra #m3ultra #m5ultra #MacPro #Apple #Tech

2025-10-16

Rumor: Apple kiểm tra MacBook Pro 14/16 in với chip M3 Ultra! 🚀 Dù điều chỉnh thermals và power, 1TB RAM khả thi? Giá cao, pin ngắn? #Apple #MacBookPro #M3Ultra #ThôngTinTech

reddit.com/r/LocalLLaMA/commen

apfeltalk :verified:apfeltalk@creators.social
2025-09-30

macOS Tahoe endlich für Mac Studio M3 Ultra verfügbar
Mac Studio M3 Ultra Nutzer:innen können nach langer Wartezeit nun macOS Tahoe installieren. Apple hat mit einem Update das Problem gelöst, das bislang die Installation verhinderte.

Fehler bei der Installation von macOS Tahoe
Apple veröf
apfeltalk.de/magazin/news/maco
#Mac #News #Apple #Fehlerbehebung #M3Ultra #MacStudio #MacOS2601 #MacOSTahoe #NeuralEngine #Update

Marcus "MajorLinux" Summersmajorlinux@toot.majorshouse.com
2025-09-30
N-gated Hacker Newsngate
2025-09-17

🚨 BREAKING NEWS: releases yet another incompatible , and the world is shocked—shocked, I tell you! 🙄 Meanwhile, Mac Studio M3 Ultra users look wistfully at their fancy paperweights, waiting for Cupertino's next grand patch miracle. 🎢
eclecticlight.co/2025/09/17/ma

Client Info

Server: https://mastodon.social
Version: 2025.07
Repository: https://github.com/cyevgeniy/lmst