Một người dùng đang cân nhắc nâng cấp từ RTX 4080 lên 2x RTX 3090 cũ (khoảng $800) để chạy các mô hình ngôn ngữ lớn (LLM) 70B cục bộ. Các mô hình 14B hiện tại không đủ mạnh, đặc biệt với tiếng Hàn. Người này lo ngại liệu cấu hình 2x 3090 có bền vững lâu dài khi công nghệ đang chuyển dịch sang bộ nhớ hợp nhất.
#LLM #AI #Hardware #RTX3090 #RTX4080 #DeepLearning #TríTuệNhânTạo #PhầnCứng #HọcSâu
https://www.reddit.com/r/LocalLLaMA/comments/1pvacv8/thoughts_on_picking_up_dual_rtx_3090s_at_this/






