Перейти до вмісту
Плеєр YouTube · завантажиться за натисканням

ВідеоIT та програмуванняв індексі з

AI-сервер БЕЗ NVIDIA: 2× RX 7900 XTX і модель 80B локально — 74 токени/с

7 тис. переглядів на YouTube · опубліковано

Зібрав AI-сервер повністю на AMD — без жодної відеокарти NVIDIA і без CUDA. Дві RX 7900 XTX, 48 ГБ VRAM, модель Qwen3 Coder Next на 80 мільярдів параметрів працює локально зі швидкістю ~74 токени за секунду. У цьому відео показую збірку зсередини, читаю повну специфікацію, запускаю модель і прогоняю 100 послідовних запитів. Плюс розповідаю, навіщо він мені — під систему відеоаналітики для складу. ⚙️ СПЕЦИФІКАЦІЯ • Процесор: AMD Ryzen 9 9950X3D • Відеокарти: 2× Radeon RX 7900 XTX, по 24 ГБ GDDR6 (48 ГБ VRAM разом) • Оперативна пам'ять: 32 ГБ DDR5 (буде розширення) • Сховище: 3× Samsung 990 Pro по 4 ТБ — ≈12 ТБ NVMe • Блок живлення: Corsair HX1500i, 1500 Вт • Модель: Qwen3 Coder Next 80B (MoE, 3B активних параметрів) • Контекст: 131 072 токени • Швидкість: ≈74 токени/с • Стек: ROCm + llama.cpp, нуль NVIDIA і CUDA 📊 РЕЗУЛЬТАТ 100 послідовних запитів — 100 зі 100 успішні. Кулери навіть не розкрутилися. 💬 Питання в коментарі — відповідаю всім. Що тестувати наступним? 🔔 Підписуйтесь на Brain From Ukraine — розбираю залізо, embedded і локальний AI українською. Проєкт SICH ▸ https://sich.network​ Наша спільнота в Discord ▸    / discord  ​ #AI #AMD #7900XTX #локальнийAI #Qwen3 #ROCm #Ryzen9 #AIсервер #нейромережа #BrainFromUkraine

Додати в плейлист

Коментарі


Щоб написати, увійдіть.

Коментарів ще немає. Ваш буде першим.

Цей канал 161 відео в індексі

Більше від «Brain From Ukraine»

Усі

Шорти цього каналу