Метка: ЦОД

  • Электричество закончилось: Microsoft не имеет достаточно энергии для питания имеющихся чипов NVIDIA

    Электричество закончилось: Microsoft не имеет достаточно энергии для питания имеющихся чипов NVIDIA

    По словам CEO Microsoft Сатьи Наделлы, пока в компании нет достаточного количества энергетических мощностей для подключения всех имеющихся графических процессоров для искусственного интеллекта. 

    В совместном интервью с гендиректором OpenAI Сэмом Альтманом Наделла подчеркнул, что проблема в сфере ИИ заключается не в чрезмерном количестве вычислительных мощностей , а в дефиците энергоресурсов для поддержания этой инфраструктуры.

    «Я думаю, что циклы спроса и предложения в этом конкретном случае невозможно предсказать, не так ли? Вопрос, какова долгосрочная тенденция? Долгосрочная тенденция — это то, что сказал Сэм, и, в конце концов, это самая большая проблема, с которой мы сейчас сталкиваемся — не переизбыток вычислительных ресурсов, а энергетическая мощность — это своего рода способность выполнять сборки достаточно быстро. Так что если вы не можете этого сделать, у вас может оказаться куча чипов, которые нельзя подключить. На самом деле, это моя проблема сегодня. Дело не в поставке чипов; дело в том, что у меня нет теплых корпусов, к которым можно подключиться», — объясняет CEO Microsoft, имея в виду оболочки центров по обработке данных. 

    Энергопотребление ЦОД для ИИ обсуждается с конца прошлого года. Это стало самой актуальной проблемой после того, как Nvidia решила проблему дефицита графических процессоров. Многие технологические компании теперь инвестируют в исследования малых модульных ядерных реакторов, чтобы масштабировать свои источники энергии по мере строительства все больших дата-центров. 

    В США это привело к значительному росту счетов за электроэнергию среди простых потребителей. OpenAI даже призвала федеральное правительство ежегодно строить электростанции мощностью 100 ГВт, заявив, что это стратегический актив в стремлении США к превосходству в гонке за ИИ с Китаем. 

    «Когда-нибудь мы создадим невероятное потребительское устройство, способное локально запускать модели с поддержкой GPT-5 или GPT-6 при низком энергопотреблении — и это просто невероятно», — прогнозирует Альтман. 

    Однако и здесь существует риск. Хотя инфраструктура для обучения новых моделей все равно потребуется, спрос на центры обработки данных, который, по оценкам многих, возникнет в результате повсеместного использования ИИ, может не оправдать ожиданий, если развитие полупроводников позволит запускать модели искусственного интеллекта локально . Это может ускорить крах пузыря искусственного интеллекта, который, по мнению некоторых экспертов, таких как Пэт Гелсингер, лопнет уже через несколько лет. Но если это произойдет, мир ждет шок, поскольку коллапс ударит даже по нетехнологичным компаниям, что приведет к потере почти $20 трлн рыночной капитализации. 

    Источник: Tom’sHardware

    https://itc.ua/news/elektrychestvo-zakonchylos-microsoft-ne-ymeet-dostatochno-energyy-dlya-pytanyya-ymeyushhyhsya-chypov-nvidia/

  • Електрика закінчилася: Microsoft не має достатньо енергії для живлення наявних чипів NVIDIA

    Електрика закінчилася: Microsoft не має достатньо енергії для живлення наявних чипів NVIDIA

    За словами CEO Microsoft Сатьї Наделли, наразі в компанії не має достатньої кількості енергетичних потужностей для підключення всіх наявних графічних процесорів для штучного інтелекту. 

    У спільному інтерв’ю з гендиректором OpenAI Семом Альтманом Наделла підкреслив, що проблема у сфері ШІ полягає не в надмірній кількості обчислювальних потужностей , а у дефіциті енергоресурсів для підтримки цієї інфраструктури.

    “Я думаю, що цикли попиту та пропозиції в цьому конкретному випадку неможливо передбачити, чи не так? Питання, яка довгострокова тенденція? Довгострокова тенденція — це те, що сказав Сем, і, зрештою, це найбільша проблема, з якою ми зараз стикаємося — не надлишок обчислювальних ресурсів, а енергетична потужність — це своєрідна здатність виконувати збірки досить швидко. Отже якщо ви не можете цього зробити, у вас може виявитися купа чипів, які  не можна під’єднати. Насправді це моя проблема сьогодні. Справа не в постачанні чипів; річ у тому, що у мене немає теплих корпусів, до яких можна під’єднатися”, — пояснює CEO Microsoft, маючи на увазі оболонки центрів з обробки даних. 

    Енергоспоживання ЦОД для ШІ обговорюється з кінця минулого року. Це стало найактуальнішою проблемою після того, як Nvidia розв’язала проблему дефіциту графічних процесорів. Багато технологічних компаній тепер інвестують у дослідження малих модульних ядерних реакторів, щоб масштабувати свої джерела енергії у міру будівництва дедалі більших датацентрів. 

    У США це призвело до значного зростання рахунків за електроенергію серед простих споживачів. OpenAI навіть закликала федеральний уряд щороку будувати електростанції потужністю 100 ГВт, заявивши, що це стратегічний актив у прагненні США до переваги в гонитві за ШІ з Китаєм. 

    “Колись ми створимо неймовірний споживчий пристрій, здатний локально запускати моделі з підтримкою GPT-5 або GPT-6 за низького енергоспоживання — і це просто неймовірно”, — прогнозує Альтман. 

    Однак і тут існує ризик. Хоча інфраструктура для навчання нових моделей все одно буде потрібна, попит на центри обробки даних, який, за оцінками багатьох, виникне в результаті повсюдного використання ШІ, може не виправдати очікувань, якщо розвиток напівпровідників дозволить запускати моделі штучного інтелекту локально . Це може прискорити крах бульбашки штучного інтелекту, яка, на думку деяких експертів, таких як Пет Гелсінгер, лусне вже за кілька років. Але якщо це станеться, на світ чекає шок, оскільки колапс вдарить навіть по нетехнологічних компаніях, що призведе до втрати майже $20 трлн  ринкової капіталізації. 

    Джерело: Tom’sHardware

    https://itc.ua/ua/novini/elektryka-zakinchylasya-microsoft-ne-maye-dostatno-energiyi-dlya-zhyvlennya-nayavnyh-chypiv-nvidia/

  • NVIDIA представила суперчип Vera Rubin с двумя GPU и процессором

    NVIDIA представила суперчип Vera Rubin с двумя GPU и процессором

    Во время события GTC Washington 2025 глава NVIDIA Дженсен Хуанг впервые продемонстрировал суперчип следующего поколения Vera Rubin. Система сочетает новый процессор Vera с двумя GPU Rubin.

    Вычислитель Vera Rubin Superchip напоминает размерами материнскую плату, и кроме процессоров содержит под память LPDDR и HBM4, которая расположена непосредственно на графических процессорах. NVIDIA подтвердила, что первые графические процессоры Rubin уже поступили во внутренние лаборатории, а массовое производство Superchip запланировано на 2026 год.

    Каждый графический процессор Rubin состоит из двух кристаллов и обеспечивает до 50 PFLOPS производительности FP4 и имеет по 288 ГБ памяти HBM4 на каждый кристалл. Сопутствующий процессор Vera состоит из 88 ядер на Arm и 176 потоков, подключенных к графическим процессорам через соединение NVLINK-C2C, что обеспечивает пропускную способность 1,8 ТБ/с.

    NVIDIA заявляет, что полная система NVL144 будет предлагать до 3,6 Exaflops для FP4 и 1,2 Exaflops для обучения FP8, что примерно в 3,3 раза быстрее, чем имеющаяся платформа GB300 NVL72. Память системы улучшается увеличивается до 13 ТБ/с пропускной способности HBM4 и общего объема 75 ТБ быстрой системной памяти, при этом пропускная способность NVLINK и CX9 увеличивается до 260 ТБ/с и 28,8 ТБ/с соответственно.

    Компания также анонсировала систему Rubin Ultra NVL576, выход которой ожидается во второй половине 2027 года. Более мощная конфигурация получит четыре больших GPU, 1 ТБ памяти HBM4e и общую производительность 15 Exaflops FP4 и 5 Exaflops FP8. Система увеличивает объем быстрой памяти до 365 ТБ и пропускную способность до 1,5 ПБ/с благодаря NVLINK. NVIDIA также представила несколько вариантов вычислительных серверов, включая версию CPX, разработанную для более широкого контекста моделей искусственного интеллекта.

    Источник: VideoCardz

    https://itc.ua/news/nvidia-predstavyla-superchyp-vera-rubin-s-dvumya-gpu-y-protsessorom/

  • NVIDIA представила суперчип Vera Rubin з двома GPU та процесором

    NVIDIA представила суперчип Vera Rubin з двома GPU та процесором

    Під час події GTC Washington 2025 голова NVIDIA Дженсен Хуанг вперше продемонстрував суперчип наступного покоління Vera Rubin. Система поєднує новий процесор Vera з двома GPU Rubin.

    Обчислювач Vera Rubin Superchip нагадує розмірами материнську плату, та крім процесорів містить під пам’ять LPDDR та HBM4, яка розташована безпосередньо на графічних процесорах. NVIDIA підтвердила, що перші графічні процесори Rubin вже надійшли до внутрішніх лабораторій, а масове виробництво Superchip заплановано на 2026 рік.

    Кожен графічний процесор Rubin складається з двох кристалів та забезпечує до 50 PFLOPS продуктивності FP4 і має по 288 ГБ пам’яті HBM4 на кожний кристал. Супутній процесор Vera складається з 88 ядер на Arm та 176 потоків, підключених до графічних процесорів через з’єднання NVLINK-C2C, що забезпечує пропускну здатність 1,8 ТБ/с.

    NVIDIA заявляє, що повна система NVL144 пропонуватиме до 3,6 Exaflops для FP4 та 1,2 Exaflops для навчання FP8, що приблизно у 3,3 раза швидше, ніж наявна платформа GB300 NVL72. Пам’ять системи покращується збільшується до 13 ТБ/с пропускної здатності HBM4 та загального обсягу 75 ТБ швидкої системної пам’яті, при цьому пропускна здатність NVLINK та CX9 збільшується до 260 ТБ/с та 28,8 ТБ/с відповідно.

    Компанія також анонсувала систему Rubin Ultra NVL576, вихід якої очікується у другій половині 2027 року. Потужніша конфігурація отримає чотири більших GPU, 1 ТБ пам’яті HBM4e та загальну продуктивність 15 Exaflops FP4 та 5 Exaflops FP8. Система збільшує обсяг швидкої пам’яті до 365 ТБ та пропускну здатність до 1,5 ПБ/с завдяки NVLINK. NVIDIA також представила кілька варіантів обчислювальних серверів, включаючи версію CPX, розроблену для ширшого контексту моделей штучного інтелекту.

    Джерело: VideoCardz

    https://itc.ua/ua/novini/nvidia-predstavyla-superchyp-vera-rubin-z-dvoma-gpu-ta-protsesorom/