Microsoft запатентовала платформу для обучения ИИ на видеокартах пользователей
Microsoft опубликовала патентную заявку Opportunistic Micro-training on Edge Devices Using Spare GPU Utilization. В документе описана платформа…
Поиск и архив
Найдено: 17 материалов
Как Microsoft предлагает обучать модели на игровых ПК
Microsoft получила патент на распределённое обучение моделей с использованием свободных GPU домашних ПК. Разбираем, как сервер делит вычислительный…
RTX 5090 на 96 ГБ: разбираемся с характеристиками, которые не сходятся
При нехватке памяти скорость генерации падает в десятки раз, а мощные видеокарты, способные это исправить, сегодня в дефиците и цена не радует…
Конец легенды… или как лучшие гаджеты уходят на покой от старости
Недавно я начал разрабатывать ещё один проект под Dell Axim X51v. Этот легендарный КПК вы могли помнить по моим прошлым статьям, где я апгрейдил на…
Инфраструктура, управляемая стоимостью
Почему аренда GPU часто оказывается избыточной и как спроектировать модель оплаты в Infracost Типичная задача выглядит так - команда ML-платформы…
Оптимизация холодного старта vLLM: собираем прогретый OCI образ Deepseek и GLM и запускаем за 30 секунд
Всем привет! Меня зовут Кирилл, я больше десяти лет разрабатываю облака и инфраструктуру. Но последние пару месяцев в рамках R&D я достаточно много…
Какие GPU выбрать для обучения ИИ, инференса и работы с графикой: обзор возможностей Рег.облака
В публичном облаке Рег.облака теперь можно самостоятельно заказать серверы с NVIDIA H100 и RTX PRO 6000 Blackwell, оформить предзаказ NVIDIA H200 или…
Вышло обновление RapidRAW 1.6.9 — открытого редактора изображений RAW
Состоялся выпуск обновления открытого мультиплатформенного редактора изображений RapidRAW 1.6.9. Проект предлагает простой способ обработки…
Построение карты проходимости на GPU по данным RGB-D камеры & лидара
Как я переносил CUDA-ядра Elevation Mapping на своего ровера и почему для качественной карты проходимости всё-таки нужны лидары и пакеты SLAM с…
Октябрьский дайджест — видео и логи запросов в AI Gateway, PR-стенды и серверы с GPU
За окном то дождь, то первый снег — лучшее время остаться дома и разобраться с обновлениями. Тем более что новинок в октябре столько, что одной…
Алмазы, CXL и терабитный Ethernet: анонсы серверного железа в октябре
Производители ищут, чем заменить дорогую HBM, учат серверы делить DRAM через CXL, выделяют под ИИ-агентов отдельные CPU-стойки и, конечно, анонсируют…
От нуля до GPUaaS, или Как завести в Kubernetes технологии InfiniBand, RDMA и GPUDirect
На рынке мало экспертизы по запуску GPU-стека и InfiniBand именно внутри Kubernetes (обычно их настраивают на "голом железе" / bare-metal), а…
gpu-unlock: как снять программный потолок FP16/BF16 на RTX 20/30/40 без перепрошивки
У вас в компьютере может стоять видеокарта, которая считает вдвое медленнее, чем могла бы — просто потому, что производитель так решил в прошивке…
Frame: 100 миллионов полигонов при 60 fps и тяжёлые атомные симуляции в браузере
Мы с Neira, моим ИИ-ассистентом, делаем Frame - 3D-редактор, который работает прямо в браузере. В моих тестах он крутит 100 миллионов треугольников…
InfiniBand для GPU‑кластеров: как добиться предсказуемой задержки и оправдать стоимость сети
При обучении больших языковых моделей задержки сети напрямую влияют на производительность GPU‑кластера. Под нагрузкой Ethernet может терять…
В приложении Nvidia App появилась настройка приоритета GPU
В последнем обновлении приложения Nvidia App появилась функция, позволяющая расставлять приоритеты в использовании ресурсов графического процессора…
Для NPU нашлось полезное применение: его научили отрисовывать интерфейс Windows 11 вместо GPU — пока получается не очень быстро
Разработчики из группы Labscommunity создали экспериментальный драйвер npu-driver, который позволяет Windows 11 отрисовывать рабочий стол с помощью…