ИИ
Распределённый инференс и шардирование LLM. Часть 3: настройка авторизации и интеграция с Open WebUI
Мы с вами подобрались к заключительной части статьи-инструкции об организации...
Новости по тегу "Gpu"
Подборка публикаций, содержащих тег "Gpu". Актуальные темы и важные события.
Технологии
Апрельские обновления в продуктах и услугах Selectel
Привет! С вами снова Саша из Selectel. В этом дайджесте рассказываю, как...
Технологии
Linux для начинающих: WSL — это читерство. Как Microsoft дал нам Linux без головной боли
В этой статье я хочу поделиться своим опытом настройки WSL для комфортной...
Культура
[Перевод] Объяснение графических процессоров для тех, кто привык работать с ЦП
За годы работы я подробно изучил, как центральные процессоры (CPU) выполняют...
ИИ
Распределённый инференс и шардирование LLM. Часть 2: скрипт vLLM, Ray Serve для вывода API и настройка KubeRay Cluster
Продолжаем пошагово разбираться с ответом на вопрос о том, как эффективно...
Общество
Мощнее, холоднее и дешевле, чем RTX 4060 Ti: обзорщики высоко оценили RTX 5060 Ti 16 ГБ
Эволюция видеокарт среднего сегмента всегда была интересным зрелищем. Для...
Технологии
ЦОД 2050: три реалистичные концепции развития дата-центров
Что будет с дата-центрами, когда физические пределы достигнуты? Когда PUE...
ИИ
Распределённый инференс и шардирование LLM. Часть 1: настройка GPU, проброс в Proxmox и настройка Kubernetes
Когда модель DeepSeek R1 стала широко обсуждаться в сообществе, я...
Технологии
От «ламповых» серверов до облачных гигантов: 35 лет истории коммерческого хостинга в одной статье
В начале 90-х интернетом пользовались единицы, а хостинг был скорее экзотикой —...
Общество
10 лучших процессоров по соотношению цена-качество, которые можно купить весной 2025 года
Выбор процессора в 2025 году — то еще испытание для нервной системы. С одной...
ИИ
Для каких типов обучений нейросетевых моделей подходят ускорители AMD
Привет, Хабр! В прошлом материале мы рассказывали про графические ускорители...
Технологии
Зачем Switch построила ЦОД в пустыне, а IBM — в бывшей рудной шахте: 10 необычных локаций дата-центров
Спрос на услуги дата-центров растёт. По прогнозам, к 2030 году мировой рынок...