27B-модель на четырёх V100 в 2026 году: форк vLLM, INT4 на Volta и контекст 262K
Четыре Tesla V100 2017 года тянут в проде плотную Qwen3.8-27B в INT4 с окном 262 тысячи токенов — это модель zubr в ZuBrIQ (zubriq.ai), запросы к…
Найдено: 28 материалов
Четыре Tesla V100 2017 года тянут в проде плотную Qwen3.8-27B в INT4 с окном 262 тысячи токенов — это модель zubr в ZuBrIQ (zubriq.ai), запросы к…
ИИ-ассистент покупателя на Wildberries работает на модели из нашего собственного семейства языковых моделей BerryLM, дообученной под сценарии…
Они смогут менять интонацию в зависимости от контекста разговора, реагировать на перебивания и быстро выполнять многошаговые запросы клиентов…
Недавно я решал две задачи. Личную и по работе. Личная, это настроить Nanabot, ИИ-агента, который автоматизирует мою деятельность как программиста…
ВО ВРЕМЯ НАПИСАНИЯ СТАТЬИ НЕ ИСПОЛЬЗОВАЛАСЬ НИ ОДНА ИИ (ДА-ДА, НЕ УДИВЛЯЙТЕСЬ). Всем привет. Почти полгода назад я делал статью…
В вопросе территорий в украинском конфликте для России важнее люди, которые там проживают, заявил президент России Владимир Путин. РИА Новости…
Официальный представитель МИД РФ Мария Захарова назвала байкой трехстишие секретаря Совета безопасности Армении Алена Симоняна, которое он…
Есть огромная разница между тем, чтобы просто достать информацию из базы данных, и тем, чтобы извлечь из нее реальный смысл для пользователя…
Можно ли ускорить обучение небольшой языковой модели на длинных последовательностях, если заменить полное внимание разреженным графом, а веса связей…
Официальный представитель МИД РФ отметила, что представители этого ресурса вырывают слова из контекста и искажают смысл
Научный директор Фонда развития и поддержки международного дискуссионного клуба "Валдай" в контексте вопроса о возможном возобновлении атак США также…
Сложный сбой в 1С редко начинается с чистого листа. Внутренняя команда уже проверила журналы, сравнила окружения и выдвинула несколько гипотез. Но…
Лидеры стран-участниц Организации Договора о коллективной безопасности (ОДКБ) в ходе сессии Совета объединения обсудят в среду, 11 ноября…
Организация Договора о коллективной безопасности (ОДКБ) усилит коллективную оборону критической инфраструктуры вместе с внутренними российскими…
Люди придают большое значение вопросу, есть ли свобода воли. Они предполагают разные механизмы, как она могла бы существовать. Пытаются найти её в…
Генерация тест-кейсов нейросетями — на удивление неочевидная задача. Уже давно было понятно, что нельзя просто закинуть юз-кейс в чат-бот без…
Механизм, подобный "Совету Россия - НАТО", жизнеспособен в контексте украинского урегулирования, но говорить о такой модели преждевременно, заявил…