Мне нравится экспериментировать с локальными моделями, и не только для генерации картинок. Эта статья — что-то вроде чекпойнта для себя: что попробовал, что намерил, что заменил и почему. Может, кому-то тоже будет интересно или найдётся что-то полезное.
В прошлой статье я показал, как локальные модели работают с русским текстом и что умеют Moss и Klein. Всё это можно использовать напрямую в Stable Diffusion Forge Neo или в ComfyUI. Своё приложение я написал, чтобы упростить работу с Forge Neo, и выложил на GitHub. Никого не заставляю им пользоваться: реклама — последнее, что мне нужно в бесплатном инструменте, созданном в первую очередь для себя.
В статье — сравнение девяти моделей для генерации картинок на одной домашней видеокарте RTX 4070 Ti SUPER 16 ГБ: одинаковые промпты, версии на 8 и 16 ГБ видеопамяти, обычный и быстрый режим. И да, снова много картинок.
Почему sd.cpp
Как менялись серверные движки в приложении: A1111, потом Forge, потом Forge Neo. К StabelDiffusion у меня одна претензия — это огромное Python-приложение (многими любимый ComfyUI тоже): гигабайты PyTorch и пакетов, обновления, после которых что-то ломается, дополнения, конфликтующие друг с другом. Поэтому теперь — stable-diffusion.cpp: один бинарник на C++. Ещё мне нравится формат GGUF: у одной модели много уровней сжатия, можно подобрать файл под свою видеокарту.
Ещё один плюс: sd.cpp работает не только с NVIDIA. Есть сборки для AMD и Intel (через Vulkan) и для Mac на Apple Silicon (через Metal), и сервер сам выбирает нужную. Сам я проверял только на NVIDIA.
Заодно отказался от Ollama: сервер теперь работает прямо с llama.cpp, вокруг которого Ollama и создавалась. Удобства Ollama — скачивание и выгрузку моделей — сделал в самом сервере.
Итог: у большинства моделей есть версия на 8 ГБ видеопамяти. Проверял на карте с 16 ГБ, но причин не работать на 8 ГБ не вижу. Если не хватит, сервер переложит часть модели в оперативную память — будет медленнее, но картинка получится.
Быстрый режим
sd.cpp умеет кэш шагов (StableDiffussion, вероятно тоже): движок переиспользует вычисления соседних шагов, вместо того чтобы считать каждый заново. В приложении он включается кнопкой «Быстро» рядом с «Сгенерировать», для четырёх медленных моделей: Moss и Chroma (dbcache), Qwen-Image и Flux.1 (easycache). Ускорение — от 1,5 раза у Chroma до 2,4 раза у Moss. У Moss и Qwen-Image при том же seed сцена почти не меняется, отличаются детали. Chroma в быстром режиме заметно перестраивает кадр. В сетках ниже быстрый режим — нижний ряд.
Бесплатным ускорение не бывает. На простой картинке в небольшом разрешении разницу почти не видно. На сложной сцене и в большем разрешении картинка начинает выглядеть как пережатый JPEG или первращает сложные места в "кашу". Поэтому включать его везде не стоит: подходит он или нет, видно только по результату.
Как мерил
RTX 4070 Ti SUPER 16 ГБ, движок sd.cpp, приложение Imagecaster. Размер 1024×1024.
Пять промптов, по четыре seed на каждую версию; показан один seed, выбранный вручную, — у всех версий одной модели одинаковый.
Время — только генерация, без загрузки модели; среднее по 20 картинкам.
«8 ГБ» и «16 ГБ» — разное квантование (сжатие весов) одной модели под видеокарту такого объёма. Обе мерили на карте 16 ГБ.
Промпты
В приложении русский запрос переводит LLM, и её перевод может немного отличаться от этого текста.
Часовщик. Кинематографичное фото, вечер. Пожилой часовщик с лупой в глазу чинит карманные часы за заваленным верстаком: крошечные шестерёнки, пружинки, пинцеты. За его спиной в открытом корпусе напольных часов спит толстый рыжий кот, его хвост качается, как маятник. Десятки часов на стене показывают разное время. На окне приклеена записка от руки: «Ушёл на обед. Вернусь в 13:60». За окном в каплях дождя — мокрая улица с синей неоновой вывеской «РЕМОНТ ЧАСОВ», в стекле отражается настольная лампа. Тёплый свет лампы против холодного синего света улицы, плёночное зерно, 35 мм.
Музыканты на крыше. Золотой час на крыше старого петербургского дома. Три уличных музыканта: слева молодая женщина играет на виолончели, в центре седобородый старик играет на аккордеоне, справа мальчик так сильно дует в трубу, что бельё на верёвке рядом с ним улетает. Чайка ворует бутерброд старика из открытого футляра аккордеона, полного монет. К футляру прислонена картонка с надписью «На новый смычок». У каждого музыканта своя одежда и своё выражение лица, позади дымка над городом, тёплый свет, фотореализм.
Город в дереве. Иллюстрация к детской книге: подробный разрез огромного дуплистого дуба, внутри которого целый город. На каждом ярусе свои жители: ежиная пекарня с дымящимся хлебом, совиная библиотека, где дятел громко долбит прямо под табличкой «ТИХО!», верёвочный лифт, которым управляет улитка, с вывеской «ЭКСПРЕСС», белки на почте, мышиная семья ужинает среди корней. Деревянные вывески, тёплая акварель и тушь, много мелких деталей, мягкий свет.
Аниме: опаздываю!. Аниме-иллюстрация в стиле телевизионного аниме 1990-х, cel shading, чистый контур. Сонная школьница с растрёпанными розовыми волосами и криво надетой формой опаздывает в школу с тостом во рту и несёт под мышкой очень недовольного чёрного кота с сердитой мордой. Вокруг летят лепестки сакуры, позади закрывается железнодорожный переезд, на брелоке на рюкзаке написано «ОПОЗДАЮ!». Динамичная поза бега, выразительные большие глаза, линии движения, яркие краски весеннего утра.
Дача, 1998. Любительский снимок на 35-мм плёнку 1998 года, дешёвая мыльница с резкой встроенной вспышкой. На даче бабушка в цветастом фартуке гордо держит гигантский кабачок размером с младенца, за ней внук-подросток картинно падает в обморок в куст смородины, лохматая собака ворует огурец со стола. На заборе деревянная табличка, написанная от руки: «ОСТОРОЖНО, ЗЛАЯ БАБУШКА». Пересвет от вспышки, красные глаза, чуть заваленный кадр, оранжевая дата '98 7 14' в углу, плёночное зерно, обычные негламурные люди.
Негативный промпт (действует только при CFG больше 1): low quality, blurry, deformed hands, extra fingers, watermark
Скорость и надписи
Время в секундах на картинку. Модели — от быстрой к медленной.
Модель | 16 ГБ | 8 ГБ | 16 ГБ, быстрый | 8 ГБ, быстрый | Шаги | Русские надписи |
|---|---|---|---|---|---|---|
Z-Image Turbo | 5 | 5 | — | — | 8 | да |
Flux.3 Klein | 8 | 8 | — | — | 16 | да |
Krea-2 Turbo | 11 | 11 | — | — | 8 | да |
Anima | 19 | 19 | — | — | 30 | нет |
Flux.1 dev | 25 | 23 | 15 | 13 | 24 | нет |
Qwen-Image 2.1 | 30 | 30 | 16 | 16 | 20 | да |
HiDream-O1 dev | 30 | — | — | — | 20 | только крупные |
Chroma1-HD | 60 | 62 | 40 | 40 | 26 | нет |
Moss | 68 | 55 | 28 | 23 | 50 | да |
Квантование экономит видеопамять, а не время: у большинства моделей версия 8 ГБ считает столько же, сколько 16 ГБ. Время сокращает быстрый режим.
Все модели на одном промпте
Часовщик

Музыканты на крыше

Город в дереве

Аниме: опаздываю!

Дача, 1998

Модели по отдельности
У моделей с четырьмя версиями сетка: сверху обычный режим (16 и 8 ГБ), снизу быстрый.
Z-Image Turbo
Самая быстрая: 5 секунд на картинку при 8 шагах. Фотореализм, русские надписи пишет правильно. Версия 8 ГБ считает так же быстро, как 16 ГБ.

Версия | Файл | Размер, ГБ |
|---|---|---|
16GB Q8_0 | z-image-turbo-fp8-aio.gguf | 6,6 |
8GB Q4_K | z_image_turbo-Q4_K.gguf | 3,9 |
8 шагов, CFG 1, euler, планировщик simple. Вспомогательные файлы: Qwen3-4B-Q8_0.gguf, ae.safetensors.
Flux.3 Klein
8 секунд на картинку, промпт обычным текстом, русские надписи правильно. Версия 8 ГБ весит 3,5 ГБ и по скорости не уступает.

Версия | Файл | Размер, ГБ |
|---|---|---|
16GB Q8_0 | flux3-image-klein-Q8_0.gguf | 6,2 |
8GB Q4_K | flux3-image-klein-Q4_K.gguf | 3,5 |
16 шагов, CFG 1, euler, планировщик simple. Вспомогательные файлы: Qwen3VL-4B-Instruct-Q4_K_M.gguf, flux2-klein-vae.safetensors.
Krea-2 Turbo
Эстетичные фото за 8 шагов, 11 секунд. Русские надписи правильно.

Версия | Файл | Размер, ГБ |
|---|---|---|
16GB Q6_K | Krea-2-Turbo-Q6_K.gguf | 10,5 |
8GB Q3_K_M | Krea-2-Turbo-Q3_K_M.gguf | 5,5 |
8 шагов, CFG 1, euler, планировщик simple. Вспомогательные файлы: Qwen3VL-4B-Instruct-Q4_K_M.gguf, wan_2.1_vae.safetensors.
Anima
Модель для аниме и иллюстраций: понимает и теги danbooru, и обычные фразы. Фото и надписи — не её задача, поэтому здесь только аниме. Одна версия на 4,2 ГБ подходит и для 8, и для 16 ГБ.

Версия | Файл | Размер, ГБ |
|---|---|---|
8 и 16GB (одна версия) | anima-aesthetic-v1.1.safetensors | 4,2 |
30 шагов, CFG 5, euler, планировщик simple. Вспомогательные файлы: нет (всё в одном файле).
Flux.1 dev
Классика: хорошо следует описанию, но кириллицу не пишет — вместо надписей получаются похожие на буквы каракули.

Версия | Файл | Размер, ГБ |
|---|---|---|
8GB Q4_K_S | flux1-dev-Q4_K_S.gguf | 6,8 |
16GB Q8_0 | flux1-dev-Q8_0.gguf | 12,7 |
24 шагов, CFG 1, euler, планировщик simple. Вспомогательные файлы: t5xxl_fp8_e4m3fn.safetensors, clip_l.safetensors, ae.safetensors.
Qwen-Image 2.1
Точно следует промпту и пишет читаемый текст, в том числе по-русски. Единственная здесь с CFG 6, поэтому учитывает негативный промпт. 30 секунд, в быстром режиме 16.

Версия | Файл | Размер, ГБ |
|---|---|---|
16GB Q8_0 | qwen_image_2.1-Q8_0.gguf | 7,7 |
8GB Q4_K | qwen_image_2.1-Q4_K.gguf | 4,2 |
20 шагов, CFG 6, euler, планировщик simple. Вспомогательные файлы: Qwen3VL-8B-Instruct-Q4_K_M.gguf, qwen_image_2.1_vae_bf16.safetensors.
HiDream-O1 dev
У неё всё выходит в стиле рисунка, поэтому показываю аниме — это действительно похоже на рисунок, а не на компьютерную графику. На фото люди тоже выглядят нарисованными, крупные надписи получаются, мелкие превращаются в каракули. Рабочая версия bf16 весит 16,4 ГБ и в 16 ГБ видеопамяти целиком не помещается: часть весов лежит в оперативной памяти, 30 секунд на картинку. Версия fp8 в движке sd.cpp у меня сработала криво — игнорирует промпт и добавляет кучу артефатов.

Версия | Файл | Размер, ГБ |
|---|---|---|
16GB bf16 (часть весов в RAM) | hidream_o1_image_dev_bf16.safetensors | 16,4 |
20 шагов, CFG 1, euler, планировщик simple. Вспомогательные файлы: нет (всё в одном файле).
Chroma1-HD
Открытая модель на 8,9 млрд параметров на основе FLUX.1 schnell, поэтому похожа на Flux.1. Её ценят за лицензию Apache 2.0 (у Flux.1 dev лицензия некоммерческая), отсутствие фильтра безопасности и настоящий CFG с негативным промптом. Сильная сторона — плёночная, киношная картинка, как у часовщика. Минусы на наших промптах: 60 секунд на картинку и каракули вместо русских надписей.

Версия | Файл | Размер, ГБ |
|---|---|---|
16GB Q8_0 | Chroma1-HD.gguf | 9,7 |
8GB Q4_K_S | Chroma1-HD-Q4_K_S.gguf | 5,4 |
26 шагов, CFG 4, euler, планировщик simple. Вспомогательные файлы: t5xxl_fp8_e4m3fn.safetensors, ae.safetensors.
Moss
OpenMOSS 5B: фотореалистичные люди, точно следует описанию, русские надписи пишет правильно. Самая медленная: 50 шагов, 68 секунд; быстрый режим сокращает до 28 секунд.

Версия | Файл | Размер, ГБ |
|---|---|---|
16GB bf16 | moss_image_sft_bf16.safetensors | 10,2 |
8GB Q4_K | MOSS-Image-SFT-Q4_K.gguf | 3,3 |
50 шагов, CFG 3, euler, планировщик simple. Вспомогательные файлы: qwen35_9b_int8_convrot.safetensors, flux2-vae_small.safetensors, moss.tokenizer.json.
Итоги
Мой фаворит — Moss. Лучше всех рисует людей, точно следует описанию и правильно пишет русские надписи. Цена — скорость: 68 секунд на картинку, в быстром режиме 28.
Z-Image Turbo — прекрасна, когда нужно быстро: 5 секунд, фотореализм, русские надписи. Версия на 8 ГБ считает так же быстро.
Для остального:
- Flux.3 Klein — тоже быстрая (8 с) и тоже пишет по-русски.
- Krea-2 Turbo — красивое фото за 11 с.
- Qwen-Image — точно по описанию и с текстом, 30 с, в быстром режиме 16.
- Anima — аниме и иллюстрации, одна версия на 4,2 ГБ для любой карты.
- HiDream-O1 — только ради рисованного стиля, в 16 ГБ целиком не влезает.
Flux.1 и Chroma мне не нравятся. Это вкусовщина: у Chroma есть поклонники плёночной картинки и свободной лицензии, но кириллицу не пишет ни одна из них.
sd.cpp для меня себя оправдал: все девять моделей работают без Python, файлы GGUF подбираются под объём видеопамяти. Минусы тоже есть: новые модели в sd.cpp появляются позже, чем в ComfyUI, а файлы fp8 от ComfyUI он понимает не всегда — с HiDream пришлось брать полную версию.
Ссылки
Imagecaster — приложение
imagecaster-server — сервер, который ставит и запускает модели

Комментарии 0