Бесит ли вас как меня дурацкий приём противопоставления в текстах? «Нас не просто валенки, а нас уникальных экопродукт», «У нас не просто коллектив, у нас семья». Как-то раз даже разразился об этом постом в телеге. А тут вычитал, что это нынче считается нейромаркером. ИИ-шечка метит свои тексты не только длинными тире, но и банальными речевыми оборотами. Она это не специально делает, просто эта штука так устроена.

Также нейромаркерами сейчас считаются: причастные и деепричастные обороты, обилие отглагольных существительных и вообще почти все слова и обороты, которые Ильяхов завещал убирать из текстов. Получается нейросеть буквально стала писать как копирайтер с биржи за минимальный ценник. На чём обучалась, то и пишет, а как вы хотели?

Все эти маркеры – просто результат общего плохого качество текстов и фиговых промптов. (Кроме тире, вместо которого мясные авторы склонны ставить дефис, а нейронки пишут нормально. Тут они чужую небрежность не копируют).

«Получается, нельзя нейротекст выявить?», – спросят любители сэкономить на копирайтере. Во-первых: хреновый текст всё ещё видно и люди его не дочитают, закроют, забудут и т.д. И какая разница кто это написал в таком случае? Во-вторых: нынче нейросети используют водяные знаки, по которым кто надо поймёт, что текст сгенерирован.

Я сейчас не про артефакты из чата с нейросетью вроде: contentReference, я про т.н. водяные знаки на уровне подбора токенов в словаре языковой модели. То есть это некие статистические паттерны, их распознаёт разработчик и любой кому он предоставит секретный ключ.

Например, это можно использовать, чтобы предотвратить коллапс модели. Ну знаете эту историю, что LLM-модели обучаются на нынешнем интернете – то есть на том, что сгенерировали их более старые версии. Если тексты помечены, можно будет сделать так, чтобы ИИ на них не обучался.

Ну и, соответственно, сейчас поисковики и соцсети по водяным знакам распознают сгенерированный контент. Для чего им это? 

Соцсетям, например, чтобы маркировать нейросетевой контент. В Китае и ЕС уже есть нормы обязывающие это делать. В РФ маркировка ИИ-контента – дело добровольное, но платформы обязаны предоставить возможность промаркировать такой контент. Алгоритмам соцсетей вроде бы пока интересны только характеристики контента. Если людям нравится, так пусть будет. Хотя пользователей всё сгенерированное скорее раздражает (если это не видео с мемами и котами-каратистами), поэтому маркировка в соцсетях для авторов тут скорее вредна. Это примерно как приписка: «На правах рекламы»

Поисковики нейросетевой контент тоже по водяным знакам отличают, но как будто им это чисто для понимания нужно. На ранжировании сайтов само наличие ИИ-контента не сказывается. Сказывается качество контента. Мол, пишите нормальные промпты, получится нормальный контент и будет сайт на хорошем месте в выдаче. Только кто ж подобные советы слушает, когда можно нагенерить нахаляву из говна и палок? Повторюсь, раньше живые копирайтеры работали так же плохо, но там хотя бы объёмы были меньше. Видимо, в этом плане поисковики, как и весь остальной мир пока только адаптируются к новым условиям, уж извините за банальность.