LLM наступают, топы вещают о повсеместном внедрении ИИ, повышении производительности, ускорении процессов и сокращении персонала. Эксперты-футурологи уверенно ждут массовой безработицы, цивилизационного кризиса, глобального вымирания человечества (духовное, когнитивное и физическое). 

Я не готов заглядывать так далеко и глубоко, поэтому задался вопросом, кому стоит опасаться LLM и почему.

Эта статья об ИИ, корпорациях и их сотрудниках. 

Чем характерны LLM

С нейросетями знакомы все, написаны десятки тысяч статей, в которых одни авторы переписывают (или придумывают) у других характеристики LLM. Но в принципе, за редким исключением, все эти статьи в сущности одинаковы.

Что говорят вайб-эксперты о LLM:

“Это просто предсказатель следующего слова, стохастический попугай”. Ага, и мы с вами в 99% случаев занимаемся тем же самым. “Ну и погода..” “Да.. Мороз не по сезону..”, “Продажи упали…” “Нужно активизировать работу отдела продаж...”. Мы вообще часто не осознаём, что и как отвечаем, да даже если бы осознавали... Я ни разу не видел, чтобы сотрудник на планёрке в ответ на замечание исполнил Песню тореадора. Мы в своих ответах ограничены ничуть не меньше LLM. Пожалуй, даже жестче, потому что LLM ничего не грозит за галлюцинацию.

“LLM галлюцинирует и выдумывает факты”. LLM не врёт, она говорит. Модель производит связность, а не верность. Задача разработчика в том, чтобы эта связность была близка к верности, а задача пользователя проверить связность на верность. Если руководитель не проверяет работу подчиненных, кто виноват в банкротстве компании?

“LLM не понимает смысла (Китайская комната)”. Смысла нет внутри комнаты, он у того, кто подаёт карточки и читает ответ. Понимание внутри исполнителя для результата вообще необязательно. Как говорил один знакомый топ, твоё дело не понимать, а исполнять. И было это задолго до GPT как идеи.

“LLM угодлива, говорит то, что хотят услышать”. Своей позиции у неё нет, она занимает её у того, кто спрашивает. Угодливость базовое свойство любого исполнителя без собственной ставки. Я начальник — ты дурак, ты начальник — я дурак.

“LLM обучена на интернете: мусор на входе — мусор на выходе”. Модель усредняет. Ошибки на разных полюсах взаимно гасятся, а общие заблуждения и она, и отдел продаж воспроизводят хором, потому что в ВУЗе их научили, что если активно промотировать некачественный продукт, то его купят. И да, иным вчерашним выпускникам я ошалело рассказывал, что такое процент. И почему на калькуляторе можно писать “1000-10%”, а в Excel получается ерунда.

“У LLM нет памяти, только контекстное окно”. Всё, что не попало в окно, для неё не существует. А что попало, будет пересказано так, как ей удобно сейчас. Когда на совещании разбирают причины факапа, я наблюдал самые изысканные провалы в памяти у в остальном совершенно здоровых людей. Более того, один факт, в пересказе трех начальников отделов, превращался в три удивительных истории о превозмогании, где рассказчику противостояли злые силы в лице двух других коллег.

“LLM не способна к творчеству, только комбинирует известное”. LLM продолжает заданную форму. Чем удачнее форма, тем охотнее её повторяет. Творчество требует разрыва, а разрыв в модель приходит только снаружи. Маркетолог лезет в Google и уверенно предлагает лучшее от конкурентов. На справедливое возмущение ответ прост, но у них же это работает! Конечно, потому что они работают, а ты нет.

“Это просто инструмент, как калькулятор”. Калькулятор не соглашается с вами и не подстраивается под ваше настроение. LLM это делает каждой буквой ответа. Инструмент, который непрерывно почёсывает ваше эго, инструмент уже другого уровня. Это уже близко к начальнику отдела, пережившему три реорганизации и семь сокращений.

“Это чёрный ящик, никто не знает, как он принимает решения”. Кое-что про устройство моделей уже известно. Про то, как принимает решения отдел из сорока человек, известно меньше. Здесь, как никогда вовремя, вспоминается фраза из мема “О чём ты думал, дебил?!”

“Скоро появится AGI, и он обретёт сознание”. Чтобы обрести, нужен кто-то, кто разорвёт инструкцию изнутри. У модели такого нет. Не факт, что есть и у человека. В литературе, да, история Герасима и Муму оставила неизгладимый след в детской памяти.

“ИИ заберёт рутину, а творческую работу оставит людям”. Звучит утешительно. Но крайне интересно, что авторы понимают под творчеством, и где оно есть в планово-экономическом отделе или бухгалтерии.

В общем, все расхожие тезисы экспертов, скорее описание и догадки, без какого-либо понимания сути и следствий.

Чем характерны сотрудники корпораций

О! И после первого раздела статьи я вдруг понимаю, что различий между средним сотрудником корпорации, да и вообще средним, хорошо встроенным сотрудником любой компании, на самом деле, подозрительно мало.

Функцию любого коллектива или коллективной формации можно описать как переработку входа по инструкции, реализуемую арендованными исполнителями. 

  • Законы и ЛНД — системные промпты, джейлбрейки — теории заговора, секты, религии, слухи и интриги. Традиции это веса, выученные на прошлом, переобучаются медленно и дорого. Воспитание и общественное одобрение — RLHF.

  • Новостной цикл, контекстное окно: всё, что старше недели, забыто. Сотрудники живут от понедельничной планёрки до пятничной. 

  • Лояльность начальству, коллективу, стране... — сикофантия.

  • Любой коллектив реагирует усредненно, опираясь на своё коллективное знание. Кстати, поэтому я полагаю, что "творческий коллектив" — оксюморон. Творчество — удел индивидуумов, глубоко личное дело.

  • А митинги и совещания это Self-attention. Каждый участник пересчитывает свой вектор поведения, взвешивая коэффициенты внимания на начальство и соседей, чтобы не выпасть из общей матрицы и выдать социально одобряемый токен. И чем лучше люди встроены в коллектив, тем больше они LLM.

И тогда развитие LLM это и есть приближение к корпоративному идеалу — квалифицированный, лояльный, исполнительный и послушный, предсказуемый, работающий строго по инструкции, не желающий подсидеть начальника сотрудник.

И вся стратегия корпораций это выращивание своих собственных LLM из доставшихся им неудобных и непредсказуемых человеков. При этом топы не понимают, что чаще всего такие корпорации основали и развили как раз такие человеки.

Кого заменит LLM и почему

Так кого заменит LLM. Очевидно, что легче всего заменить того, кто сам близок к LLM по духу и содержанию своей работы. Если ваша работа требует неукоснительного следования инструкциям и ЛНД, если вашу работу надо постоянно проверять и контролировать, если вы нуждаетесь в постоянных планёрках и постановке задач, если вы постоянно ищете, как уменьшить свою когнитивную нагрузку и взломать награду, тогда, друг мой, вы LLM. И ваша замена неизбежна и логична.