Человечество не сразу построило компьютер. И не сразу придумало искусственный интеллект. Прежде чем машина научилась писать текст, похожий на мысль, был проделан путь длиной в десятки тысяч лет, и ни один его этап нельзя выбросить.

Эта статья — одна нить, протянутая через сорок тысяч лет: от кости с зарубками до больших языковых моделей.

Если интересно проследить нить от обезьяны до LLM — читайте эту историю.

И да, эта статья подготовлена с помощью ИИ

Абстракция как основа всего

Около сорока двух тысяч лет назад кто-то взял малую берцовую кость бабуина и нанёс на неё 29 зарубок. Кость нашли в пещере Лебомбо, в Свазиленде. Возможно, это лунный счёт: 29 дней в лунном месяце. Но важно не это.

Важно, что зарубка это знак, который означает количество, отделённое от любых конкретных вещей. Пять овец, пять камней, пять дней — вещи совершенно разные, но «пятёрка» у них общая, и кто-то впервые выделил эту общность и сделал её отдельным объектом. С этого момента числом можно манипулировать, не вспоминая об овцах: складывать, удваивать, сравнивать.

Это и есть абстракция. Не «упрощение», как часто думают. Упрощение убирает детали. Абстракция делает другое: отделяет форму от носителя и превращает форму в самостоятельную вещь, с которой можно работать. Животное видит трёх овец и реагирует только на овец. Человек видит просто «три», может добавить единицу и получит «четыре», вообще не думая об овцах. Разница не в количестве деталей, а в том, что символ перестал быть привязан к тому, что он означает.

Вся история, о которой пойдёт речь, — это одна и та же операция, которую повторяли много-много раз: отделить форму, сделать её объектом, построить форму над формой. Зарубка была первым разом. Большие языковые модели — последним на сегодня.

Часть 1. Как человек научился отделять форму от вещи

Кость, которая считает

На кости Ишанго, найденной в Конго и датированной примерно двадцатью тысячами лет, зарубки собраны в три колонки. По одной из интерпретаций в одной из них читаются 11, 13, 17, 19 — простые числа. В другой — пары, похожие на удвоения: 3 и 6, 4 и 8, 10 и 5. Кто-то не просто считал овец или дни. Кто-то исследовал структуру самого числа, замечал, что одни числа делятся, а другие нет, и фиксировал это на кости.

Это уже не учёт. Это зачаток математики: мысль о числах, а не о вещах. Абстракция стала предметом собственного изучения. Человек начал думать о том, как он думает.

Глина, которая означает

Следующий большой шаг случился в Месопотамии около восьми тысяч лет до нашей эры, и он был бухгалтерским. Археолог Дениз Шмандт-Бессера в 1970-х предположила, что маленькие глиняные фигурки — конусы, шары, цилиндры — были не игрушками и не амулетами, а счётными знаками. Конус означал меру зерна, шар — меру масла, цилиндр — животное. Товар ушёл, знак остался.

Это абстракция абстракции. Зарубка отделила число от вещи. Токен отделил знак от товара: теперь не мешок зерна, а глиняный конус, который его представляет. Знаки стали запечатывать в глиняные конверты — буллы, — чтобы нельзя было подменить содержимое. Потом на конвертах начали отпечатывать токены снаружи, чтобы видеть, что внутри, не вскрывая. И в какой-то момент кто-то сообразил: зачем конверт, если можно просто рисовать знаки на глине?

Так около 3400 года до нашей эры в Уруке родилась письменность. Не как поэзия и не как молитва, а как бухгалтерия. Первые тексты — это списки зерна, скота и масла. Литература появится позже, как побочный эффект учётной системы.

Дальше сработал ещё один абстрактный ход. Знак «стрела» по-шумерски читался как «ти». И его стали использовать для записи слога «ти» в любом слове, где этот звук встречается, независимо от смысла. Знак отделился от вещи и привязался к звуку. Это фонетическое письмо: ребус, в котором картинка означает не предмет, а звучание.

Финикийский алфавит около 1050 года до нашей эры довёл идею до предела: 22 знака для согласных. Греки добавили гласные и получили систему, в которой бесконечное разнообразие речи записывается конечным набором символов. Это сжатие невероятной мощности. Всё, что можно сказать, укладывается в два десятка значков.

Монета, которая стоит

Около 600 года до нашей эры в Лидии, на западе Малой Азии, начали чеканить монеты. До этого, по большей части, обмен был натуральным или привязанным к конкретному товару: корова, мешок зерна, слиток металла. Монета сделала другое — отделила стоимость от вещи.

Стоимость стала числом, которое можно хранить, передавать, накапливать, сравнивать. Универсальный эквивалент, не привязанный ни к корове, ни к зерну. Та же операция, что с зарубкой и токеном: форму (ценность) отделили от носителя (товара) и сделали самостоятельным объектом. Из этой абстракции выросла вся экономика, но родилась она как жест отделения, знакомый нам по кости Лебомбо.

Греки: абстракция становится методом

Как уже понятно из вышесказанного греки не изобрели абстракцию. Она была за тысячи лет до них. Они сделали иное: превратили её в осознанный метод и начали изучать саму способность абстрагировать.

Пифагор и его школа в VI веке до нашей эры заявили, что всё есть число. Не «числа описывают вещи», а числа и есть суть вещей. Отношение длин струн даёт гармонию, и за видимым многообразием мира лежит математическая структура. Абстракция стала онтологией: то, что отделено от вещи, объявили более реальным, чем сама вещь.

Сократ: истина против риторики

В V веке до нашей эры в Афинах появился человек, который перенёс абстракцию с природы на самого себя. Сократ (469–399) ничего не писал. Он ходил по городу и задавал людям вопросы: что такое справедливость? что такое мужество? что такое благо? И показывал, что собеседник не знает того, о чем думает, будто знает.

За этим стояла конкретная полемика. Софисты, платные учителя красноречия, утверждали: истины нет, есть мнения. Протагор говорил «человек есть мера всех вещей»: как кому кажется, так и есть. В афинской демократии, где решало умение убедить собрание или суд, это было не философской абстракцией, а практическим навыком. Кто лучше говорит, тот и прав.

Сократ искал другое: определения. Не «что кажется справедливым», а «что делает поступок справедливым». Не мнение, а сущность, общую для всех случаев. Он противопоставил текучести мнений устойчивое знание, которое можно найти честным вопросом.

В 399 году афинская демократия его убила. Обвинение — развращает молодёжь и не чтит богов города. Коллегия из пятисот присяжных, голосование, цикута. Город, который гордился тем, что истина рождается в свободном споре, казнил человека, который этот спор вёл честнее всех. Риторика победила истину. Мнение победило знание. Толпа проголосовала — и философ умер.

Это стало главной травмой греческой мысли. Ученик Сократа, Платон, видел процесс и сделал вывод: истину нельзя оставлять на откуп мнению, убеждению и голосованию толпы. Ей нужно прочное основание, которое не зависит от того, кто лучше говорит и как проголосовали. Платон нашёл такое основание в мире идей: вечных, неизменных сущностей, которые постигаются умом, а не чувствами, и не зависят от людских мнений.

Проблема, поставленная смертью Сократа, — как закрепить истину так, чтобы её нельзя было заговорить и загубить голосованием, — определила всю следующую линию. Платон дал один ответ. Аристотель, родившийся через пятнадцать лет после смерти Сократа и унаследовавший эту проблему через Платона, дал другой.

Аристотель: гарантия истины

Аристотель (384–322) родился в Стагире, на севере Греции. Его отец был придворным врачом македонского царя, и знание в этой семье было ремеслом, а не озарением. В семнадцать лет Аристотель попал в Академию Платона и провёл там двадцать лет, до смерти учителя. Он не застал Сократа, но унаследовал его вопрос через Платона: где прочное основание знания, если мнения текучи, риторика убедительна, а толпа способна казнить философа?

Платоновский ответ вечных идей Аристотель отверг. Чтобы понять мир, надо смотреть на мир. Но основание истины он нашёл не в вещах и не в идеях, а в самой структуре правильного рассуждения.

Сначала — законы, без которых рассуждение вообще невозможно. Три закона классической логики придуманные Аристотелем. Закон тождества: A есть A, всякая вещь и всякое понятие тождественны себе, и в ходе рассуждения смысл термина нельзя подменять. Закон противоречия: ничто не может одновременно быть и не быть, A и не-A несовместимы. Закон исключённого третьего: из двух противоречащих утверждений одно истинно, третьего не дано, A или не-A. Это фундамент. Без него любое рассуждение рассыпается, и никакой силлогизм не работает.

Затем — силлогизм. Все люди смертны. Сократ — человек. Значит, Сократ смертен. Открытие Аристотеля в том, что правильность вывода зависит от формы, а не от содержания. Подставь любые термины вместо «людей», «Сократа» и «смертных» — если форма верна, а посылки истинны, то вывод железный. Он перебрал все возможные формы, отобрал работающие и доказал их правильность, а неработающие опроверг контрпримерами, используя буквы A, B, C вместо терминов. Это первая формальная система в истории, с переменными и правилами.

Возможно все работы Аристотеля в части логики это ответ на трагедию Сократа. Правильный силлогизм нельзя заговорить. Его нельзя опровергнуть красноречием, против него не проголосуешь. Толпа может признать Сократа виновным, но не может сделать правильный вывод неправильным: истинность заключения обеспечена формой, а не мнением. Сократ искал определения, которые устоят против софистов. Аристотель дал форму вывода, которая устоит против кого угодно. Логика стала тем прочным основанием истины, которое требовала смерть Сократа.

Свод логических трактатов Аристотеля позже назовут «Органон», то есть «инструмент». Логика для него не наука о каком-то куске мира, а орудие, которым пользуются все науки. Линейка и уровень, а не здание. Он абстрагировал сам процесс абстрагирования: не просто отделил форму от материи, а изучил, как это отделение устроено, и написал регламент.

Евклид: знание из чистых абстракций

Около 300 года до нашей эры, уже после смерти Аристотеля, Евклид в Александрии показал, как из чистых абстракций строить знание. Точка без размера. Линия без толщины. Плоскость без кривизны. Физических таких объектов не существует. Но из нескольких аксиом о них выводится вся геометрия. Евклидовы «Начала» стали образцом формальной системы: возьми несколько абстракций, задай правила и выводи всё остальное, не глядя на мир. Этот метод позже скопируют Ньютон, Гильберт и создатели языков программирования.

Что осталось после

Аристотель умер в 322 году до нашей эры, через год после Александра Македонского, которого когда-то воспитывал. Полисы вскоре проиграют Македонии и Риму, эпоха свободных городов-государств закончится. Но он успел упаковать греческое знание в систему, которая переживёт и греков, и римлян. Арабы будут звать его «Первый учитель», средневековая Европа — просто «Философ», без имени, как единственного по определению.

Для нашей линии важно другое. После Аристотеля у человечества появился работающий инструмент: форма отделена от материи, вывод зависит от формы, абстракции можно строить по правилам. Оставалось два шага, которые займут две тысячи лет. Первый — превратить форму в символ, с которым можно оперировать как с числом. Второй — заставить символы исполняться физически, в железе. Первый шаг сделают Лейбниц и Буль. Второй — Тьюринг и Шеннон. Но фундамент заложил врач из Стагира, который заметил, что у мысли есть форма и формой можно оперировать.

Часть 2. От греков до Шеннона: логика становится вычислением

Логика Аристотеля оставалась такой как есть почти две тысячи лет. Не потому, что была плоха, а потому, что казалась завершённой. Кант в предисловии ко второму изданию «Критика чистого разума» 1787 года написал, что со времён Аристотеля логика не сделала ни шага вперёд и, по-видимому, закончена. Это была не похвала, а диагноз. Дисциплина, которую считают готовой, перестают развивать.

Между тем рядом текла другая река, и с логикой она не пересекалась. Алгебра.

Две реки

Алгебра росла из другой традиции. Вавилон, Диофант, потом аль-Хорезми в Багдаде около 825 года, в Доме мудрости. От названия его книги «аль-джабр» пошло слово «алгебра», от его имени — «алгоритм». Индийцы дали ноль как полноценное число и позиционную запись, арабы передали это дальше, Фибоначчи принёс в Европу в 1202 году.

К XVI–XVII векам алгебра сделала свой решающий ход. Виет в 1591 году, а Декарт в 1637-м стали записывать буквами не только неизвестные, но и коэффициенты: ax² + bx + c = 0. Теперь можно исследовать структуру уравнения вообще, не подставляя конкретных чисел. Алгебра стала алгеброй алгебры: операцией над операциями.

Получилось две половины одной идеи. Логика Аристотеля знала, что у рассуждения есть форма. Алгебра знала, что формой можно манипулировать как символом, не думая каждый раз о содержании. Но никто не догадался соединить их. Логика считалась законченной, алгебра занималась числами и уравнениями. Между ними лежала пропасть, и через неё никто не строил мост.

Лейбниц: мечта о вычислении мысли

Первым, кто увидел возможность, был Готфрид Вильгельм Лейбниц. В 1666 году, в двадцать лет, он написал «Рассуждение о комбинаторном искусстве» и сформулировал программу на триста лет вперёд.

Идея состояла из двух частей. Универсальный символический язык, characteristica universalis, в котором любая мысль записывается как формула. И исчисление рассуждений, calculus ratiocinator, в котором спор решается вычислением. Лейбниц предлагал философам вместо того, чтобы спорить, брать перья и говорить: «Calculemus» — давайте посчитаем.

За этой мечтой стояла метафизика. Лейбниц опирался на принцип достаточного основания (по сути четвертый закон логики): ничто не происходит без достаточного основания, всякий факт и всякое истинное утверждение имеют основание, даже если мы его не знаем. Мир устроен так, что у всего есть причина и объяснение. Лейбниц верил что если у всего есть основание, то всё в принципе можно вывести и вычислить. Закон достаточного основания был метафизическим фундаментом мечты «calculemus»: рациональный мир до конца прозрачен для разума, а значит, для исчисления.

Побочный продукт его размышлений — двоичная арифметика. Лейбниц работал с ней с 1679 года, а в 1703-м опубликовал «Объяснение двоичной арифметики» в мемуарах Парижской академии. Цифры только 0 и 1, сложение 1+1=10, таблица умножения в одну строку. Но Лейбниц видел в этом не технику, а метафизику: 1 — Бог, 0 — ничто, все числа из нуля и единицы — творение мира из ничего.

Тут случился поворот, который сам Лейбниц счёл подтверждением своей правоты. Он переписывался с иезуитом Жоашеном Буве, миссионером в Китае, и тот прислал ему гексаграммы «И-Цзин» в порядке Фу Си. Шестьдесят четыре шестичертия, каждое из шести сплошных или прерванных линий. Лейбниц заметил: если сплошная линия — 1, прерванная — 0, то гексаграммы — это двоичные числа от 0 до 63 в точном порядке. Древние китайцы, решил он, знали двоичную систему за тысячелетия до него. Историки спорят, совпадение это или нет, но для Лейбница это было доказательством универсальности его идеи.

Двоичная система родилась не из инженерии, а из философии и мистики. Как и булева алгебра позже родится из логики, а не из электроники. Обе линии сойдутся в XX веке, и обе начались с мысли, а не с машины.

Буль: истина как алгебра

Мост построил Джордж Буль. Самоучка, сын сапожника из Линкольна, школьный учитель в Ирландии, профессором стал только в тридцать четыре года, и то в захолустном Корке. В 1847 году он выпустил тонкую книжку «Математический анализ логики», а в 1854-м главный труд — «Исследование законов мысли».

Ход был гениально простым. Взять алгебру, но вместо чисел пусть переменные означают классы вещей или высказывания. Умножение x·y — пересечение: «люди, которые смертны». Сложение x+y — объединение. 1−x — дополнение, «не-люди». 1 — всё, 0 — ничто.

И тогда аристотелевские законы логики становятся алгебраическими тождествами. Закон противоречия, «ничто не может быть и A, и не-A», записывается как x·(1−x) = 0: класс «люди и не-люди одновременно» пуст. Закон исключённого третьего: x + (1−x) = 1. Это буквально уравнения.

Силлогизм превращается в решение уравнений. «Все люди смертны» — это M = M·P. «Сократ — человек» — S = S·M. Подставляем: S = S·M = S·M·P = S·P, значит, S·(1−P) = 0, то есть «Сократ смертен». Вывод получен алгебраической подстановкой, без всякого рассуждения. Лейбницево «calculemus» заработало.

Но самое интересное — чем эта алгебра отличается от числовой. Буль обнаружил закон x² = x. Для чисел это верно только при 0 и 1. Для классов — всегда: «люди, которые люди» — это просто «люди». Буль осознал, что его исчисление — алгебра, где переменные принимают только значения 0 и 1. Он сам называл это «алгеброй нуля и единицы».

Побочный эффект оказался важнее самого открытия. Вся аристотелевская силлогистика оказалась крошечным фрагментом гораздо более широкой системы. То, что две тысячи лет считалось всей логикой, стало частным случаем. Кант ошибся: логика была не завершена, она была даже не начата по-настоящему.

Предел мечты и рождение вычисления

Логика обросла кванторами и отношениями и стала достаточно выразительной, чтобы записать всю математику. Это открыло программу логицизма: свести математику к чистой логике. Рассел и Уайтхед довели её до промышленного масштаба в Principia Mathematica (1910–1913): три тома, чтобы вывести математику из логических аксиом.

Давид Гильберт в 1920-х сформулировал мечту Лейбница в полном объёме: формализовать всю математику, доказать её непротиворечивость и найти алгоритм, который для любого утверждения скажет, истинно оно или ложно. Если такой алгоритм есть, мысль полностью механизмируема, и Лейбниц прав.

В 1931 году Курт Гёдель показал: если достаточно сильная формальная система непротиворечива и задана явными аксиомами и правилами вывода, она неполна — в ней есть утверждения, которые нельзя ни доказать, ни опровергнуть её средствами. Такая система также не может доказать собственную непротиворечивость своими средствами. Это был серьёзный удар по логицизму и гильбертовской программе, но не решение проблемы разрешимости: отрицательный ответ на неё независимо получат Чёрч и Тьюринг в 1936 году.

Но Гёдель не убил мечту Лейбница. Он её переформулировал.

Алан Тьюринг в 1936 году, в статье «О вычислимых числах в приложении к проблеме разрешимости», спросил не «что доказуемо?», а «что вычислимо?». И дал строгий ответ. Машина Тьюринга — абстрактный исполнитель: бесконечная лента, головка, которая читает и пишет символы, таблица правил, меняющая состояние. Универсальная машина может исполнить любой алгоритм, если записать его на ленте. Проблема разрешимости решена отрицательно: алгоритма для всех утверждений нет. Но понятие алгоритма теперь строгое. Вычисление — это манипуляция символами по правилам. Не обязательно логическая манипуляция, любая.

Это и был сдвиг. Логика перестала быть «правилами истины» и стала теорией вычисления. Форма Аристотеля, формальная система, машина Тьюринга. Мысль равна манипуляции символами. Это открыло дверь для статистики, но дверь построила логика. Параллельно Алонзо Чёрч, разработавший лямбда-исчисление в начале 1930-х, в 1936 году независимо от Тьюринга получил отрицательное решение проблемы разрешимости. Эта линия позже станет функциональным программированием и идеей «программа как данные».

Оставалось одно: заставить символы исполняться физически.

Шеннон: логика обретает физическую форму

В 1937 году Клод Шеннон, двадцатиоднолетний магистрант MIT, показал в своей диссертации, что булева алгебра — это в точности алгебра релейных переключателей. Последовательное соединение контактов — И, параллельное — ИЛИ, нормально замкнутый контакт — НЕ. Любую схему можно записать как булево выражение, упростить алгебраически и собрать обратно упрощённой. Инженер больше не перебирает варианты вслепую, он решает уравнение.

Шеннон не строил компьютеры, он дал инженерам язык. И в этом языке аристотелев закон противоречия x·(1−x)=0 стал физическим фактом: цепь «включено и выключено одновременно» не проводит ток. Две тысячи триста лет от силлогизма до реле. Логика обрела физическую форму.

Алгебра + Логика

Логика дала форму: у рассуждения есть структура, и она не зависит от содержания. Алгебра дала технику: символами можно манипулировать по правилам, не думая о значении. Буль соединил их: истина стала уравнением. Гёдель показал границы. Тьюринг дал строгое понятие вычисления. Шеннон воплотил вычисление в переключателях.

Мечта Лейбница «давайте посчитаем» получила строгое определение и обрела физическую форму. Оставалось масштабировать эту форму и решить, что именно она будет вычислять.

Часть 3. От Шеннона до больших языковых моделей

Шеннон дал логике физическую форму. Всё, что было дальше, — это ее масштабирование и смена того, что она вычисляет. Логика при этом не менялась. Менялась физика, а потом и сам предмет вычисления: от чисел к символам, от символов к знаниям, от знаний к тексту, который выглядит как мысль.

От реле к миллиардам транзисторов

Реле было электромеханическим: катушка, магнитное поле, якорь, контакты. Подал ток — замкнулось, убрал — пружина вернула. Переключение около десяти миллисекунд, механический износ, комнаты железа. На реле строили первые компьютеры: Конрад Цузе построил Z3 в Берлине в 1941 году, около 2600 реле, двоичный, программируемый перфолентой; Harvard Mark I в 1944-м, около 3500 реле, десятичный, пятнадцать метров в длину. Цузе не знал работ Шеннона и пришёл к двоичной логике сам, из инженерных соображений: реле естественно бистабильно.

Лампы дали скорость. Триод, изобретённый Ли де Форестом в 1906 году, управлял потоком электронов напряжением на сетке: микросекунды вместо миллисекунд, никаких движущихся частей. Лампы стали использовать вместо реле. ENIAC в 1945-м содержал 17 468 ламп и делал 5000 сложений в секунду, на 3 порядка быстрее Mark I. Но нити накала горели, лампы выгорали, машина грелась как промышленный обогреватель и весила тридцать тонн.

В 1947 году Бардин, Браттейн в Bell Labs сделали точечный транзистор на германии: ток через один контакт управляет током через другой, без нити и вакуума. В 1959-м Канг и Аталла создали MOSFET, где затвор изолирован оксидом и управляет каналом электрическим полем, а не током. В 1963-м Фрэнк Ванласс предложил CMOS: пары комплементарных транзисторов, где в покое один всегда закрыт и ток почти не течёт. Энергия переключения вместо энергии ожидания. Именно поэтому CMOS победил и стал основой всей современной электроники.

Дальше интегральные схемы (Килби и Нойс, 1958–1959), микропроцессор Intel 4004 в 1971-м с 2300 транзисторами, и рост до десятков миллиардов транзисторов на кристалле. Логика та же, что у Буля в 1854-м и у Аристотеля в 350 году до нашей эры. Разница в масштабе, скорости и энергии. И масштаб оказался решающим.

Отдельный поворот — GPU. Графические процессоры создавались для рендеринга: миллионы одинаковых операций над пикселями, параллельно. Оказалось, умножение матриц устроено так же. Тысячи ядер, каждое делает multiply-accumulate. Без GPU не было бы глубокого обучения: не потому что идея новая, а потому что вычислительная мощность стала доступна.

Программа в памяти

Фон Нейман в 1945 году, в «Первом наброске отчёта об EDVAC», описал архитектуру хранимой программы: программа и данные лежат в одной памяти, процессор читает инструкции, исполняет, читает следующие. Это интерпретатор, воплощённый в железе. И это означает, что машину можно перепрограммировать, не перестраивая. Универсальность Тьюринга стала инженерным фактом.

Программирование с тех пор строит абстракции над абстракциями. Переменная — имя вместо адреса памяти. Функция — имя вместо последовательности инструкций. Тип — контракт: «это число», с ним можно делать вот это, а как оно хранится — не твоё дело. Язык скрывает машину.

Одна строка Python print("hello") проходит через парсер, байткод, интерпретатор на C, системный вызов, ядро, драйверы, GPU и пиксели на экране; а под всем этим каждое действие — это XOR и AND, вентили NAND, CMOS-транзисторы и электроны в кремнии. Ни один человек не понимает все слои одновременно. Разработчик Python не знает физику оксида гафния, инженер фабрики не знает PEG-парсер. Но всё работает, потому что каждый слой соблюдает контракт нижнего. Абстракция — это ещё и социальная технология: способ разделять труд между людьми, которые не могут понять всю систему целиком.

Мечта об AI и её крах

В 1956 году на летнем семинаре в Дартмуте Маккарти, Минский, Саймон и Ньюэлл придумали термин «artificial intelligence». Гипотеза звучала так: каждый аспект обучения или интеллекта можно настолько точно описать, что машина сможет его симулировать. Это прямое продолжение Лейбница: мысль равна символам, символы равны правилам, правила равны машине.

Символический AI реализовывал Аристотеля напрямую. База фактов плюс правила вывода. Экспертные системы вроде MYCIN для медицины, логическое программирование Prolog с 1972 года. Ты описываешь факты и правила, машина выводит следствия. Силлогизмы, категории, определения — аристотелевский подход, воплощённый в коде.

И это работало. В узких доменах. MYCIN диагностировал инфекции лучше некоторых врачей, Prolog решал головоломки, шахматные программы играли. Но не масштабировалось. Правила хрупки: работают в 99% случаев, а один процент даёт катастрофу. Реальный мир не укладывается в конечный набор правил, каждое исключение требует нового, база растёт взрывообразно. Язык, восприятие, здравый смысл не формализуются в явные правила. И кто напишет миллион правил? Эксперт не может вербализировать своё знание.

К 1987 году рынок экспертных систем рухнул, наступила «зима AI». Символический подход упёрся в стену: не всё знание можно выразить в явных правилах. Аристотелев метод определения через род и отличие работает для математики, но не для «что такое кошка» или «что значит эта фраза».

Лейбниц мечтал записать всё знание в символах. Оказалось, знание слишком богато для явной записи. Но его можно сжать неявно, в веса.

Другая ветвь, выросшая из логики

Параллельно шла статистическая линия, и началась она внутри логики.

В 1943 году Уоррен Маккаллок и Уолтер Питтс опубликовали «Логическое исчисление идей, имманентных нервной активности». Первая модель нейрона была пороговым логическим элементом: входы 0/1, взвешенная сумма, если выше порога — выход 1, иначе 0. Это буквально вентиль. Они показали, что сеть таких элементов может вычислить любую булеву функцию. Коннекционизм родился из логики.

В 1958-м Фрэнк Розенблатт сделал перцептрон: нейрон с обучаемыми весами. Не программируешь правила, показываешь примеры, и веса подстраиваются. Первая машина, которая учится, а не исполняет написанное.

В 1969-м Минский и Паперт в книге «Перцептроны» доказали, что однослойный перцептрон не может вычислить XOR, и убили интерес к нейросетям на пятнадцать лет. Ирония в том, что XOR — та самая операция, из которой собирается сумматор, из которого собирается процессор. Логика убила нейросеть тем же XOR, который нейросети потом научились вычислять.

В 1986-м Румельхарт, Хинтон и Уильямс описали backpropagation: многослойные сети плюс градиентный спуск по ошибке. XOR решён, сеть учит представления, а не просто веса. Возрождение. Но данных и вычислений не хватало, сети были маленькие, GPU не было.

Параллельно статистический NLP в 1990-е считал вероятности по корпусу: n-граммы, скрытые марковские модели. Машинный перевод перестал быть «запиши грамматику» и стал «посчитай, какие последовательности слов вероятны». Сдвиг от Аристотеля к Байесу, от дедукции к индукции, от правил к паттернам.

Масштаб порождает качество

В 2012 году AlexNet победил ImageNet. GPU плюс данные плюс backprop плюс глубина дали прорыв. Не новая идея, новая вычислительная реальность.

Дальше цепочка: sequence-to-sequence в 2014-м (Суцкевер, Виньялс, Ле), механизм внимания у Бахданау в 2014–2015-м, и трансформер в 2017-м. Статья Васвани и соавторов «Attention Is All You Need» убрала рекуррентность полностью: только внимание и feed-forward. Параллелизуемо, в отличие от RNN, масштабируемо, удобно для GPU. Архитектурный прорыв: формула, которая эффективно вычисляется на железе.

GPT с 2018 года, scaling laws Каплана в 2020-м: ошибка предсказания предсказуемо падает с ростом параметров, данных и вычислений. На определённом масштабе модель начинает делать то, чему её явно не учили. Эмерджентность. Количество перешло в качество.

Что такое LLM с точки зрения этой истории

Если смотреть строго через историю логики, вычислительной техники и программирования, большая языковая модель — это функция: последовательность токенов на входе, распределение вероятностей следующего токена на выходе. Архитектура задаёт форму функции. Параметры, миллиарды чисел, определяют конкретную функцию из семейства возможных. Обучение находит такие коэффициенты, чтобы функция максимально точно предсказывала следующий токен на корпусе человеческих текстов. Инференс вычисляет функцию авторегрессивно: выдал токен, добавил к входу, вычислил снова.

Информация не записана в веса как в базе данных: нет отдельной ячейки “столица Франции — Париж”. Знание распределено по множеству параметров; один параметр обычно не соответствует одному факту, и произвольный фрагмент весов не позволяет восстановить всю модель. Модель не извлекает готовую запись, а вычисляет вероятное продолжение. В этой исторической оптике LLM можно считать частичным осуществлением мечты Лейбница: рассуждение заменяется вычислением, но не дедукцией, а статистическим предсказанием

Содержательную часть, «как машина мыслит», реализовала не логика, а статистика. Не силлогизмы, а градиентный спуск. Не правила вывода, а умножение матриц. Не явные определения, а неявные веса. Не дедукция, а индукция по корпусу.

Не заключение

Зарубка вместо овцы, слово вместо вещи. Теперь язык стал выходом последней абстракции: формула вычисляет текст, который человек читает как осмысленный. Форма, отделённая от материи Аристотелем, порождает форму, которая для читателя неотличима от содержания.

Сорок тысяч лет, одна операция: отделить форму, сделать её объектом, построить форму над формой. Зарубка отделила число от вещи. Аристотель отделил форму рассуждения от содержания. Буль отделил истину от смысла. Шеннон отделил алгебру от физики. Тьюринг отделил вычисление от машины. Нейросеть отделила знание от явной записи. LLM вычисляет форму, которая выглядит как содержание.

Вопрос, является ли эта форма содержанием, — тот же вопрос, что «форма или материя», который Аристотель задал 2350 лет назад. Окончательного ответа на него нет. Но башня стоит, контракт держится, и текст на экране вычислен миллиардами транзисторов, каждый из которых исполняет закон, сформулированный афинским философом, ничего не знавшим ни о транзисторах, ни о трансформерах. Он знал главное: у мысли есть форма, и формой можно оперировать. Он не знал, что форма однажды станет достаточно большой, чтобы вычислять ответы на вопросы, которые он сам задавал.

Что почитать

- Дениз Шмандт-Бессера. How Writing Came About. University of Texas Press, 1996. О глиняных токенах и рождении письма из бухгалтерии.

- Жорж Ифра. Всеобщая история цифр. 1994. История систем счисления от зарубок до нуля.

- Аристотель. Метафизика, книга IV. Где сформулированы законы противоречия и исключённого третьего.

- Евклид. Начала. Перевод Д. Д. Мордухай-Болтовского. Образец аксиоматического метода.

- Томас Хит. A History of Greek Mathematics. Oxford, 1921. Классическая история греческой математики.

- Мартин Дэвис. Engines of Logic: Mathematicians and the Origin of the Computer. Norton, 2000. История от Лейбница до Тьюринга, лучшее введение в эту линию.

- Джеймс Глик. Информация. История. Теория. Поток. 2011. О Буле, Шенноне и рождении теории информации.

- Джордж Буль. Исследование законов мысли. 1854. Первоисточник булевой алгебры.

- А. М. Тьюринг. О вычислимых числах в приложении к проблеме разрешимости. 1936. Статья, определившая понятие алгоритма.

- К. Шеннон. Символический анализ релейных и переключательных схем. 1938. Диссертация, соединившая алгебру с железом.

- Мелани Митчелл. Artificial Intelligence: A Guide for Thinking Humans. 2019. Честный взгляд на то, что AI умеет и чего не умеет.

- Нильс Нилссон. The Quest for Artificial Intelligence. Cambridge, 2010. История AI от истоков до 2000-х.

- А. Васвани и др. Attention Is All You Need. NeurIPS, 2017. Статья, задавшая архитектуру трансформера.

- Дж. Каплан и др. Scaling Laws for Neural Language Models. arXiv, 2020. О том, как ошибка падает с масштабом.

- Майкл Нильсен. Neural Networks and Deep Learning. 2015. Бесплатно онлайн: neuralnetworksanddeeplearning.com.