Линза Карпатого: понимание против исполнения

Карпатый строит ИИ и одновременно публично его описывает: один из основателей-членов команды OpenAI, годы руководства ИИ и автопилотом в Tesla, автор учебных материалов, на которых выросло поколение инженеров (micrograd, nanoGPT).

По его публичным выступлениям видно нежелание раздувать ожидания: там, где индустрия обещает «AGI через год», он говорит «десятилетие».

Это не пересказ его интервью, а попытка вытащить из его публичной позиции один цельный фрейм и разложить его так, чтобы им можно было пользоваться при решениях.

Фрейм держится на трёх параллельных утверждениях: понимание бьёт исполнение, реальность бьёт таймлайны, инженерия бьёт нарратив.

Три раза одна и та же ошибка — лёгкое и эффектное принимают за трудное и реальное.

Всё ниже подано как публичная позиция Карпатого, а не как установленный факт о мире; биографические частности я намеренно опускаю.

Здесь же лежит причина его осторожности по срокам.

Современные системы во многом дотягивают обучением с подкреплением (RL). У RL есть встроенная слабость: награда часто одна и приходит в конце длинной цепочки действий.

При положительном итоге апвейтятся все токены траектории — включая локально неверные шаги, — потому что сигнал награды один и размазывается по всей цепочке.

Сигнал получается шумным и бедным — «учёба через соломинку».

Карпатый формулирует это спокойно: RL не тупик и местами работает, но крайне неэффективен по сигналу — одна награда в конце длинной цепочки даёт бедный обучающий сигнал.

Он отмечает, что человеческое обучение устроено иначе — с рефлексией и пересмотром, а не только через разреженную награду в конце. Поэтому, по его публичной оценке, одним RL до интеллекта человеческого уровня не дотянуть: нужно ещё несколько алгоритмических прорывов, которых пока нет.

Отсюда — сдержанность в прогнозах про AGI, а не пессимизм.

Исходное определение AGI, с которого стартовал OpenAI, — система, выполняющая любую экономически ценную задачу на уровне человека или лучше. А по наблюдению Карпатого, основной экономический выхлоп LLM через API сегодня — это одна узкая вещь: кодинг.

Не консалтинг, не бухгалтерия, не юриспруденция. Почему?

Карпатый называет код «идеальной первой задачей», и главный различитель здесь — верифицируемость: код запускается или нет, и это объективная истина, которой у эссе или слайдов нет.

Рядом — структурность и однозначность синтаксиса и готовая инфраструктура вокруг (редакторы, версии, diff).

Карпатый называет его jagged, «зубчатым». Где-то модель сверхчеловек, в шаге рядом — беспомощна, и граница неочевидна.

На рельсах обучающих данных она сильна; в шаге от них — обрыв.

Показателен его открытый учебный проект nanochat — сборка LLM полного цикла, около восьми тысяч строк за месяц с небольшим.

Агенты почти не помогали: такого кода нет в интернете, и они тянули решение к типовым шаблонам из обучающих данных, возвращая обратно ровно тот стандартный механизм, который автор сознательно выкинул.

На типовом — сильнее тебя; на уникальном — мешает.

Отсюда первый навык новой эпохи: чувствовать, где рельсы, а где обрыв.

Где агент сильнее тебя, а где подведёт.

Карпатый описывает, как сам держит три режима и осознанно переключается между ними.

Это напрямую переопределяет, что такое «навык работы с ИИ».

Под «промпт-инжинирингом» прячутся две разные вещи, и их стоит развести: узкие заклинания вроде «думай пошагово» — расходный навык, модели умнеют и прощают кривые запросы; а умение разложить задачу, понять, что куда отдать, что проверить и как состыковать, — это direction, завязанный на понимание области.

Универсального ИИ-приёма, который заменяет понимание, нет: расходные промпт-трюки обесцениваются с каждым поколением моделей.

Понимание же рождается из экспертизы, опыта и насмотренности — поэтому образование не теряет смысла, а приобретает.

Карпатого — не бунт машин, а постепенная, незаметная потеря людьми контроля и понимания: сползание человечества в роль пассажира собственной цивилизации.

Его образ будущего ближе к «костюму

Железного человека» — инструменту, усиливающему человека, чем к автономному роботу вместо него.

Отсюда и его ставка на образование нового типа; характерная деталь — по интервью No Priors он говорит, что всё чаще объясняет вещи не людям, а агентам: хорошо объяснил агенту один раз, дальше агент объяснит это любому человеку под его уровень и не устанет повторять.

Отрезвляющая аналогия, которую он приводит, — беспилотные автомобили.

Их доводят десятилетиями; и даже там, где машины уже ездят без водителя, человек часто не исчезает, а уходит в удалённый контур поддержки.

Это и есть честная картина «автономности»: не исчезновение человека, а изменение его места в контуре.

Его собственные карьерные шаги — ближе к разработке моделей, чем к обещаниям про «AGI через год» — согласуются с этой позицией.

Трезвость здесь — это видеть реальность без сказок под раунды: если впереди десятилетие тяжёлой инженерии, логично идти отрабатывать его руками.

Если свести всё к одному, индустрия систематически путает две пары понятий — и обе ошибки одной формы: лёгкое и эффектное принимают за трудное и реальное.

Из этого вырастают три практических вывода.

Специалист будущего — не «я умею в ИИ», а «я глубоко понимаю область и поэтому умею направить в ней ИИ».

Для руководителя вопрос найма переформулируется: вы нанимаете тех, кто понимает, что строит, — или тех, кто красиво жмёт кнопки?

Здесь же лежит проблема «чистого листа» из начала текста: агент не накапливает опыт между сессиями сам — носителем накапливаемого контекста остаётся команда и переносимая корпоративная память (например, Sloy).

Закладывайтесь на десятилетие, а не на год; не верьте громким срокам и не привязывайтесь к конкретному инструменту.

Это TTU-мышление — мерить время до реального использования, а не до красивой демонстрации.

Переносимый контекст (AGENTS.md, skills, MCP — см. AI-принципы) здесь не только удобство, а страховка от vendor lock-in: систему можно забрать себе.

Как это превращается в короткие проверяемые итерации, описано в подходе к внедрению ИИ.

Если у тезиса нет механизма, цифры или проверки — это нарратив, а не инженерия.

Как вообще дать модели ваши знания — обзор всех способов: лендскейп «как дать LLM знания».

Когда оправдано менять веса модели под себя: дообучение моделей — короткий гайд.

Откуда брать цифры по стоимости моделей: сравнение LLM 2026 — выбор по процессу и бюджету; калькулятор контуров под ваши вводные — на хабе внедрения ИИ. И самое человеческое в этой позиции: за трезвостью стоит забота — сделать так, чтобы люди остались теми, кто понимает и направляет, а не пассажирами.

Это не пессимизм, а трезвая оценка: закладываться на десятилетие тяжёлой инженерии и держать человека тем, кто понимает.