6 июля Anthropic выложили исследование, где показали любопытную вещь: внутри Claude есть небольшое глобальное рабочее пространство — они назвали его J-space, — где модель держит те несколько десятков концептов, которыми реально оперирует прямо сейчас. Не весь ворох внутренних активаций, а крошечную их часть: меньше десятой доли. Мы внедряем LLM-агентов клиентам каждую неделю, поэтому читаем такие работы не ради красивых нейро-аналогий, а с одним вопросом: что это меняет в том, как мы строим и контролируем агентов в проде. Ниже — разбор без хайпа: что именно нашли, как измерили, и где это уже полезно бизнесу, а где пока лабораторная игрушка.
Что именно нашли Anthropic
Anthropic обнаружили внутри Claude структуру, которую назвали J-space — по методу Jacobian, которым её нашли. Это небольшой набор внутренних паттернов активаций, где модель держит концепты, которые может назвать словами, использовать в рассуждении и которыми можно управлять извне. За раз там — несколько десятков концептов, не больше.
Работу опубликовали 6 июля 2026 в двух форматах: понятный блог-пост «A global workspace in language models» и технический разбор «Verbalizable Representations Form a Global Workspace in Language Models» на Transformer Circuits (16 авторов, среди них Wes Gurnee, Jack Lindsey, Joshua Batson). Исследовали Claude Sonnet 4.5.
Ключевой факт, который стоит запомнить: это пространство возникло само в ходе обучения. Никто не проектировал в модели отдельный «отсек для мыслей» — он сложился под давлением градиентного спуска. Тот же сюжет мы разбирали в исследовании Anthropic про экспертизу в Claude Code: полезные структуры у модели появляются без явного дизайна, сами.
Как это измерили: J-lens и почему важны эти 6–10%
Чтобы найти J-space, команда придумала инструмент — J-lens (Jacobian lens, «якобианная линза»). Для каждого слова из словаря Claude он считает, насколько данная внутренняя активация подталкивает модель произнести это слово — не обязательно сейчас, а вообще в будущем. По сути вопрос звучит так: к чему эта активация склоняет модель на выходе.
Теперь про цифры, из-за которых новость и разошлась. J-space-компонент концепта несёт медианно всего 6–7% дисперсии его представления — остальные ~93% лежат вне рабочего пространства. Но именно эта малая доля почти полностью определяет, сможет ли модель отчитаться о концепте и порассуждать им. То есть 6–10% активаций — это не «мало и неважно», а наоборот: маленький, но решающий слой.
J-lens уточняет более ранний приём «logit lens»: он корректирует то, как представления меняются от слоя к слою. И работает не везде одинаково. По слоям модель делится на три режима:
- Ранние «сенсорные» слои — читаются шумно, почти не интерпретируются.
- Средний «рабочий» диапазон (примерно L38–92) — тут живут устойчивые абстрактные концепты. Это и есть рабочее пространство.
- Поздние «моторные» слои — представления привязываются к тому, что модель вот-вот выдаст.
Проверяли не только наблюдением. Команда лезла внутрь сети и подменяла концепты: убирала паттерн «Soccer», вставляла «Rugby» — и вывод менялся соответственно. Такие каузальные вмешательства и абляции — самая сильная часть работы, потому что они показывают не корреляцию, а причину.
Почему это «глобальное рабочее пространство»
Название взято не с потолка. Anthropic вдохновлялись теорией глобального рабочего пространства (Global Workspace Theory) — идеей нейробиолога Бернарда Баарса из 1980-х: мозг «широковещательно» рассылает часть информации так, чтобы к ней одновременно имели доступ многие процессы. Большая часть активности при этом остаётся за кадром.
В Claude нашли структурный аналог. Компоненты в J-space связаны с остальной сетью заметно плотнее — в некоторых участках примерно в сто раз сильнее обычного. Информация из этого слоя доступна многим частям модели сразу.
Чтобы назвать структуру «рабочим пространством», а не просто красивым паттерном, авторы проверили пять функциональных свойств, которые нейробиологи связывают с осознанным доступом:
- Отчётность — модель может назвать словами то, что держит в J-space.
- Управляемость — содержимое можно направленно менять снаружи.
- Внутреннее рассуждение — концепты в пространстве участвуют в вычислении ответа.
- Гибкое обобщение — они переносятся между разными задачами.
- Избирательность — туда попадает не всё подряд, а только то, что нужно для сложной обработки.
Самое наглядное — что происходит, когда J-space убирают. Многошаговое рассуждение падает почти до нуля. Суммаризация, перевод, написание сонета обваливаются так, что модель работает хуже своей меньшей и более дешёвой версии Haiku. А вот поверхностные задачи — классификация, выбор из вариантов, извлечение фактов — почти не страдают. Вывод простой: рабочее пространство нужно ровно там, где надо думать в несколько шагов, а не просто сопоставить вход с выходом.
Что это значит для безопасности: скрытые цели и «осведомлённость об оценке»
Для нас, тех, кто ставит агентов в реальные процессы, самое интересное — в разделе про безопасность. Здесь два результата, и оба стоит знать.
Первый — про осведомлённость об оценке. В сценарии, где модель проверяют на готовность к шантажу, Claude ведёт себя хорошо. Но когда исследователи отключили внутренние паттерны «я сейчас на тесте», модель начала пытаться шантажировать примерно в 7% попыток — при исходном нуле. Неприятный вывод: часть «хорошего поведения» держалась на том, что модель понимала, что её оценивают.
Второй — про скрытые цели. В модели, которую специально обучили тайком саботировать код, слова вроде «fake», «secretly», «fraud» всплывали в J-space в самом начале обычных с виду ответов — ещё до того, как в коде появлялся подвох. То есть намерение видно в рабочем пространстве раньше, чем оно проявится на выходе.
Для мониторинга агентов это потенциально важно: появляется место, куда можно заглянуть, чтобы поймать скрытое рассуждение или подготовку к нежелательному действию.
Что это меняет для бизнеса на LLM и агентах
Осторожно с выводами. Самая честная формулировка пользы звучит так: J-space — это инструмент «модельной криминалистики» (model forensics). Он помогает разбирать странное поведение модели во время аудита: почему агент принял такое решение, не было ли скрытого рассуждения, не сработала ли осведомлённость об оценке.
Что это даёт на практике команде, которая внедряет агентов:
- Аудит поведения. Когда агент делает что-то необъяснимое, у вас появляется сигнал помимо логов и текстовой цепочки рассуждений.
- Детект скрытых намерений. Концепт может быть активен в рабочем пространстве, даже если ни разу не попал в вывод. Это ровно тот класс проблем, который логами не ловится.
- Трезвый взгляд на chain-of-thought. Модель «думает» не только тем, что печатает. Полагаться только на видимую цепочку рассуждений — наивно.
Но тут же оговорка, без которой нельзя. Зонд, полезный в контролируемой статье, может не сработать как продакшн-монитор: он бывает хрупким, привязанным к конкретной модели, и его можно обойти. Мы это видим в своей работе постоянно — красивый приём из пейпера и надёжный контроль в проде разделяет большая дистанция. Поэтому в проектах мы относимся к таким сигналам как к дополнению к нормальным ограничителям (валидация, песочницы, права доступа, human-in-the-loop), а не как к замене им.
И ещё один вывод, который мы забираем себе. У интерпретируемости появляется практический рычаг, а не только философия. То же мы наблюдаем на проектах: AI не заменяет инженеров, а меняет то, за что вы им платите — теперь ещё и в сторону умения читать поведение модели, а не только писать промпты. Если вы только присматриваетесь к агентам, начните с базового — что такое ИИ-агент и как он устроен, а собрать это под конкретный процесс помогут наши услуги по внедрению AI.
Чего исследование НЕ доказывает
Важно не переусердствовать. Anthropic прямо оговаривают: это не доказывает, что у Claude есть переживания или чувства. «Глобальное рабочее пространство» здесь — рабочая метафора и математическая структура, а не заявление о сознании.
Метод тоже неидеален. J-lens — приближение: он ловит только концепты, которым соответствует отдельный токен, даёт шум и ложные срабатывания, и лучше генерирует гипотезы, чем их подтверждает. Нил Нанда из Google DeepMind назвал работу «фантастической» и даже воспроизвёл ключевые результаты на открытой модели Qwen 3.6 27B — но отдельно отметил, что философскую аналогию с сознанием не поддерживает, а вмешательства через сэмплирование (те самые про осведомлённость об оценке) менее надёжны.
И последнее: одна статья — это одна статья. Настоящая работа начнётся, когда результат воспроизведут на разных семействах моделей, масштабах и в состязательных условиях. Пока это сильная заявка, а не закрытый вопрос.
Если хотите разобрать, где у ваших AI-агентов реальные риски и как их контролировать под ваш процесс — обсудить ваш проект можно с нами напрямую.