Парадокс обратной информации: как защищать core-IP в эпоху интеллекта

Сатья Наделла за последний год сказал несколько вещей, которые звучат тревожнее любого сценария про «восстание машин». Смысл такой: сами модели превращаются в commodity, а вот знание вашей компании рискует «скоммодитизироваться прямо из-под вас». Мы каждую неделю внедряем ИИ в бизнес и читаем это не как футурологию, а как описание конкретного риска на проектах. Реальная угроза при внедрении ИИ не в том, что агент ошибётся, а в том, что ваше ноу-хау тихо утечёт в чужую модель и перестанет быть вашим преимуществом. Поэтому защита данных при внедрении ИИ — это не строчка про безопасность в конце сметы, а вопрос о том, останется ли у вас вообще ров через два года.

Ниже разберём, что именно сказал Наделла (дословно, со ссылками), причём здесь парадокс Эрроу 1962 года, сколько core-IP уже утекает в публичные модели по цифрам и как выстроить внедрение так, чтобы обучающая петля осталась у вас. Саму эту рамку мы называем «парадоксом обратной информации» — и сразу оговоримся: это наша формулировка, а не цитата Наделлы.

Что на самом деле сказал Наделла — и почему это не про модели

Наделла утверждает, что конкурентное преимущество ушло из самих моделей в то, как вы обвязываете их своими данными и процессами. В подкасте в марте 2025-го он сказал прямо: «the models are getting commoditized» — модели коммодитизируются, — и добавил, что «OpenAI is not a model company, it's a product company that happens to have fantastic models» (the-decoder).

Ещё раньше он сформулировал ту же мысль в X: по мере того как ИИ становится агентным, «models themselves become more of a commodity, and all value gets created by how you steer, ground, and finetune these models with your business data and workflow» (X). По смыслу: ценность живёт не в модели, а в ваших данных и процессах поверх неё.

А в 2026-м, в эссе Frontier Ecosystem, Наделла заострил до предела. Он предупредил о риске, что «a small number of AI systems capturing all the economic returns», пока целые индустрии обнаружат своё знание «commoditized right out from underneath them» (the-decoder). И там же его вывод, который стоит повесить на стену: «You can offload a task, or even a job, but you can never offload your learning».

Вот в этом зазоре и живёт проблема. Интеллект дешевеет и становится общим. Знание конкретной компании — нет. Если вы внедряете ИИ так, что ваше знание уезжает в общую модель, вы своими руками отдаёте единственное, что дешеветь не должно было.

Парадокс обратной информации: парадокс Эрроу, развёрнутый в эпоху ИИ

В 1962 году экономист Кеннет Эрроу описал то, что теперь зовут «информационным парадоксом» (работа «Economic Welfare and the Allocation of Resources for Invention»). Формулировка: «its value for the purchaser is not known until he knows the information, but then he has in effect acquired it without cost» (Arrow information paradox). Иначе говоря: вы не можете продать информацию, не показав её; а показав — уже отдали её даром. Классическая ловушка любого, кто торгует знанием.

То, что происходит с ИИ, мы называем «парадоксом обратной информации», потому что старая ловушка разворачивается. У Эрроу вы теряли ценность информации в момент, когда её продавали. В эпоху общих моделей вы теряете её в момент, когда её скармливаете — не покупателю, а модели, которой пользуются все, включая ваших конкурентов. Раскрытие происходит не на сделке, а на инференсе. И заметьте: никто у вас ничего не «покупал». Вы заплатили за подписку и отдали ноу-хау сверху.

Это не про паранойю. Это про то, что дефолтный способ внедрять ИИ — «раздайте сотрудникам ChatGPT» — по устройству работает против вашего рва. Хорошая новость: у парадокса есть обходной путь, и он же описывает, как внедрять правильно. К нему вернёмся в конце.

Цена утечки: сколько core-IP уже утекает в чужие модели

Это не гипотетика — утечки идут прямо сейчас и измеримы. Cyberhaven, разобрав использование ChatGPT у 1,6 млн сотрудников, ещё в 2023-м зафиксировал: 11% всего, что люди вставляют в ChatGPT, — конфиденциальные данные, а число таких инцидентов за шесть недель выросло на 60% (Cyberhaven). В топе утекающего — исходный код и клиентские данные.

Самый известный кейс — Samsung. В 2023-м инженеры за 20 дней трижды слили в ChatGPT рабочее: исходный код, алгоритм детекции дефектов и транскрипт внутренней встречи. Итог — компания запретила ChatGPT сотрудникам и начала строить свой внутренний инструмент (Forbes).

К 2025-му это перестало быть серией курьёзов и стало фоном:

Цифры по shadow AI — из отчёта Reco «State of Shadow AI 2025». Читается это просто: сотрудники уже носят ваши данные в публичные модели, большинство компаний этого не видит, и утечка обходится в сотни тысяч долларов.

Важная деталь: в парадоксе обратной информации утечка не выглядит как утечка. Никто не взламывает периметр, не выносит базу на флешке. Сотрудник просто хочет быстрее закрыть задачу и вставляет в чат кусок кода или письмо клиента. С точки зрения безопасности не произошло ничего громкого. С точки зрения рва — вы отдали фрагмент того, за что вам платят.

Что становится настоящим рвом: обучающая петля, а не модель

Если модель — commodity, то ров — это то, что не уедет вместе со сменой провайдера. Экономист Кристиан Каталини в Forbes назвал это «тестом Наделлы»: вы должны уметь «swap out a generalist model without losing the "company veteran" expertise built into your learning system» (Forbes). Проще: выньте из продукта модель. Если ценность рухнула — модель делала вашу работу, а не усиливала вашу экспертизу.

Механику Наделла описывает так: реальная возможность — «building a learning loop on top of models where human capital and token capital compound». Обучающая петля — это когда каждый разобранный кейс, каждая правка эксперта, каждый пойманный дефект становятся сигналом, который остаётся у вас и делает следующий прогон точнее. Модель у всех одна. Петля — только у вас.

Разница видна на простом примере. Две юрфирмы подключают одну и ту же модель к разбору договоров. Первая гоняет документы через публичный чат и радуется скорости. Вторая держит модель в своём контуре, а правки юристов складывает в базу, на которой система становится точнее именно на её типе сделок. Через год у первой — тот же ChatGPT, что у всех. У второй — ассистент, который знает её практику лучше любого конкурента. Модель была одинаковой ровно один день.

Мы про это писали и раньше, разбирая исследование Anthropic про возврат к экспертизе: ИИ не отменяет доменного эксперта, он поднимает цену его накопленного знания. На наших проектах ров получается не там, где стоит модель поновее, а там, где клиент замкнул на себя данные и обратную связь. Тот же вывод мы вынесли из 100+ консультаций по AI: выигрывают не те, кто быстрее подключил ChatGPT, а те, кто выстроил контур, в котором накопление знания остаётся внутри.

Как защищать core-IP при внедрении ИИ: практический контур

Защита данных при внедрении ИИ сводится к одному принципу: пользуйтесь чужим интеллектом, но не отдавайте своё знание в общий котёл. На проектах мы разворачиваем его в пять шагов.

1. Классифицируйте данные до пилота. Разметьте, что относится к core-IP (исходники, клиентская база, ценообразование, методики), а что нет. Без этого «дайте всем ChatGPT» превращается в добровольную утечку.
2. Держите приватный контур. Чувствительное — через модели в вашем периметре: Azure OpenAI, self-host открытых моделей или ИИ-агент с RAG поверх ваших документов, без дообучения провайдера на них. Публичный ChatGPT — только для неконфиденциального.
3. Зашейте no-training в контракт. Убедитесь, что провайдер не учится на ваших данных, и закрепите это письменно, а не «галочкой в настройках по умолчанию».
4. Включите DLP и политику. Раз даже базовые правила против shadow AI есть не у всех, простая политика плюс мониторинг уже выводят вас из группы риска.
5. Стройте свою обучающую петлю. Фидбек экспертов, разметку и поправки замыкайте на себя. Это и есть ваш ров по Наделле.

Короткая шпаргалка, что можно и нельзя нести в чужую модель:

Ничего из этого не мешает скорости. Наоборот: команды с настроенным контуром внедряют смелее — им не страшно подключать ИИ к реальным процессам. Если хотите собрать такой контур под ваш бизнес, посмотрите наши услуги по внедрению AI или сразу обсудите ваш проект: подскажем, что можно отдавать в модель, а что должно остаться вашим.

Парадокс обратной информации не отменить, но его можно обойти. Наделла прав в главном: задачу делегировать можно, обучение — нет. Значит, и внедрять ИИ стоит так, чтобы обучение оставалось у вас.