Модели дешевеют, риски растут. Разбор Stratechery: где утечки в AI-контуре и как LLM-шлюз возвращает компании контроль над данными.
Бен Томпсон в Stratechery разбирает китайские модели вроде Kimi K3 и заключает, что американским лабораториям они экзистенциально не угрожают.
Интеллект становится товаром, и поставщики конкурируют ценой. Настоящий риск
Томпсон видит в кибербезопасности, а санкционные ограничения США его усиливают.
Руководителю компании отсюда следует практический вывод:
решение в AI-проекте лежит вокруг модели, а выбор самой модели отходит на второй план.
По Томпсону, поставщики моделей идут к конкуренции по стоимости токена.
Когда несколько из них дают сопоставимое качество, выигрывает тот, у кого ниже цена за единицу результата.
Расходы на R&D перестают защищать лидера. Для заказчика это хорошая новость.
Модель можно менять, а привязка к одному вендору обходится дороже, чем кажется.
Мы в KT.Team строим интеграции сразу на нескольких провайдерах: Anthropic Claude, OpenAI, Google Gemini, Alibaba Qwen, Meta Llama, а для российского контура Sber GigaChat и YandexGPT.
Замена модели в таком проекте занимает правку конфигурации и укладывается в дни, квартал разработки на неё не нужен.
Томпсон указывает на киберриск. Я добавлю механику.
Чем дешевле и разнообразнее модели, тем в большее число частей бизнеса их подключают, и каждое подключение расширяет поверхность атаки.
Агент с доступом к CRM, к ERP на 1С или к каталогу товаров в Pimcore получает права, которые раньше были у сотрудника.
Ошибка или подмена на уровне модели превращается в действие в боевой системе. В соседней заметке
Томпсон описывает свой случай: его компьютер взломали через уязвимость macOS, которую нидерландский NCSC назвал высокосерьёзной и активно эксплуатируемой.
Атаки наблюдали на системах, где порт 5900 был доступен из интернета.
Томпсон прямо пишет, что виноват сам.
Сервис включили для удобства, он оказался виден снаружи, и атакующему этого хватило. Человек, который профессионально пишет о технологиях, попался на открытом порту. В корпоративной ИТ-среде с десятками интеграций открытых входов больше.
У языковой модели в корпоративном контуре три типичных канала утечки. - Промпт.
Сотрудник отправляет в чат договор, выгрузку клиентов или исходный код, и данные уходят к стороннему провайдеру. - Контекст. В RAG (поиск по внутренней базе знаний перед ответом модели) попадают документы, которых пользователь видеть не должен.
Модель перескажет любой документ, который ей дали в контексте. - Инструменты.
Через MCP (протокол, по которому модель вызывает внешние системы) агент получает доступ к действиям: создать заказ, выгрузить базу, отправить письмо.
Права на эти действия выдают так же строго, как сотруднику.
Единую точку контроля для всех трёх каналов называют LLM & Security Gateway.
Через неё проходит каждый запрос к любой модели.
Шлюз маскирует персональные данные, проверяет права на документы, логирует вызовы инструментов и ведёт учёт стоимости.
Провайдера за шлюзом можно менять, политика безопасности остаётся прежней.
Показательный пример даёт выход Fable 5.1.
Томпсон пишет, что непопулярную политику хранения данных у Fable на время полностью убрали.
Он же отмечает, что увеличенное кэширование выгодно обеим сторонам: провайдер экономит вычисления, клиент платит меньше.
Условия хранения данных вендор меняет одним релизом и может менять в любую сторону.
Если ваша защита держится на пункте в оферте провайдера, она зависит от чужого решения.
Шлюз на вашей стороне даёт защиту под вашим контролем.
Когда токен дешевеет, экономия на стоимости модели быстро заканчивается.
Следующая крупная статья расходов связана с инцидентом: утечка, остановка процесса, потеря доверия клиентов.
Эти расходы не падают вместе с ценой токена.
Поэтому я оцениваю AI-проект по двум показателям: время до первого результата в бизнес-метрике (TTU) и объём данных и прав, которые проект получил за это время.
Если первый показатель растёт, а второй никто не считает, проект выглядит быстрым до первого инцидента.
AI, который двигает метрику и одновременно открывает доступ к базе клиентов, приносит компании убыток.
Заведите единый реестр AI-подключений: какая модель, к каким данным, с какими правами. Подключения вне реестра считайте теневым AI.
Поставьте шлюз между приложениями и провайдерами до масштабирования, до первого инцидента.
Выдавайте агентам минимально необходимые права и проверяйте их на уровне MCP-слоя. Промпт для этого не годится: его можно обойти.
Проверьте внешнюю поверхность: открытые порты удалённого доступа, административные панели, тестовые стенды. История Томпсона с портом 5900 показывает, как мало нужно атакующему.
При санкционных ограничениях доступ к провайдеру может исчезнуть раньше, чем закончится проект.
Томпсон прав в главном: поставщики моделей конкурируют по цене, и покупателям это выгодно. Я добавлю, что выигрывают те, кто построил вокруг моделей контролируемый контур. Компания, которая делает модель центром стратегии, получает дешёвый интеллект и дорогие инциденты. Компания, которая выстраивает шлюз, права и наблюдаемость, меняет модели свободно. Результат такой интеграции выглядит простым, а получить его можно только тяжёлой инженерной работой с периметром.
