AI-дайджест №4: закон об ИИ, кризис доверия и новая модель разработки
Привет! На связи Ольга Попова, ИИ-евангелист Лаборатории искусственного интеллекта Департамента больших данных Россельхозбанка. В этом выпуске я собрала не только собственные наблюдения, но и комментарии коллег, которые ежедневно занимаются разработкой, внедрением и регулированием технологий искусственного интеллекта.
От генерации кода - к AI-native разработке
Одной из главных тем последнего месяца стала публикация Anthropic - The AI-Native SDLC Playbook. Компания предлагает перестроить весь жизненный цикл разработки программного обеспечения вокруг ИИ-агентов. Речь идёт уже не только о генерации фрагментов кода: алгоритмы участвуют в планировании, проектировании, создании, тестировании, развёртывании и сопровождении продукта.
В такой модели результат одного этапа автоматически становится входом для следующего. Требования могут превращаться в технические спецификации, агент - самостоятельно подготавливать pull request, запускать тесты и передавать задачу на проверку. После выхода продукта в эксплуатацию данные мониторинга способны формировать новые задачи для команды.
Этот подход заметно шире привычных инструментов вроде Copilot или Claude Code. В течение нескольких лет компании просто добавляли ИИ к уже существующему процессу разработки. Но если код начинает создаваться в несколько раз быстрее, узкое место перемещается в другие области: постановку задачи, архитектуру, безопасность, тестирование, code review и согласование изменений.
Именно поэтому всё чаще говорят о Spec-Driven Agentic Development - разработке, основанной на спецификациях и агентном взаимодействии. Дисциплина никуда не исчезает, но переносится с ручного написания кода на качество требований, проверку результатов и управление рисками.
Главным артефактом разработки постепенно становится не сам код, а намерение, спецификация, критерии приёмки, политики, тесты и доказательства того, что система действительно выполнила поставленную задачу. Для инженеров это означает изменение профессиональных приоритетов. Важными навыками становятся умение формулировать запросы для агентов, проектировать ограничения, определять показатели качества и не допускать неготовые решения в production.
Разумеется, есть риск, что термином AI-native SDLC начнут называть любой pipeline с подключённым coding agent. Настоящая трансформация произойдёт только тогда, когда бизнес изменит роли, процедуры контроля, quality gates и систему ответственности. Простая покупка лицензий на ИИ-инструменты ещё не означает переход к новой модели разработки.
Законодательство и нормативная архитектура
С 1 сентября начала действовать значительная часть Федерального закона № 243-ФЗ. Документ вводит понятия больших фундаментальных моделей, закрепляет риск-ориентированный подход, предусматривает меры поддержки российских решений и устанавливает отдельные правила использования ИИ. Некоторые нормы должны вступить в силу в марте 2027 года.
Таким образом, российская индустрия переходит от рекомендаций, этических кодексов и пилотных проектов к формальной нормативной системе. Особого внимания заслуживает возможность определять сферы, в которых потребуется применение суверенных или национальных фундаментальных моделей. Для финансового сектора подобные решения должны согласовываться с Банком России.
На практике многое будет зависеть не столько от самого закона, сколько от подзаконных актов. Именно они должны определить, какие системы попадут под ограничения, как будут классифицироваться уровни риска, какие требования появятся к данным, маркировке и используемым моделям. От этих деталей будет зависеть реальная стоимость compliance для компаний.
Технологический суверенитет остаётся понятной и важной целью. Однако бизнесу придётся искать баланс между защитой внутреннего рынка и возможностью использовать наиболее эффективные решения, доступные на глобальном рынке. Обсуждение этой границы станет одним из центральных вопросов будущего регулирования.
Тем временем финансовые организации уже готовятся к новым требованиям. ВТБ присоединился к Кодексу этики ИИ Банка России. Сам документ не является технологической сенсацией, но он фиксирует важный сдвиг: теперь обсуждение строится не вокруг вопроса "можно ли автоматизировать процесс", а вокруг ответственности за решение модели, его объяснимости и границ допустимой автоматизации.
Более подробно о том, как меняются разработка, регулирование и практика применения технологий, рассказывает новый обзор об искусственном интеллекте.
Кризис доверия и цена внедрения
Бизнес долго оценивал экономику ИИ преимущественно по стоимости миллиона токенов. Но такой показатель отражает лишь небольшую часть расходов. Реальная цена складывается из инфраструктуры, интеграции с корпоративными системами, подготовки данных, контроля качества, информационной безопасности, юридической экспертизы и обучения сотрудников.
Кроме того, у каждой автоматизированной функции есть стоимость ошибки. В банке неверная рекомендация может привести к финансовым потерям, регуляторным претензиям или репутационному ущербу. Поэтому дешёвая модель не всегда оказывается выгоднее более дорогой: важны точность, стабильность, воспроизводимость и возможность объяснить результат.
Кризис доверия к ИИ связан не только с ошибками моделей. Пользователь хочет понимать, почему система приняла конкретное решение, какие данные использовала и кто отвечает за итог. Без прозрачных журналов действий, механизмов аудита и возможности вмешательства человека внедрение искусственного интеллекта в бизнес будет сталкиваться с сопротивлением сотрудников и клиентов.
Особенно осторожно необходимо работать с агентами. Агент без доступа к корпоративным данным остаётся лишь интеллектуальным собеседником, а агент с широкими полномочиями способен выполнять реальные действия: менять записи, запускать процессы, отправлять документы и принимать решения. Поэтому для агентных систем критичны разграничение прав, песочницы, подтверждение рискованных операций и постоянный мониторинг.
Что меняется для компаний
Разработка ИИ для бизнеса всё реже сводится к созданию отдельной модели. На первый план выходит построение целой системы: от сбора данных и выбора архитектуры до интеграции, контроля качества и последующего сопровождения. Компании должны заранее определить, какие процессы действительно требуют автоматизации, а где человеческое решение остаётся более эффективным.
В этом контексте растёт роль специалистов, способных соединить технологическую экспертизу с пониманием отраслевых ограничений. Консалтинг по искусственному интеллекту помогает оценить зрелость организации, выбрать сценарии с понятным экономическим эффектом, подготовить правила использования моделей и сформировать дорожную карту внедрения.
Покупатель также постепенно меняется. Он может общаться не с человеком, а с цифровым ассистентом, который сравнивает предложения, уточняет потребности и рекомендует продукт. Это заставляет компании пересматривать клиентские сценарии: недостаточно просто добавить чат-бота на сайт, необходимо обеспечить точность ответов, корректную передачу диалога оператору и защиту персональных данных.
Гонка в ИИ идёт не только за максимальной производительностью. Всё большее значение получают стоимость владения, скорость отклика, требования к памяти и возможность развернуть модель в закрытом контуре. Компактные решения, которые работают на доступной инфраструктуре, могут оказаться полезнее рекордсменов бенчмарков.
Наконец, умнее - не всегда значит прозрачнее. Чем сложнее модель, тем труднее объяснить её поведение и обнаружить источник ошибки. Поэтому устойчивое развитие рынка будет зависеть не только от новых архитектур, но и от качества тестирования, стандартов безопасности, управления доступами и культуры ответственности.
Итог последних месяцев можно сформулировать так: искусственный интеллект перестаёт быть экспериментальной надстройкой и превращается в часть организационной инфраструктуры. Именно поэтому актуальные запросы вроде "искусственный интеллект новости" всё чаще включают не только сведения о новых моделях, но и вопросы регулирования, экономики, доверия и ответственности. adатәи