OpenAI, Anthropic и более сотни компаний предупредили о росте ИИ-кибератак в ближайшие месяцы
Крупнейшие игроки технологической отрасли призвали государства и бизнес ускорить подготовку к новой волне киберугроз. OpenAI, Anthropic, Microsoft, Alphabet и Amazon заявили, что искусственный интеллект уже меняет методы работы злоумышленников, а в ближайшие месяцы атаки с использованием ИИ могут стать значительно массовее и сложнее.
Под совместным обращением подписались более ста компаний. Среди них - Broadcom, Capital One, Cloudflare, CrowdStrike, General Motors, IBM, Mastercard, Oracle, Robinhood, Shopify и Visa. Авторы документа считают, что у организаций ещё есть возможность укрепить цифровую инфраструктуру, однако времени для постепенной подготовки остаётся всё меньше.
В заявлении говорится, что по мере развития ИИ-моделей преступники получат доступ к более эффективным инструментам для поиска уязвимостей, подготовки вредоносных кампаний и обхода защитных механизмов. Такие системы способны автоматизировать значительную часть операций, которые раньше требовали участия квалифицированных специалистов.
Почему ИИ делает атаки опаснее
Искусственный интеллект может ускорить практически каждый этап кибератаки. Он способен анализировать большие массивы данных, искать слабые места в программном обеспечении, составлять убедительные фишинговые письма и адаптировать текст под конкретного адресата. В результате мошенническое сообщение становится менее шаблонным и чаще воспринимается как настоящее.
Отдельную угрозу представляет автоматизация разведки. Злоумышленнику больше не нужно вручную изучать сайты компаний, социальные сети сотрудников и открытые документы. ИИ способен быстро собрать сведения об организации, определить ключевых сотрудников, выделить используемые технологии и подготовить сценарий атаки.
Языковые модели также упрощают создание многоступенчатых мошеннических кампаний. Они могут поддерживать длительный диалог с жертвой, отвечать на вопросы, исправлять ошибки в переписке и менять тактику в зависимости от реакции собеседника. Это повышает эффективность атак, основанных на социальной инженерии.
Угроза уже вышла за рамки теории
Предупреждения технологических компаний связаны не только с прогнозами. Эксперты уже фиксируют случаи применения больших языковых моделей при подготовке атак на организации в разных странах. ИИ используется для написания вредоносного кода, поиска информации о потенциальных целях и создания правдоподобных сообщений от имени коллег, банков или государственных структур.
В июне разведывательный альянс "Пять глаз", в который входят США, Великобритания, Канада, Австралия и Новая Зеландия, также заявил о серьёзных последствиях развития ИИ для информационной безопасности. По оценке представителей альянса, новая технология способна фундаментально изменить баланс сил между защитниками и нападающими.
Раньше преступной группе требовались время, деньги и специалисты для проведения масштабной операции. Теперь часть этих задач можно делегировать автоматизированным инструментам. Это снижает порог входа и позволяет небольшим группам атаковать больше целей одновременно.
Чего компании требуют от государства
Одно из предложений авторов письма - ускорить создание программ доверенного доступа к наиболее мощным ИИ-моделям. Речь идёт о механизмах, при которых проверенные организации и специалисты по безопасности смогут получать доступ к новым системам до их широкого распространения.
Такой подход должен помочь исследователям заранее выявлять уязвимости, моделировать сценарии злоупотреблений и разрабатывать средства защиты. При этом компании подчёркивают, что доступ необходимо предоставлять ответственным участникам, способным соблюдать требования безопасности и контролировать использование технологии.
Второй важный призыв адресован руководителям организаций. Киберзащита, по мнению авторов документа, должна стать приоритетом на уровне высшего менеджмента, а не оставаться исключительно технической задачей ИТ-отдела.
Какие меры следует принять бизнесу
Компании могут начать подготовку с базовых шагов. Прежде всего необходимо пересмотреть правила доступа к внутренним системам, внедрить многофакторную аутентификацию и регулярно отключать неиспользуемые учётные записи. Особенно важно контролировать привилегированные аккаунты администраторов и сотрудников, имеющих доступ к критически важным данным.
Следует также обновить процедуры резервного копирования. Резервные копии должны храниться отдельно от основной инфраструктуры, регулярно проверяться и быть защищены от удаления злоумышленниками. Одного факта наличия копий недостаточно: организация должна заранее знать, сколько времени потребуется для восстановления сервисов.
Большое значение имеет обучение персонала. Сотрудники должны понимать, что качественно составленное письмо, голосовое сообщение или видеозвонок больше не подтверждают личность отправителя. Любой неожиданный запрос на перевод денег, передачу пароля или открытие файла необходимо проверять по независимому каналу связи.
Как изменится работа специалистов по безопасности
Рост числа ИИ-атак приведёт к более широкому применению автоматических средств обнаружения угроз. Системы защиты будут анализировать не только сигнатуры вредоносных программ, но и поведение пользователей, необычные последовательности действий, скорость перемещения по сети и отклонения от обычных рабочих сценариев.
Однако полностью полагаться на алгоритмы нельзя. Защитные системы могут ошибаться, пропускать сложные атаки или блокировать легитимные операции. Поэтому компаниям потребуется сочетать автоматический анализ с экспертной проверкой и заранее подготовленными планами реагирования.
Особое внимание придётся уделить контролю корпоративных ИИ-сервисов. Сотрудники всё чаще используют модели для обработки документов, написания кода и анализа данных. Если такие системы подключены к внутренним базам, необходимо определить, какие сведения разрешено передавать модели и где они хранятся.
Главная проблема - скорость развития
Защитные технологии традиционно развиваются вслед за угрозами, однако ИИ способен сократить этот разрыв. Новые модели совершенствуются быстро, а найденные преступниками методы могут практически мгновенно масштабироваться на тысячи организаций.
Именно поэтому компании призывают не ждать первых масштабных инцидентов. Подготовка должна включать аудит инфраструктуры, проверку устойчивости к фишинговым атакам, тестирование резервного восстановления и регулярное обновление внутренних регламентов.
В ближайшие месяцы искусственный интеллект, вероятно, станет не только инструментом атакующих, но и важнейшим средством защиты. Победит не та сторона, которая просто использует более мощную модель, а та, которая лучше организует контроль доступа, проверку данных, наблюдение за инфраструктурой и реакцию на инциденты.
Предупреждение OpenAI, Anthropic и других компаний фактически означает переход к новому этапу кибербезопасности. ИИ-атаки перестают быть редким экспериментом и превращаются в постоянный фактор риска. Для бизнеса это означает необходимость действовать заранее: усиливать защиту, обучать сотрудников и рассматривать цифровую безопасность как одну из ключевых задач руководства.
