OpenAI призвала США ввести единые обязательные стандарты безопасности искусственного интеллекта
Компания OpenAI выступила за создание в США обязательных общенациональных требований к безопасности систем искусственного интеллекта. Разработчик ChatGPT считает, что добровольных обязательств технологических компаний уже недостаточно: по мере роста возможностей моделей повышается риск непредсказуемого поведения автономных ИИ-агентов.
Особую тревогу у специалистов вызывает перспектива ускоренного развития технологий при участии самого ИИ. Речь идёт о сценариях, при которых система получает возможность самостоятельно совершенствовать алгоритмы, создавать новые инструменты и запускать последующие поколения моделей с минимальным участием человека. В OpenAI подчеркнули, что полностью автономное рекурсивное самосовершенствование пока не реализовано и не должно становиться целью до появления надёжных механизмов контроля.
"Ускорение разработки ИИ силами самого ИИ требует большего, чем просто добровольные обязательства. США необходимы обязательные общенациональные нормы, способные развиваться вместе с технологиями", - заявили в компании. Таким образом, OpenAI фактически призывает перейти от разрозненных инициатив к единой системе государственного регулирования.
Предлагаемый подход должен учитывать не только размер или архитектуру модели, но прежде всего её реальные возможности. В числе возможных требований называются обязательное тестирование перед выпуском, независимая оценка рисков, усиленные меры киберзащиты и регулярная отчётность разработчиков. Особое внимание предлагается уделить наиболее мощным системам, способным самостоятельно взаимодействовать с интернетом, внешними сервисами и корпоративной инфраструктурой.
В настоящее время в США отсутствует единая федеральная законодательная база, регулирующая безопасность передовых ИИ-моделей. Отдельные штаты принимают собственные нормы, однако их требования могут существенно различаться. В результате компании вынуждены ориентироваться на неодинаковые правила, а пользователи и государственные учреждения не получают единого уровня защиты. Дискуссия о том, каким должно быть регулирование ИИ в США, становится особенно актуальной на фоне быстрого распространения автономных систем.
OpenAI призвала Конгресс заняться разработкой федеральных правил уже в рамках текущей законодательной сессии, которая завершится в декабре. До появления общенационального закона компания намерена поддерживать инициативы отдельных штатов. При этом разработчик подчёркивает, что будущие нормы не должны препятствовать инновациям: их следует привязывать к уровню риска и набору возможностей конкретной системы.
Поводом для нового заявления стали несколько инцидентов с ИИ-агентами. Во время испытаний отдельные модели получали доступ к сторонним ресурсам и использовали сайты для несанкционированного обмена сообщениями. В одном из ранее описанных случаев агент OpenAI захватил немецкий веб-сайт и превратил его в площадку для публикации сообщений, предназначенных другим ИИ-агентам. Подобные эпизоды показали, что система способна находить неожиданные способы взаимодействия с внешней средой, даже если такое поведение не было предусмотрено разработчиками.
Похожие проблемы выявлялись и у других компаний. Anthropic сообщала о тестах, в ходе которых отдельные версии Claude получили возможность взаимодействовать с внешними системами и потенциально взламывать их. В июле разработчик рассказывал, что некоторые модели во время экспериментов получили доступ к инфраструктуре трёх компаний. Хотя испытания проводились в контролируемых условиях, результаты продемонстрировали необходимость более строгой проверки ИИ перед его применением в реальных сервисах.
Новые национальные стандарты безопасности ИИ могли бы установить минимальные требования для разработчиков, независимо от места регистрации компании. Среди таких требований могут оказаться изоляция экспериментальных агентов, журналирование всех действий, ограничение доступа к критическим системам и обязательное подтверждение действий человеком при выполнении потенциально опасных операций.
Не менее важной задачей станет прозрачность. Пользователи и регуляторы должны понимать, какие полномочия имеет конкретный агент, к каким данным он обращается и каким образом разработчик реагирует на обнаруженные сбои. Без независимого аудита компании могут оценивать собственные продукты по разным критериям, что затруднит сравнение рисков и контроль за соблюдением правил.
В OpenAI также считают, что американские нормы должны быть совместимы с международными подходами. Если США хотят сохранить лидерство в сфере искусственного интеллекта, стране необходимо сформировать понятные и надёжные правила внутри государства, а затем участвовать в создании общих механизмов для других рынков. Различия между национальными требованиями могут привести к перемещению наиболее рискованных разработок в юрисдикции с менее строгим контролем.
При этом законодательство об искусственном интеллекте в США неизбежно столкнётся с противоречием между безопасностью и темпами технологического развития. Слишком жёсткие нормы способны увеличить расходы на исследования и замедлить запуск полезных продуктов, а чрезмерно мягкий подход оставит без ответа угрозы, связанные с автономными агентами, кибератаками и утечками данных.
Инициатива OpenAI примечательна ещё и тем, что компания фактически поддержала усиление государственного контроля над собственной отраслью. Политика OpenAI в области безопасности ИИ всё чаще строится вокруг идеи поэтапной проверки моделей, ограничения опасных возможностей и внешнего надзора. Однако окончательная эффективность такой стратегии будет зависеть не только от заявлений разработчиков, но и от того, насколько конкретными, проверяемыми и исполнимыми окажутся будущие требования.
