ООН призывает запретить роботов-убийц: что делать бизнесу с ИИ в 2026

Андрей Отинов -

Что произошло на международной арене

В Женеве министр иностранных дел ООН, Антонио Гутерриш, выступил с заявлением, в котором он заявил, что человечество подвергается «эксперименту» без согласия. Он отметил, что технологии искусственного интеллекта разрушают понятие истины, а автономные боевые системы, которые могут принимать решения о применении огня без участия человека, необходимо запретить международным правом. На его выступлении присутствовало 193 страны.

Источник: perplexity.ai

Почему это важно для бизнеса

Если ваша компания разрабатывает или использует системы, которые могут принимать решения без контроля человека, это может стать предметом внимания регуляторов. Даже если вы работаете с генеративными моделями, которые создают тексты, изображения или видео, они тоже могут попасть под новые правила, если они способны влиять на общественное мнение или безопасность.

Какие риски и возможности возникают

  • Регуляторный риск – возможен ввод новых ограничений на экспорт и использование автономных систем. Это может повлиять на сроки поставок и стоимость лицензий.
  • Репутационный риск – компании, которые участвуют в разработке автономного оружия, могут столкнуться с общественным осуждением и потерей доверия со стороны клиентов.
  • Возможность для лидеров – если вы сможете продемонстрировать прозрачность и этичность своих решений, вы можете стать примером для отрасли и получить поддержку со стороны регуляторов.

Что может пойти не так

  1. Неполное понимание требований – многие компании считают, что «запрет» касается только военных систем, но правила могут распространяться и на гражданские приложения.
  2. Сложности с соблюдением – даже если правила будут ясны, их внедрение может потребовать значительных ресурсов: пересмотр архитектуры, обучение персонала, новые процессы контроля.
  3. Изменения в законодательстве – международные договоры могут быть подписаны в течение нескольких лет, но их принятие в национальных судах может занять десятки месяцев.

Что проверить сейчас

Шаг Что проверить Как проверить Кому это важно
1 Наличие автономных решений Просмотрите список продуктов, которые могут принимать решения без участия человека Руководитель продукта
2 Сфера применения Определите, относится ли продукт к военной, гражданской или смежной области Юрист, Compliance
3 Текущие регуляции Изучите действующие международные и национальные законы о автономном оружии и ИИ Юрист, Compliance
4 План действий Составьте план по снижению рисков: ограничение функций, добавление ручного контроля Руководитель проекта
5 Коммуникация Подготовьте внутреннюю и внешнюю коммуникацию о мерах по соблюдению этики PR, HR
6 Мониторинг Установите систему мониторинга изменений в законодательстве Compliance

Краткая чек‑лист для менеджера
- [ ] Есть ли у продукта автономные функции?
- [ ] В какой отрасли он используется?
- [ ] Какие международные договоры могут применяться?
- [ ] Какие шаги уже предприняты для соблюдения этики?
- [ ] Как быстро можно внедрить дополнительные проверки?

Как действовать дальше

  1. Проведите аудит – оцените, какие части вашего продукта могут подпадать под новые правила.
  2. Сформируйте команду – включите юристов, инженеров и специалистов по этике.
  3. Разработайте план соответствия – определите, какие изменения нужны, чтобы избежать штрафов и репутационных потерь.
  4. Обратитесь к экспертам – если у вас нет внутреннего опыта, найдите внешних консультантов, которые специализируются на международных стандартах ИИ.
  5. Публикуйте отчёты – демонстрируйте прозрачность и готовность к сотрудничеству с регуляторами.

Источники

Дополнительный контекст: почему это касается каждого

Заявление Гутерриша — не просто политическая декларация. Оно отражает растущую обеспокоенность международного сообщества тем, что технологии ИИ развиваются быстрее, чем правовые и этические нормы. Автономные системы, способные принимать решения без участия человека, уже используются в дронах, системах наблюдения и даже в алгоритмах кредитного скоринга. Если международный запрет будет принят, он может затронуть не только военные, но и гражданские технологии, включая системы управления транспортом, медицинские диагностические алгоритмы и платформы для модерации контента.

Практический пример: как подготовиться к изменениям

Представьте, что ваша компания разрабатывает систему автоматического распознавания лиц для безопасности аэропортов. Даже если она не используется в военных целях, новые правила могут потребовать внедрения механизма ручного подтверждения каждого решения. Это означает, что вам нужно будет пересмотреть архитектуру продукта, добавить интерфейс для оператора и обучить персонал. Чем раньше вы начнёте этот процесс, тем меньше будет затрат и рисков.

Рекомендации для дальнейшего изучения

  • Изучите отчёты ООН по автономным системам и ИИ (например, доклады Специального докладчика по внесудебным казням).
  • Подпишитесь на обновления от Международного комитета по контролю над роботизированным оружием.
  • Проведите внутренний семинар с участием юристов и инженеров для обсуждения потенциальных сценариев регулирования.

Заключение

Призыв ООН к запрету «роботов-убийц» — это сигнал для всего бизнеса, связанного с ИИ. Независимо от того, работаете ли вы в оборонной сфере или создаёте гражданские приложения, новые правила могут изменить правила игры. Начните подготовку уже сегодня: проведите аудит, сформируйте команду и разработайте план соответствия. Это не только снизит риски, но и укрепит вашу репутацию как ответственного игрока на рынке.

Дополнительные материалы для углублённого понимания

Чтобы лучше разобраться в теме, рекомендуем ознакомиться с аналитическими отчётами ведущих исследовательских центров, таких как Центр по изучению рисков ИИ (Centre for the Study of Existential Risk) и Институт будущего жизни (Future of Life Institute). Эти организации публикуют регулярные обзоры международных инициатив по регулированию автономных систем. Также полезно следить за новостями на платформе AI Now Institute, которая специализируется на социальных последствиях внедрения ИИ. Для практикующих юристов и compliance-специалистов будет ценно изучить проекты резолюций ООН, доступные в открытом доступе на официальном сайте организации. Наконец, подписка на профильные Telegram-каналы и рассылки, такие как «AI Regulation Watch» или «Tech Policy Press», поможет оперативно получать обновления о законодательных изменениях.

Что почитать дальше