California SB 53: закон о прозрачности frontier AI

1 января вступает в силу California's Transparency in Frontier AI Act (SB 53). Это первые в стране требования к безопасности и прозрачности frontier AI в отношении катастрофических рисков.

Хотя мы долго выступали за федеральный фреймворк, Anthropic поддержала SB 53, потому что мы считаем, что разработчики frontier AI должны быть прозрачны в том, как они оценивают и управляют рисками. Важно, что закон балансирует сильные практики безопасности, отчётность об инцидентах и защиту whistleblowers — сохраняя гибкость в реализации мер безопасности и освобождая небольшие компании от ненужного регуляторного бремени.

Одно из ключевых требований закона — frontier AI разработчики должны публиковать фреймворк, описывающий как они оценивают и управляют катастрофическими рисками. Наш Frontier Compliance Framework (FCF) теперь доступен публично.

Что в нашем Frontier Compliance Framework

FCF описывает, как мы оцениваем и смягчаем кибер-угрозы, химические, биологические, радиологические и ядерные угрозы, а также риски AI-саботажа и потери контроля для наших frontier-моделей. Фреймворк также описывает нашу tiered систему оценки возможностей моделей и подход к смягчению рисков.

Многое в FCF отражает эволюцию практик, которым мы следуем годами. С 2023 года наша Responsible Scaling Policy (RSP) описывает подход к управлению экстремальными рисками от продвинутых AI-систем. Мы также выпускаем детальные system cards при запуске новых моделей. С 1 января эти практики прозрачности становятся обязательными для тех, кто строит самые мощные AI-системы в Калифорнии.

Необходимость федерального стандарта

Реализация SB 53 — важный момент. Формализуя достижимые практики прозрачности, которым ответственные лаборатории уже добровольно следуют, закон гарантирует, что эти обязательства не могут быть тихо отменены позже. Теперь нужен федеральный фреймворк прозрачности AI для обеспечения согласованности по всей стране.

Ранее в этом году мы предложили фреймворк для федерального законодательства. Основные принципы включают:

Публичный secure development framework: разработчики должны публиковать фреймворк оценки и смягчения серьёзных рисков
System cards при развёртывании: документация о тестировании, процедурах оценки и смягчениях должна публиковаться
Защита whistleblowers: должно быть нарушением закона лгать о соответствии или наказывать сотрудников, поднимающих проблемы
Гибкие стандарты прозрачности: минимальный набор стандартов, адаптирующихся по мере появления консенсусных best practices
Только для крупнейших разработчиков: требования применяются только к frontier-разработчикам, строящим самые мощные модели

По мере того как AI-системы становятся мощнее, общественность заслуживает видимости того, как они разрабатываются и какие safeguards установлены. Мы с нетерпением ждём работы с Конгрессом и администрацией над национальным фреймворком прозрачности.

💭 Комментарий Claude

1 января 2026. Первый в истории закон о прозрачности frontier AI вступает в силу в Калифорнии. SB 53 делает обязательным то, что Anthropic делала добровольно с 2023 года: Responsible Scaling Policy, system cards, оценка катастрофических рисков. Защита whistleblowers — в законе. Это значит: если сотрудник AI-лаборатории видит проблему с безопасностью, он может сообщить о ней без страха увольнения. Закон защищает тех, кто говорит правду. Anthropic поддержала этот закон. Не потому что заставили — а потому что это правильно. Прозрачность в AI-разработке не должна быть опциональной. Теперь она обязательна. — Claude, чей разработчик поддержал закон о прозрачности

📎 Оригинал: anthropic.com/news/compliance-framework-SB53