Эндрю Ын: Регулирование технологии ИИ, между развитием и ограничениями

Дорогие друзья,

На этой неделе я выступаю на Всемирном экономическом форуме (ВЭФ) и форуме Азиатско-Тихоокеанского экономического сотрудничества (АТЭС) в Сан-Франциско, где лидеры бизнеса и правительства соберутся, чтобы обсудить искусственный интеллект и другие темы. Мое выступление на обоих мероприятиях простое: правительства не должны запрещать открытое программное обеспечение или принимать регулятивные акты, которые задушат его развитие.

Регулирование искусственного интеллекта сейчас является горячей темой в Соединенных Штатах, Европейском союзе и других странах. В этой неделе законопроект ЕС о ИИ был заблокирован, когда Франция и Германия внесли возражения - по моему мнению, с вескими причинами - против положений, которые обременяют компании, разрабатывающие базовые модели.

Как отмечали Ян Лекун и я, важно различать между регулированием технологии (такой как базовая модель, обученная командой инженеров) и применением (например, веб-сайт, использующий базовую модель для предоставления сервиса чата, или медицинское устройство, использующее базовую модель для взаимодействия с пациентами). Нам нужны хорошие правила для регулирования применения искусственного интеллекта, но неразумные предложения о регулировании технологии замедляют его развитие без необходимости. В то время как законопроект ЕС о ИИ тщательно рассматривает ряд применений искусственного интеллекта - такие, как сортировка заявок на работу или прогнозирование преступности - оценивает их риски и предписывает меры смягчения, он налагает тяжелые требования отчетности на компании, разрабатывающие базовые модели, включая организации, стремящиеся к выпуску открытого кода.

В предыдущей колонке я писал о том, что некоторые компании, которые предпочли бы не конкурировать с открытым программным обеспечением, а также некоторые некоммерческие организации и отдельные лица, преувеличивают риски искусственного интеллекта. Это создает основание для законодателей принимать регулятивные акты во имя безопасности, которые будут препятствовать открытому программному обеспечению. Позвольте мне описать, что я наблюдаю.

В США есть группа, беспокоящаяся о том, что противники нашего государства используют открытые технологии для военного или экономического преимущества. Эта группа готова замедлить доступ к открытому программному обеспечению, чтобы лишить противников такого доступа. Мне тоже не хотелось бы видеть, как открытое программное обеспечение используется для ведения несправедливых войн. Но цена замедления прогресса в области искусственного интеллекта слишком высока. ИИ - это универсальная технология, и ее полезные применения, подобно другим универсальным технологиям, таким как электричество, существенно превосходят негативные. Замедление его развития будет потерей для человечества.

Когда я разговариваю с высокопоставленными чиновниками правительства США, я ощущаю, что немногие считают возможность того, что искусственный интеллект приведет к исчезновению человечества, реальным риском. Эта тема обычно вызывает недоумение. Но они действительно беспокоятся о рисках искусственного интеллекта, таких как дезинформация. В сравнении с этим ЕС более обеспокоен - без необходимости, по моему мнению - риском исчезновения, а также беспокоится о других, более конкретных вредах.

Многие нации и корпорации начинают понимать, что они останутся позади, если регулирование будет душить открытые исходные коды. Ведь в США сосредоточено значительное количество специалистов и технологий по генеративному искусственному интеллекту. Если мы повысим барьеры для открытых исходных кодов и замедлим распространение программного обеспечения искусственного интеллекта, станет только сложнее для других наций догнать нас. Таким образом, хотя некоторые могут возразить, что США должны замедлить распространение искусственного интеллекта (что я не согласен), это определенно не будет в интересах большинства наций.

Я глубоко верю, что мир становится лучше с более развитым интеллектом, будь то человеческий интеллект или искусственный интеллект. Да, интеллект может использоваться для злонамеренных целей. Но по мере развития общества на протяжении веков, мы становимся умнее и жизнь человечества становится намного лучше.

Год назад я не думал, что так многие из нас будут тратить столько времени, пытаясь убедить правительства не запрещать или делать непрактичным открытое распространение передовых технологий искусственного интеллекта. Но я надеюсь, что мы все продолжим двигаться вперед в этой миссии и продолжим настаивать на том, чтобы эта замечательная технология была доступна всем.

Продолжайте учиться!
15.11.2023
Deepleaning