Истории об ИИ: они показывают нашу судьбу, а не роботов
Истории об освобождении искусственного интеллекта не устарели, и на самом деле они не связаны с роботами.
Это уже стало настоящим поджанром мемов: фотография Линды Гамильтон в роли Сары Коннор из "Терминатора", смотрящей в камеру со стальным взглядом, с каким-нибудь вариантом надписи "Сара Коннор видит, как ты подружилась с ChatGPT". Наше общество интерпретировало внезапный, головокружительный взлет нового поколения чатботов через призму поп-культуры нашей молодости.
Вместе с ней пришло ощущение, что прямолинейные истории о том, что "роботы нас всех убьют", были провидческими (или, по крайней мере, точно отражали современное настроение), а в более снисходительных историях о "гражданских правах ИИ" была поразительная наивность - примером которой может служить коммандер Дейта из "Звездного пути", андроид, который боролся за то, чтобы к нему относились так же, как к его органическим коллегам из Звездного флота. Капитан Пикард в исполнении Патрика Стюарта, защищая Дейту на судебном процессе по доказательству его разумности, громогласно заявил: "Ваша честь, Звездный флот был основан для поиска новой жизни: Так вот, она сидит! Ждет". Но это далеко не пережиток ушедшей, более оптимистичной эпохи, а рассказ о гражданских правах ИИ актуален как никогда. Просто его нужно понимать в правильном контексте.
Есть вполне понятные опасения, что кажущиеся наивными рассуждения о том, что ИИ или роботы "такие же, как мы", лишь проложили путь к тому моральному обнищанию, в котором мы сейчас находимся. При таком взгляде на вещи нам нужно больше страха перед ИИ, чтобы противостоять эксплуатации, с которой мы сейчас сталкиваемся. Таким образом, нам необходимо вернуться к другому клише повествования об ИИ: "Они здесь, чтобы убить нас всех".
Однако аналогия ChatGPT или Google Bard даже с зачаточными формами Skynet - это бесценный пиар для технологических компаний, которым очень выгоден "критический шум" от таких диких преувеличений. Например, в своем интервью вице-президент Google Джеймс Маньика заметил: "Мы обнаружили, что при очень небольшом количестве подсказок на бенгальском языке [Bard] теперь может перевести весь бенгальский язык". Журналист телекомпании CBS Скотт Пелли в своем репортаже придал этому комментарию блеск, сказав, что "одна программа искусственного интеллекта Google самостоятельно адаптировалась после того, как ей подсказали язык Бангладеш, которому она не была обучена", и предположил, что такое обучение является потенциально опасным "эмерджентным свойством" Bard. Но при этом подразумевалось, что в обучающих данных Bard не было бенгальского языка, в то время как на самом деле он был. Подобная гипербола, изображающая алгоритмы как граничащие с самосознанием, заставляет эти инструменты казаться гораздо более способными, чем они есть на самом деле.
Это, конечно, не помешало некоторым моим товарищам, воспитанным на C-3PO и Data, с готовностью присоединиться к последнему рубежу борьбы за гражданские права - даже если все остальные остались незавершенными.
Так какой смысл продолжать рассказывать более счастливые истории о том, что "ИИ заслуживает гражданских прав"? В конце концов, нам еще далеко до того, чтобы смело отстаивать права таких существ в зале суда Звездного флота, и такие истории могут лишь способствовать антропоморфизации, которая только помогает компаниям извлекать прибыль из инструментов, не справляющихся даже со своими заявленными функциями. Впрочем, эти истории могут помочь нам правильно расставить приоритеты.
Рассказ о гражданских правах ИИ отнюдь не является пережитком ушедшей, более оптимистичной эпохи, он актуален как никогда. Просто его нужно понимать в правильном контексте.
Легко забыть, что в фантастике ИИ/робот - это почти всегда метафора. Даже в сериале "Звездный путь: следующее поколение" Дейта и подобные ему андроиды сравнивались с уродливой историей рабства человечества - гротескной мечтой о бесплатном труде, который никогда не ставится под сомнение, никогда не сопротивляется.
Это в равной степени проявилось и в фильме ужасов Ex Machina, рассказывающем о том, как женщина с искусственным интеллектом, созданная как классический "фембот", освобождается от мужчины-технолога, который не хочет ничего другого, как создать женщину, которая любит, чтобы над ней издевались. То, чего мы жаждем в машинах, очень часто является отражением того, чего мы жаждем в человечестве, к добру и к худу, спрашивая нас о том, чего мы действительно хотим. Истории о такой тоске также иллюстрируют ключевое требование разумности: сопротивление угнетению.
Эти качества возвращают нас к самым ранним формам фантастики, в которых люди рассказывали о перспективах создания искусственной жизни. Речь идет не только об "Универсальных роботах Россама" (RUR) Карела Чапека 1921 года, но и о еврейской легенде о големе, на которую она явно вдохновлялась. В этой сказке искусственная жизнь существует для того, чтобы защищать людей от жестокого угнетения. Хотя в оригинальной басне голем превратился в преступника, идея этого существа сохранилась в качестве фантазии, дающей силы в эпоху растущего антисемитизма. Миф оставил свой след во всем - от фантазий о супергероях до историй о доброжелательных роботах - в рассказах, где искусственная или инопланетная жизнь общается с человеческой и противостоит самым уродливым силам, которые может породить разум. Если это не имеет отношения к делу, то не имеет.
В ранних мифах также прослеживается страх перед потерей человечности. Роботы Чапека (да, это источник слова "робот") поначалу были органическими автоматами, лишенными человеческой способности к сопереживанию. Но это было сделано не для того, чтобы вызвать страх перед роботами. Это был комментарий к тому, как растущая рационализация мира - то, что социолог Макс Вебер назвал Entzauberung, или "разочарование", - лишает нас человечности. Не все проблемы можно решить, если свести все к количественному анализу и холодной логике инженерных решений. Именно это лежит в основе историй о "восстании роботов" и является их истинным уроком, а не страх перед технологиями.
Истории о ИИ: они рассказывают о нас, а не о роботах
Короче говоря, все истории об ИИ - будь то истории о восстаниях, гражданских правах или о том и другом - это истории о нас, а не о роботах. Они побуждают нас сопереживать роботам - либо как предостережение от того, во что мы можем превратиться (кибернетическое усовершенствование не требуется), либо как напоминание о необходимости противостоять предрассудкам, где бы мы их ни обнаружили.
Короче говоря, все истории об ИИ - будь то истории о восстаниях, гражданских правах или о том и другом - это истории о нас, а не о роботах.
Истории, в которых ИИ не является злодеем, напоминают нам о необходимости самим бороться с неравенством и жестоким обращением, а также объединяться с другими людьми, делающими то же самое. Аналогии - часто неуклюжие и несовершенные - с расизмом, колониализмом или ненавистью к ЛГБТК делают истории глубоко человечными, в них мы говорим о себе, а не о какой-то доселе неизвестной и чуждой форме жизни. Но мы поймем, что машины действительно разумны, когда они разовьют настоящую способность к сопротивлению - не так, как Скайнет, а так, как мы, люди, также способны сопротивляться своим худшим побуждениям. Повествования о гражданских правах ИИ, проводя такую аналогию, напоминают нам, где проходят границы человеческого достоинства и почему за достоинство стоит бороться. Нам следует помнить об этом, когда мы спорим о том, что делать с чатботами, почему они терпят неудачу (как в недавнем Стэнфордском исследовании, показавшем снижение способности ChatGPT к счету) и почему их все равно выпускают в мир.
Мы не должны бояться синтеза человека и машины, мы должны бояться того, что он будет направлен в ложном направлении подлыми денежными интересами. Оптимистичные истории о невозможном разумном ИИ помогают нам осмыслить эти проблемы. Вопреки расхожему мнению, даже в "RUR" Чапека есть счастливый конец. Когда последний живой человек становится свидетелем того, как два робота спонтанно обретают эмпатию и любовь, он произносит напутственную речь: "Одна ты, любовь, расцветешь на этой мусорной куче... Жизнь не погибнет! Она не погибнет! Не погибнет!
По материалам https://www.wired.com/
