Использование генеративного ИИ для воскрешения мертвых станет бременем для живых

Технологии искусственного интеллекта обещают больше чат-ботов и копий ушедших людей. Однако придание голоса мертвым сопряжено с человеческими жертвами.

При наличии достаточного количества данных может возникнуть ощущение, что можно сохранить жизнь умерших близких. С помощью ChatGPT и других мощных больших языковых моделей можно создать весьма убедительный чатбот умершего человека. Но при этом, особенно в условиях дефицита ресурсов игнорируется огромный труд, который затрачивается на поддержание жизни умерших в Интернете. Кто-то всегда должен выполнять тяжелую работу по обслуживанию автоматизированных систем, как показывают перегруженные работой аннотаторы и модераторы контента, создающие генеративный ИИ, и это справедливо и в отношении копий умерших. От управления цифровым имуществом после сбора паролей и информации об учетных записях до навигации по медленно разрушающемуся унаследованному "умному дому" - все это требует значительного ухода.  Сохранение жизни цифровых реликвий в будущих поколениях зависит от труда специалистов по уходу и целой сети человеческих и нечеловеческих структур, от конкретных операционных систем и устройств до серверных ферм. Обновление форматов и обеспечение возможностей

поиска, использования и доступа к электронным записям требует труда, энергии и времени. Это проблема не только для архивистов и учреждений, но и для частных лиц, желающих сохранить цифровое имущество своих умерших родственников.‌‌ И даже несмотря на все эти усилия, устройства, форматы и сайты тоже умирают, как и мы, слабые люди. Несмотря на фантазии об автоматизированном доме, который может работать вечно, или о сайте, который может существовать веками, запланированное устаревание означает, что эти системы обязательно придут в негодность. Как могут подтвердить люди, занимающиеся сохранением цифровых данных, существует огромная разница между тем, чего, по их мнению, они хотят или ожидают от других, и реальным положением дел, когда речь идет о том, чтобы помочь технологии сохраниться в течение долгого времени. Смертность как людей, так и технологий означает, что эти системы рано или поздно перестанут работать.‌‌Первые попытки создать копии умерших людей с помощью искусственного интеллекта, безусловно, подтверждают это. Компания Intellitar Virtual Eternity, расположенная в Скоттсдейле (штат Аризона), начала свою работу в 2008 году и использовала изображения и речевые шаблоны для имитации личности человека, чтобы, возможно, заменить кого-то на деловой встрече или пообщаться с убитыми горем близкими после его смерти. В статье для CNET один из рецензентов назвал Intellitar продуктом, "способным заставить детей плакать". Однако вскоре после банкротства компании в 2012 году ее веб-сайт исчез. LifeNaut - проект, поддерживаемый трансгуманистической организацией Terasem, которая также известна созданием BINA48 - роботизированной версии Бины Аспен, жены основателя Terasem, - якобы объединит генетическую и биометрическую информацию с потоками персональных данных, чтобы полностью имитировать человека, как только это позволят технологии. Однако на самом сайте проекта используется устаревшее программное обеспечение Flash, что говорит о том, что до реального цифрового бессмертия еще далеко, и оно будет требовать обновления.‌‌ Есть предположение, что с помощью генеративного ИИ мы сможем создавать еще более убедительные копии людей, в том числе и умерших. Но для этого требуются огромные ресурсы, включая сырье, воду и энергию, что говорит о глупости сохранения мертвых чатботов. Это также требует астрономических финансовых затрат: предположительно, на содержание ChatGPT уходит 700 тыс. долл. в день. Это нежизнеспособная модель бессмертия.‌‌ Возникает также вопрос, кто должен иметь право создавать такие копии: близкий родственник, работодатель, компания? Не каждый захочет перевоплотиться в чатбота. В статье, опубликованной в 2021 году в газете San Francisco Chronicle, журналист Джейсон Фэгон рассказывает о человеке по имени Джошуа Барбо, который создал версию чатбота своей давно умершей невесты Джессики, используя GPT-3 OpenAI. Для него это был способ справиться со смертью и горем, а также сохранить близкие романтические отношения с человеком, которого уже нет в живых. Другие близкие Джессики не хотели видеть ее такой; члены семьи предпочли не взаимодействовать с чатботом.

Однако, в конечном счете, именно разработчики и компании, а не близкие люди, контролируют продолжительность жизни чат-ботов. Для создания запланированной смерти в системе Джессики Бот использовалась экспериментальная программа. Чтобы сэкономить на эксплуатационных расходах, разработчик намеренно создал ее так, чтобы она постепенно умирала. Барбо должен был разумно провести время с Джессикой и прекратить взаимодействие с чатботом до того, как его батарея разрядится слишком сильно, чтобы ему не пришлось напрямую столкнуться с другой формой смерти.

В некоторых случаях разработчикам может показаться, что чат-боты могут существовать бесконечно долго, помогая мертвым полностью заменить живых работников. Например, забастовка SAG-AFTRA поднимает вопрос о правах личности умерших, поскольку генеративный ИИ потенциально может быть использован для оживления умерших актеров. Подобные вопросы уже возникали в связи с различными дип-фейс версиями умерших знаменитостей, включая спорное использование дип-фейс голоса Энтони Бурдейна в документальном фильме о его жизни и, в более обыденном, низкотехнологичном случае, запись лекций профессора, позволившая ему продолжить работу в университете после смерти. Однако такие воссоздания не только могут нанести вред живым работникам, но и расстроить оставшихся в живых близких умершего человека и вызвать у них новую бюрократическую головную боль при попытке получить контроль над копиями умерших членов семьи. ИИ-версии людей могут быть созданы без ведома и согласия живых родственников.

Оживление умерших с помощью ИИ позволяет выявить властные отношения, инфраструктуру и сетевой труд, лежащие в основе всех форм цифрового производства. Мы можем создавать реалистичные копии умерших, но поддержание этих копий зависит от труда живых: как и в случае с цифровым наследием в целом, кто-то должен платить за доменные имена, удалять спам, отвечать на письма, приходящие на мертвые аккаунты, обновлять форматы файлов или переносить файлы с одного жесткого диска на другой по мере исчезновения сайтов и компаний. Для тех, кто вынужден бесконечно заботиться об этих творениях, психологические издержки могут оказаться непосильными.

По материалам https://www.wired.com/