Кембриджский словарь называет слово "Галлюцинировать" словом года 2023
Новое определение слова "hallucinate" стало одним из многих об
новлений, связанных с искусственным интеллектом, в Cambridge Dictionary в 2023 году.
Я ожидаю, что наш словарь психологических терминов будет дополнен для охвата странных способностей новых интеллектов, которые мы создаем.
Генри Шевлин
В этом году наблюдается всплеск интереса к генеративным инструментам искусственного интеллекта (ИИ), таким как ChatGPT, Bard и Grok, с общественным вниманием, переключенным на ограничения ИИ и возможность их преодоления.
Инструменты искусственного интеллекта, особенно те, которые используют большие языковые модели (LLM), доказали свою способность генерировать правдоподобный текст, но они зачастую делают это, используя ложные, вводящие в заблуждение или выдуманные "факты". Они "галлюцинируют" уверенным и порой правдоподобным образом.
Cambridge Dictionary - самый популярный онлайн-словарь для изучающих английский язык - обновил свое определение слова "hallucinate", чтобы учесть новое значение, и назвал его Словом Года 2023.
Галлюцинации "ложной информации"
Традиционное определение слова "hallucinate" - "казаться, будто видишь, слышишь, чувствуешь или ощущаешь что-то, чего на самом деле нет, обычно из-за состояния здоровья или употребления наркотиков". Новое, дополнительное определение звучит так:
"Когда искусственный интеллект (= компьютерная система, обладающая некоторыми качествами, присущими человеческому мозгу, такими как способность производить язык, кажущийся человеческим), галлюцинирует, он производит ложную информацию".
Галлюцинации ИИ, также известные как конфабуляции, иногда могут показаться бессмысленными. Но они также могут казаться полностью правдоподобными - даже при фактической неточности или в конечном счете нелогичности.
Галлюцинации ИИ уже оказали реальное влияние на мир. Американская юридическая фирма использовала ChatGPT для юридических исследований, что привело к цитированию вымышленных дел в суде. В собственном промо-ролике Google для Bard, инструмента ИИ, была допущена фактическая ошибка относительно Космического телескопа Джеймса Уэбба.
Вендалин Николс, менеджер по изданию Cambridge Dictionary, сказала:
"Факт, что ИИ могут "галлюцинировать", напоминает нам, что людям все еще необходимо применять свои навыки критического мышления при использовании этих инструментов. ИИ отлично справляются с обработкой огромных объемов данных для извлечения конкретной информации и ее консолидации. Но чем более оригинальные запросы вы задаете им, тем вероятнее они сбиваются с пути.
"В своей лучшей форме большие языковые модели могут быть надежными только насколько надежны их обучающие данные. Человеческое мастерство, безусловно, важнее - и востребовано больше, чем когда-либо, чтобы создать авторитетную и актуальную информацию, на основе которой можно обучать LLM".
Глубокий сдвиг в восприятии
Новое определение иллюстрирует растущую тенденцию антропоморфизировать технологии искусственного интеллекта, используя человекоподобные метафоры, когда мы говорим, пишем и думаем о машинах.
Доктор Генри Шевлин, этик искусственного интеллекта в Кембриджском университете, сказал:
"Широкое использование термина 'галлюцинировать' для отсылки к ошибкам систем, таким как ChatGPT, представляет увлекательный моментальный снимок того, как мы мыслим о искусственном интеллекте и антропоморфизируем его. Неточная или вводящая в заблуждение информация существует с нами уже давно, конечно, будь то слухи, пропаганда или 'фейковые новости'.
"В то время как обычно считается, что это продукты человеческой деятельности, 'галлюцинировать' - это эвокативный глагол, подразумевающий субъекта, испытывающего отделение от реальности. Этот выбор языка отражает тонкий, но глубокий сдвиг в восприятии: искусственный интеллект, а не пользователь, 'галлюцинирует'. Хотя это не подразумевает широкого верования в осознанность искусственного интеллекта, это подчеркивает нашу готовность приписывать искусственному интеллекту человекоподобные свойства.
"По мере продвижения этого десятилетия я ожидаю, что наш словарь психологических терминов будет дополнен для охвата странных способностей новых искусственных интеллектов, которые мы создаем."
Обращение к галлюцинациям - если они вообще могут быть полностью исправлены - может определить будущий успех и принятие генеративного искусственного интеллекта.
Инженеры и ученые со всего мира, включая OpenAI, Google и Microsoft, работают над ограничением галлюцинаций искусственного интеллекта через "закрепление", с проверкой выводов LLM на основе надежных источников или поисковых запросов в Интернете. Некоторые работают над "обучением с подкреплением от обратной связи человека", используя людей, чтобы помочь бороться с галлюцинациями и выяснить, как их можно предсказать и устранить.
Что еще привлекло внимание в 2023 году?
Несколько других слов вызвали повышенный интерес и поиски на веб-сайте Cambridge Dictionary. Среди них:
Имплозия
- Движение внутрь с силой; 2) Ситуация, в которой что-то внезапно и полностью терпит неудачу.
Трагический случай имплозии подводной лодки "Titan" заставил многих искать определение.
Анюи
Чувство скуки и умственной усталости, вызванное отсутствием интересных или захватывающих дел.
Пресловутый французский грабитель Редуан Фаид винил "анюи" за свое побег из тюрьмы на вертолете: "Скука стала причиной побега... Моя зависимость от свободы погубила меня."
Слово "анюи" также было ответом в игре Wordle 5 июня 2023 года.
Грифтер
Человек, который получает деньги нечестным путем, обманывая людей.
Публичные деятели были спорно обвинены в "грифтерстве", включая принца Гарри и Меган Маркл (специалистом Spotify) и Найджела Фаража (банком Coutts).
GOAT (Величайший всех времен)
Сокращение от "Greatest Of All Time": используется для обозначения или описания человека, который выступил лучше всех остальных, особенно в спорте.
Чемпионат мира по футболу в Катаре вызвал новые дебаты о том, кто является GOAT в футболе: Лионель Месси, Криштиану Роналду или один из покойных великанов, таких как Пеле или Диего Марадона?
Новые слова, новые значения
Лексикографы Кембриджа добавили более 6 000 новых слов, фраз и значений в 2023 году в более чем 170 000 английских определений в Кембриджском словаре.
Помимо "галлюцинировать", несколько новых добавлений отражают быстрое развитие искусственного интеллекта и вычислительной техники, такие как:
Промпт-инжиниринг
В искусственном интеллекте процесс разработки подсказок, которые дадут наилучшие результаты.
Большая языковая модель
Сложное математическое представление языка, основанное на очень большом объеме данных и позволяющее компьютерам производить речь, которая кажется похожей на то, что мог бы сказать человек.
ГенИИ
Сокращение от "генеративный искусственный интеллект": использование или изучение искусственных интеллектов, способных создавать текст, изображения и т. д.
Тренировать
В машинном обучении создавать или улучшать компьютерное представление системы или процесса, предоставляя ему данные.
Черный ящик
Система, которая производит результаты, не позволяя пользователю видеть или понимать, как она работает.
Другие заметные добавления в Кембриджский словарь в 2023 году включают:
Теневой бан
Действие социальной медиа-компании, ограничивающее, кто может видеть публикации человека, обычно без его ведома.
Проверка вибрации
Действие выяснения, как чувствует себя кто-то или как вы чувствуете себя в его присутствии, или какое настроение в определенном месте или ситуации.
Водно-нейтральный
(О здании, бизнесе и т. д.) не использующий больше воды, чем использовалось в данной области до его строительства или создания, или не удаляющий больше воды, чем замещает.
Понять, что кто-то говорит (в США)
понять, что кто-то имеет в виду своими словами, музыкой и т. д.
Африлачиан
Афроамериканец, который родом из региона Аппалачи в восточной части Соединенных Штатов или живет там.
Боязнь дальности
Страх, что электромобиль не будет иметь достаточно заряда аккумулятора, чтобы довезти вас туда, куда вы хотите поехать.
ГБД
Сокращение от "гарантированный базовый доход": сумма денег, которая регулярно выдается всем или каждому взрослому в обществе правительством или другой организацией и одинакова для всех.
Новые появляющиеся слова, которые рассматриваются для включения, публикуются каждый понедельник в блоге Кембриджского словаря, About Words.
