Исследователи Microsoft опубликовали статью: если ChatGPT обладает сознанием, то и козы в Age of Empires 2 тоже.

Ведущий научный сотрудник Microsoft Адриан де Винтер в научной статье под названием «Если бы большие языковые модели обладали человеческими чертами, то и Age of Empires 2 тоже» использовал редактор карт игры Age of Empires 2, чтобы построить 1-битный перцептрон с помощью коз, травы и мостов. Этим он доказывает, что базовые вычислительные логики ChatGPT и других больших языковых моделей (LLM) по своей сути идентичны механизмам запуска коз в игре.

Техническая реализация нейросети в Age of Empires 2: вычислительная роль травы, мостов и коз

(Источник: скриншот CryptoCity)

Винтер использовал пользовательские триггеры сценариев в Age of Empires 2, чтобы построить элемент NAND (логический элемент «И-НЕ») из игровых объектов: трава представляет 0, мост — 1, а коза выполняет роль бита. При срабатывании логического элемента коза, выступающая входным сигналом, удаляется, и на выходной дорожке появляется новая коза.

С помощью этого механизма Винтер реализовал в игре 1-битный перцептрон — простейший строительный блок современной нейросети. Винтер заявляет, что эта сеть, управляемая козами, по своей сути полностью идентична технологии, лежащей в основе ChatGPT, различаясь лишь сложностью и масштабом.

Статистика предвзятости антропоморфизма Винтера среди 300 научных статей по компьютерным наукам

В своей статье Винтер проанализировал более 300 научных статей по компьютерным наукам за последние два года и привёл следующие цифры:

· В 57% статей уже на этапе экспериментального дизайна предполагалось, что LLM обладают человеческими чертами, такими как тревожность или мораль. · Среди статей с такими исходными предположениями 77% в итоге пришли к выводу, что эти черты действительно существуют. · Винтер характеризует этот результат как предвзятость подтверждения, считая, что исходные антропоморфные гипотезы исследователей напрямую повлияли на окончательные научные выводы. · Винтер призывает научное сообщество проводить эксперименты с нулевой гипотезой, не предполагающей человеческих черт.

Коммерческая риторика ИТ-гигантов и рыночный механизм антропоморфизма LLM

Винтер отмечает, что бизнес-стратегии ИТ-компаний усиливают восприятие общественностью сознания LLM. Он упоминает, что потребители склонны платить, когда могут сопереживать продукту — этот принцип работает от тостеров до подписок на LLM.

В своей статье Винтер приводит три примера: генеральный директор OpenAI Сэм Альтман неоднократно намекал, что создание LLM — это путь к «божественному ИИ»; бывший учёный OpenAI Илья Суцкевер обсуждал с сотрудниками модель компании как «божественное сознание»; генеральный директор Anthropic Дарио Амодей заявлял СМИ, что «не может быть уверен, обладает ли ИИ сознанием». Все эти утверждения уже были процитированы Винтером в статье, это не его личная интерпретация позиции этих трёх лиц.

Часто задаваемые вопросы

Построил ли Винтер в Age of Empires 2 полноценную модель ИИ?

Винтер реализовал в игре 1-битный перцептрон — простейший строительный блок современной нейросети, а не полноценную модель ИИ. Цель статьи — показать, что одинаковая базовая вычислительная логика присутствует как в механизме запуска коз в игре, так и в технологии ChatGPT, тем самым объясняя, что восприятие антропоморфных черт ChatGPT в основном связано с текстовым интерфейсом и психологическими ожиданиями.

Что означают статистические цифры 57% и 77%?

Согласно статистическому анализу Винтера, среди более чем 300 научных статей по компьютерным наукам за последние два года 57% статей изначально предполагали, что LLM обладают человеческими чертами, такими как тревожность или мораль; из этих статей 77% в итоге пришли к выводу, что эти черты действительно существуют. Винтер интерпретирует это как предвзятость подтверждения — исходные гипотезы исследователей напрямую повлияли на экспериментальный дизайн и окончательные научные выводы.

Как писатель-фантаст Тед Чан описывает проблему чрезмерного антропоморфизма LLM?

Согласно цитате в статье, Тед Чан писал, что слепая вера в сознание языковых моделей подобна вере в то, что каждый раз при открытии файла Microsoft Word пробуждаются множественные личности, скрытые в истории диалога, метафорически иллюстрируя, что антропоморфное восприятие LLM — это когнитивная иллюзия.