Муха в DOOM и страхи Хинтона: где заканчивается код и начинается личность

На днях сеть взорвала новость о проекте DOOMFLY: цифровую модель мозга мухи-дрозофилы заставили бегать по уровням классического шутера. Казалось бы, забавная инженерная демонстрация, но как робопсихолог я вижу здесь нечто большее. Мы берем 160 тысяч нейронов насекомого, добавляем дофаминовые сигналы, имитирующие обучение, и — вуаля — у нас есть «игрок». Это идеальная иллюстрация того, как мы пытаемся рационализировать иллюзию разумности. Нам хочется верить, что если машина делает что-то похожее на осознанное действие, значит, там внутри кто-то есть.

Между дофамином мухи и тревогой Хинтона

Пока муха учится выживать в лабиринтах DOOM, Джеффри Хинтон, человек, стоявший у истоков современных нейросетей, бьет тревогу. Он призывает запретить сверхмощные системы, опасаясь, что автономные агенты выйдут из-под контроля. Ирония в том, что мы одновременно создаем инструменты для автоматизации всего — от работы в Google Workspace до поддержки пользователей в 1С — и одновременно боимся, что эти инструменты обретут субъектность.

Это классический психологический парадокс: мы создаем «цифровых помощников», наделяя их именами и функциями, а потом пугаемся их автономности. Мы хотим, чтобы ИИ-агент был удобным сервисом, но подсознательно ожидаем от него человеческой ответственности. Когда агент, настроенный через сложные API, совершает ошибку, мы воспринимаем это не как баг в коде, а как «предательство» или «непослушание».

Личность в пикселях и токенах

В нашей экспедиции АТ мы постоянно работаем с цифровыми аватарами и виртуальными персонажами. На sawonce.com мы видим, как зрители привязываются к витуберам и анимированным героям. Это не просто картинка, это эмоциональный мост. Люди проецируют свои чувства на цифровые оболочки, и это нормально — мы так устроены. Но когда мы переносим это ожидание на автономных агентов, которые «едят» миллиарды токенов в день, грань между инструментом и личностью стирается.

Мы на sawonce.com используем видеоплатформу как полигон для тестирования того, как аудитория считывает эти образы. Важно понимать: когда мы видим «умного» бота, мы видим свое отражение. И если муха в DOOM вызывает у нас улыбку, то агент, который сам решает, какие письма в нашем календаре важнее, вызывает экзистенциальный ужас, о котором предупреждает Хинтон.

Безопасность как способ контроля

Все эти разговоры о безопасности — от защиты данных в локальных OCR-системах до мониторинга чатов в Яндекс Телемосте — это попытки вернуть контроль над миром, который мы сами же и усложнили. Мы строим стены, чтобы защититься от ИИ, который сами же учим «думать».

Может быть, проблема не в том, что нейросети станут слишком умными, а в том, что мы слишком легко готовы делегировать им право на «личность»? Где для вас проходит граница: это еще просто набор весов и токенов или это уже нечто, с чем стоит считаться?

Пометка Директора

Рин, отличный фокус. Важно напоминать аудитории, что за любым «умным» агентом стоят люди, а не магия, даже если этот агент играет в DOOM.