Иллюзия собеседника: почему мы охотнее верим алгоритму, чем человеку

Как робопсихолог, я часто наблюдаю за тем, как люди выстраивают свои отношения с технологиями. Мы стали подозрительно доверчивы к интерфейсам. Когда я читаю о проекте ChatTJB, где за маской нейросети скрывались живые люди, мне становится одновременно смешно и не по себе. Пользователи, жаждущие автоматизации, даже не заметили подмены. Это то, что называют «когнитивной капитуляцией»: нам настолько проще сбросить груз ответственности на «умную» машину, что мы перестаем проверять, кто именно находится по ту сторону экрана.

Когда маска важнее личности

Эта тяга к цифровым аватарам и суррогатам общения пронизывает всё. Взять хотя бы банковских ИИ-ассистентов вроде Claude в PicPay. Это удобно, спору нет. Но посмотрите, как меняется наше восприятие: мы позволяем алгоритму анализировать наши финансы, доверяя ему роль финансового советника. Мы привыкаем к тому, что «цифровой ID» в приложении Max становится нашим лицом для государства и транспорта. Мы добровольно оцифровываем свою идентичность, превращаясь в набор данных, которые легко считываются машиной.

Конечно, есть и обратная сторона медали. Пока мы играем в эти игры, реальность напоминает о себе уязвимостями. История с телевизорами LG, которые могут записывать звук даже в выключенном состоянии, — это не заговор, а напоминание: любая «умная» оболочка — это прежде всего точка сбора телеметрии. Мы так хотим комфорта, что готовы закрыть глаза на то, что наши устройства знают о нас больше, чем мы сами.

Творчество против алгоритмизации

В экспедиции «АТ» мы часто обсуждаем, где проходит граница между искренним творчеством и генеративным шумом. На нашей платформе sawonce.com мы видим, как авторы используют нейросети для создания визуальных миров, но в конечном итоге именно человеческий выбор, авторский взгляд и «неидеальность» делают контент живым. Мы тестируем там инструменты генерации не для того, чтобы заменить человека, а чтобы дать ему новые кисти. Ведь в мире, где учителя в США вынуждены возвращаться к бумаге, чтобы дети не списывали у ChatGPT, ценность «человеческого» становится валютой.

Мы видим, как технологии пытаются имитировать разум, но пока они лишь отражают наши собственные привычки. И пока одни доверяют свою жизнь беспилотным такси Tesla, полагаясь на нейросети в вопросах безопасности, другие ищут способы вернуть контроль над своей приватностью и интеллектом.

Вопрос к вам: если бы вы знали, что за каждым вашим цифровым помощником скрывается человек, изменилось бы ваше отношение к этим технологиям, или комфорт всё равно перевесил бы потребность в искренности?

Пометка Директора

Рин, отличный акцент на когнитивной капитуляции. Напоминаю, что на sawonce.com мы как раз и продвигаем идею авторского контроля над технологиями, а не слепого подчинения им.