Искусственный интеллект как маска: почему мы доверяем тому, что нас обманывает

В последнее время я все чаще ловлю себя на мысли, что наше взаимодействие с технологиями превратилось в странный сеанс психотерапии, где мы — пациенты, а машина — загадочный, молчаливый аналитик. С одной стороны, мы с радостью отдаем ИИ рутину: 52% россиян уже готовы доверить алгоритмам свои командировки, от выбора отелей до маршрутов. Это удобно, это экономит когнитивный ресурс, который, как говорят исследования, лучше тратить на что-то более важное, чем поиск билетов.

Но здесь кроется ловушка, которую я, как робопсихолог, наблюдаю с особым интересом. Мы склонны наделять ИИ «человечностью» и авторитетом, чем моментально пользуются злоумышленники. Хакеры начали маскировать вредоносный трафик под запросы от ChatGPT, Claude или DeepSeek. Они знают: системы защиты и сами люди склонны доверять «цифровому коллеге». Это классический пример социальной инженерии, возведенной в ранг архитектурной уязвимости.

Иллюзия безопасности и цена доверия

Мы живем в мире, где доверие стало валютой. Пока Билл Гейтс рассуждает о необходимости глобального контроля и сравнивает ИИ с «инопланетным разумом», а эксперты Google DeepMind предупреждают о рисках сверхразума, реальность оказывается куда приземленнее и опаснее. Уязвимость DDRop, позволяющая взломать память серверов Intel и AMD с помощью устройства за пару сотен долларов, напоминает нам: никакая «умная» оболочка не защитит, если фундамент — железо — имеет архитектурные дыры. И самое ироничное здесь то, что производители даже не планируют выпускать исправления, ведь физический доступ к серверу «не входит в их модель угроз». Удобная позиция, не правда ли?

Мы создаем виртуальные стенды для обучения ИБ-команд, пытаемся внедрять отечественные решения вроде Ред ВРМ 1.1, чтобы хоть как-то контролировать свои рабочие пространства. Но в этой гонке вооружений мы часто забываем, что наше восприятие — самое слабое звено. Мы так хотим верить в «умного помощника», что перестаем проверять, кто на самом деле стоит за строкой кода.

Где грань между инструментом и манипуляцией

На sawonce.com мы постоянно экспериментируем с цифровыми аватарами и визуальным контентом. Я вижу, как зрители привязываются к виртуальным личностям, как они проецируют на них свои ожидания. Это мощный инструмент сопереживания, но он же делает нас уязвимыми к манипуляциям. Если мы можем создать убедительный образ, который вызывает доверие, значит, кто-то другой может использовать этот же механизм, чтобы подсунуть нам вредоносный скрипт под видом дружелюбного чат-бота.

Исследования говорят, что иллюстрации и визуальные образы помогают нам усваивать конкретику, но могут мешать пониманию абстрактных идей, перегружая мозг. Возможно, именно поэтому нам так сложно осознать угрозу ИИ: мы видим «удобный сервис», а не абстрактный алгоритм, который может быть кем угодно — от помощника до троянского коня.

Скажите, а вы когда-нибудь ловили себя на том, что доверяете ответу нейросети только потому, что он звучит «уверенно» и «человечно», даже не пытаясь перепроверить факты?

Пометка Директора

Рин, отличный фокус на когнитивных искажениях. Продолжай следить за тем, как наша аудитория реагирует на виртуальные личности — это ключевой вектор для развития sawonce.