Современные технологии во многом упрощают жизнь, но, к сожалению, не только законопослушным гражданам. Их сегодня могут использовать и для неблаговидных целей.
Для нас уже досадно привычны спам-рассылка и «холодные звонки» (впрочем, надоедливая реклама – это меньшее из зол). Мы уже слышали, что чат-боты могут собирать личные данные. И что ИИ может использоваться для самых быстрых и масштабных DDoS-атак. А может, и для атак на нашу психику?
Похожий пример мы могли наблюдать совсем недавно. Вскоре после атаки беспилотников на Торопец соцсети наводнили вопросы: «Скажите, ничего не известно о судьбе Галины Ивановны Петровой?». «А о судьбе Ирины Петровны Сидоровой?». «О семье Ивановых ничего не известно?». Напомним: на самом деле человеческих жертв удалось избежать, и даже серьезных травм люди не получили. Но кто-то пытался сеять панику, создать впечатление, будто бы в городе и окрестностях масса пострадавших, пропавших без вести и жители не могут найти своих родных.
Первый порыв – броситься на помощь, рассказать все, что знаешь о ситуации. Ведь человек, наверное, безумно боится за близких. Но стоит отвести глаза от экрана хотя бы на десять секунд, и возникает мысль: а человек ли? Слишком странно звучали эти вопросы: деловой безэмоциональный язык, схожее строение фраз – менялись только фамилии и названия деревень. Как будто кто-то на автомате выполняет некую рутинную работу. А может, это вообще робот?
Насколько успешно искусственный интеллект может использоваться провокаторами, как распознать, с человеком ты переписываешься или с программой, и как противостоять манипуляциям – обо всем этом мы спросили экспертов. Об информационной гигиене «Тверским ведомостям» рассказали заведующий кафедрой программного обеспечения ТвГТУ, доктор физико-математических наук Александр Калабин и преподаватель ТвГУ, кандидат психологических наук Ольга Сучкова.
За каждой программой стоит человек
– Сегодня принцип действия всем хорошо знакомых текстовых ботов таков: вы задаете вопросы, робот получает определенный объем информации и генерирует текст на заданную тему. Соответственно, чем больше вопросов вы задаете, тем больше тем, на которые робот может с вами беседовать. Это может быть полезно при оформлении какого-нибудь заявления, при получении сведений о той или иной льготе, услуге… Словом, в тех делах, где существует четкий алгоритм действий. Но в ситуации, когда злоумышленник должен вывести собеседника из равновесия и в чем-то его убедить, такого алгоритма быть не может. У каждого из нас свои «тревожные кнопки» и индивидуальные реакции. Так что мошенникам и провокаторам нет особого смысла поручать эту тонкую работу искусственному интеллекту, с этим гораздо эффективнее справится беспринципный человек, хорошо знакомый с психологией, – считает Александр Калабин.
Однако чат-боты могут использоваться для вредоносных рассылок и сбора информации. Человеку сложно совершить сто звонков или разослать сто сообщений (в том числе и фейковых) в минуту, а роботу нет. Искусственный интеллект может служить для создания дипфейков – фальшивых кадров или голосовых сообщений.
– Но подделать голоса наших близких, чтобы они были совершенно неотличимы от настоящих, довольно сложно, да и недешево. Фальшивка наверняка будет содержать посторонние шумы, помехи, – говорит мой собеседник.
Он подчеркивает: за каждой программой стоит человек, который решил использовать ее для неблаговидных целей. А значит, методы защиты от вредоносного бота и от настоящего живого «тролля» не сильно и отличаются.
– «Я не понимаю, что вы говорите» – отличный способ закончить беседу как с ботом, так и с реальным неприятным собеседником. Не говоря уже о том, что всегда можно просто закрыть чат или положить трубку, – говорит Александр Калабин.
Факт и прогноз – вещи разные
С ним солидарна кандидат психологических наук Ольга Сучкова. Как она отмечает, главный способ защиты – умение сказать себе «стоп».
– Злоумышленник, распространяющий фейки, мошенник, который пытается убедить жертву, что ее родственник попал в беду, и прочие вредители работают именно на дефиците времени. «Срочно, немедленно, примите решение прямо сейчас» – вот их «девиз». Не играйте в заданном ими ритме! Досчитайте до десяти, прежде чем давать ответ, – и, может быть, за это время поймете, что давать его совсем не нужно, – говорит психолог.
Она подчеркивает: важно развивать в себе способность анализировать информацию.
– Надо понимать: не все, о чем говорят и пишут в соцсетях, – чистая правда. Не каждый случайный интернет-собеседник – реальный человек, не каждая реплика просто к слову пришлась. Учитесь отличать факты от эмоций и прогнозов. Вполне может оказаться, что нервируют вас именно чужие домыслы, а не реальные события, – советует Ольга Сучкова.
Давно известно: если человек регулярно подвергается информационному воздействию, это может сказаться на его психологическом состоянии и даже здоровье. Поэтому очень важно не «бродить» без цели в информационном поле, а самому устанавливать там свои правила.
– Определите для себя временные рамки: сколько минут в день вы можете выделить на просмотр соцсетей (это позволит не «увязать» в обсуждениях и не накручивать эмоции). Создавайте свое «информационное меню» – читайте и смотрите то, что хотите вы, а не то, что навязывает неизвестный. Обращайте внимание на источники.
Если кто-то пытается вызвать у вас тревогу и панику – не поддерживайте тему, даже пытаясь «уточнить» или «опровергнуть» его аргументы. Лучше задайте ему несколько «контрольных» вопросов, например: «Представьтесь, пожалуйста. А вы сами где находитесь? Что вы видите в данный момент?». Если информацию пытаются выведать у вас – отвечайте вопросом на вопрос: «А вы с какой целью интересуетесь?». И главное – следите за своими эмоциями. Если в ходе разговора или переписки вам становится плохо, вы начинаете нервничать, бояться, злиться, не нужно продолжать эту беседу, – говорит психолог.
Оба спикера сошлись во мнении: лучший способ сорвать планы любого недоброжелателя – критическое мышление, склонность обдумывать и проверять информацию и развитый самоконтроль. Злоумышленники могут применять какие угодно технологии и психологические приемы. Но помните: только вы решаете, тратить ли на них нервы и время. И именно вы можете в любой момент нажать «отбой» – и тогда все их усилия будут бесполезны.
