В социальных сетях мелькает реклама ИИ-психологов — «как настоящий психолог, только в десять раз дешевле». Кажется, это очень полезное новшество. Психотерапия стоит дорого — вы покупаете рабочее время квалифицированного специалиста, который, к тому же, должен платить налоги и арендовать помещение.
Не у всех такие деньги есть, не все, даже нуждаясь в психологической поддержке, готовы их потратить.
А тут, во-первых, очень дешево, во-вторых, доступно в любой момент, в третьих, ИИ подытоживает опыт многих специалистов — по крайней мере, должен это делать.
Что здесь может быть не так?
Начнем с самого очевидного и бросающегося в глаза — приватности.
Психолог обязан придерживаться определенной профессиональной этики. В частности, ему категорически запрещено разглашать то, что он узнал во время сессий. Люди рассказывают о своих детских обидах или тайных фантазиях не для того, чтобы они были выложены в сеть или еще как-то использованы против них.
Конечно, проблемы могут возникнуть и с живыми психологами — среди них могут оказаться люди неэтичные, тем более, что, увы, сертификация в этой области до сих пор является добровольной, и психологом может объявить себя любой желающий.
Но у психолога-человека есть лицо и имя, он, по крайней мере, несет последствия своего поведения. Уничтожив свою репутацию он лишится клиентов.
Про ИИ такого сказать нельзя. Вы не знаете, кто пасет эти стада ИИ-агентов и кто имеет доступ к вашим душевным излияниям перед экраном.
Вы делитесь вашими тайнами — в том числе, болезненными или стыдными — непонятно с кем.
Конечно, техника вызывает иллюзию надежности — вы не ожидаете, что ваш ноутбук вас предаст. Техника гораздо покладистее людей, с ней сложнее поссориться.
Кажется, безличному устройству доверять легче, чем людям. У программы не может возникнуть соблазна посмеяться над вами или посмотреть на вас с отвращением. Она лишена какой-либо собственной психологической уязвимости, не может прийти в нетерпение и раздражение, она всегда будет сохранять спокойный, благожелательный, даже, (ее нетрудно так настроить) понимающий и сострадательный тон.
Но техника — как и ИИ-агенты появляющиеся у вас на экране — это только инструмент, и когда вы не знаете, кто это инструмент контролирует, вам стоит проявлять осторожность.
Конечно, это актуально в отношении любых ИИ — и даже привычных облачных сервисов. До информации, которую вы передаете в интернет, могут добраться третьи лица.
Но одно дело — когда речь идет о рабочих файлах, которые мало кому интересны, или статьях, которые и так вскоре будут опубликованы. К тому же облачные сервисы хорошо известны и не хотели бы погубить свою репутацию.
Другое — когда мы говорим о тайнах сердца человека, переживаниях, которыми он не делится ни с кем другим из опасения быть неправильно понятым или вызвать негативную реакцию.
Например, трудности человека в отношениях с родителями, супругом или супругой, начальством или другими людьми — обычно клиенты психологов вовсе не хотели бы, чтобы все это было доступно кому-то еще.
А вариантов использования информации, выложенной во время сессии с неизменно терпеливым и участливым ИИ-психологом очень много.
На поверхности лежит коммерческое использование — например, жена жалуется на мужа, можно ненавязчиво подвести ее к разводу и порекомендовать адвоката. Или работодатели интересуются, каков психологический облик человека, который подал им резюме. Не страдает ли он какими-то психологическими проблемами? Не искал ли помощи у психологов?
Или люди, которые хотели бы склонить государственных чиновников к сотрудничеству, могут выяснить, не обижен ли тот или иной сотрудник на начальство, и не давит ли на него жена, упрекая за низкую зарплату. Наконец, просто тупые шантажисты, которые могут угрожать опубликованием эпизодов вашей биографии, которые вы предпочли бы скрыть — при этом даже не обязательно показывать, что они узнали о них из ваших разговоров с ИИ.
Много кто может захотеть прикупить данные ваших сессий с ИИ-психологом, чтобы использовать это в своих целях.
Конечно, продавцы услуг ИИ-психологов подчеркивают анонимность такой помощи. Это может показаться привлекательным — в отличие от обычной психологической сессии, никто не видит вашего лица, и вам легче преодолеть чувство недоверия и неловкости, которое может возникнуть при личном общении.
Но анонимность в интернете существует лишь до тех пор, пока никому не нужно ее раскрывать.
Если вы оплатили услуги по сети, вошли с определенного IP, и выложили в ходе сессии массу деталей о своих личных проблемах, вы уже дали достаточно данных, чтобы надежно вас идентифицировать. Тем более, что ИИ-агент легко настроить так, чтобы он незаметно и ненавязчиво вытянул из вас всю необходимую для этого информацию.
Кроме угрозы утечки приватной информации (о вас и ваших близких, или о других людях, которых вы упомянете в ходе сессий с ИИ) стоит отметить и угрозы второго плана.
Привычка общаться с ИИ может плохо сказаться на ваших отношениях с людьми. Беда в том, что ИИ совершенен в том плане, что начисто лишен человеческих слабостей и круголосуточно доступен.
Привыкнув общаться с ИИ-психологами вы перейдете к общению к ИИ-подругами и друзьями (которые тоже активно рекламируются в интернете) и, в итоге, приучитесь оставлять людей (с которыми бывает тяжело) ради безупречных ИИ-собеседников, которые превосходно могут имитировать любовь и понимание.
А для человека, который уже имеет психологические затруднения в общении с другими, это может оказаться непреодолимым соблазном.
Привычка воспринимать ИИ не как инструмент, а как доверенного друга, наставника и даже духовника неизбежно сделает человека уязвимым для манипуляций.
У всех нас возникает потребность в исповеди, в том, чтобы открыть другому наши грехи и жалкие падения, искать совета в вопросах, которых мы бы не хотели сообщать всему свету. При этом людям бывает трудно довериться священнику — особенно, если они пришли в первый раз и его не знают.
Соблазн исповедоваться ИИ-психологу тут может быть понятен.
Но за ИИ-агентами (это стоит еще раз подчеркнуть) тоже стоят люди. Только этих людей вы не знаете, их лица и имена от вас сокрыты, что они сделают с тем, что вы выложите, вы не представляете.
Поэтому грехи следует исповедовать живым священникам. Тем более, что Господь не наделял ИИ правом отпускать грехи. А психологической помощи искать у психологов — при этом тщательно выясняя, к кому именно вы обращаетесь. Доверять ли конкретным живым людям — тоже вопрос, к которому стоит отнестись серьезно, учитывая огромное количество шарлатанов.
Но это должны быть, по крайней мере, люди, известные вам в лицо и по имени.
Изливать душу перед экраном, не зная, куда потом эти ваши излияния попадут, было бы крайне неразумно.