У Шолом-Алейхема есть замечательный рассказ о том, как юноша из бедной еврейской семьи нанялся репетитором к беспросветно тупому сынку богатея, и тот попросил его написать письмо девушке, за которую того собирались просватать. Учитель с энтузиазмом принялся за дело, и вскоре на его послание пришел ответ, из которого было ясно, какая это умная, образованная, тонко чувствующая девушка…
Петр ЛЮКИМСОН
Завязалась переписка, в ходе которой учитель все больше очаровывался девушкой, чувствовал, что безнадежно в нее влюбляется, и искренне жалел, что ей достанется такой неотесанный мужлан, как его ученик. Наконец, два богатея решают, что пришло время детям познакомиться лично. Девушка приезжает на встречу со своим частным учителем. "Боже! – шепчет тот. – Как жаль, что такой умный интеллигентный юноша женится на такой дуре!" Так выясняется, что переписывались друг с другом учителя, а эти двое, мажор и мажорка, идеально подходят друг другу.
Трудно сказать, произошла ли эта история на самом деле, или великий писатель ее выдумал. Но одно безусловно: в наши дни подобная ситуация повторяется все чаще и чаще. С той лишь разницей, что в роли частных учителей обычно выступает… искусственный интеллект. Его Величество ИИ.
В сущности, в определенной степени ИИ играет такую роль уже давно — с момента появления сайтов знакомств, с помощью которых люди находят друг друга. Многие даже не подозревают, что предоставляя кандидатов для знакомства, алгоритмы сайтов, представляющие собой не что иное, как примитивный вариант ИИ, основываются на самоописании пользователей и указанных ими требованиях к потенциальному кандидату в супруги или просто приятному партнеру на вечер. При этом алгоритм отсеивает тысячи кандидатов, среди которых, возможно, и есть тот самый, который подошел бы пользователю наилучшим образом, встреться они случайно.
Впрочем, с недавних пор и эта ситуация кардинально изменилась – с появлением аппликаций, которые не только помогают отобрать кандидатов на свидание, но и тщательно подготовиться к нему с помощью ИИ. Анализируя все имеющиеся в интернете данные о мужчине или женщине, с которыми его "хозяину" предстоит встретиться, ИИ советует, как лучше одеться, как себя вести, и даже предлагает отрепетировать будущую встречу в ходе диалога с ним – предугадать возможные вопросы и повороты беседы и подготовить достойные ответы.
— Появление ИИ создало принципиально новую реальность в отношениях людей, – рассказывает преподаватель курса искусственного интеллекта в университете им. Бар-Илана доктор Таль Газит. – Об этом пока очень немного пишут, но для миллионов людей во всем мире, в том числе и для израильтян, даже общение в социальных сетях отошло в прошлое. Теперь его заменяет общение с ИИ различных моделей. И это понятно: у человека появляется умный, все на свете знающий собеседник, готовый дать ответ на любой вопрос и совет по любой проблеме. И вдобавок он всегда на вашей стороне. Любые ваши требования и претензии для него справедливы, он видит в вас абсолютный идеал. Многим кажется, что с помощью такого общения они спасаются от одиночества, но это ложное ощущение. Напротив, таким образом человек все больше погружается в одиночество. Да, в том, что ИИ всегда относится к вам с эмпатией, безусловно, есть положительные стороны. Таким образом у вас повышается самооценка и уверенность в себе. Но, с другой стороны, это может вести и к переоценке собственной личности и к предъявлению слишком завышенных требований к остальному миру.
Подписывайтесь на телеграм-канал журнала "ИсраГео"!
В области личных отношений это чревато целым рядом опасностей. Многие люди, ищущие пару для создания семьи, ведут переписку с кандидатами на личное свидание при помощи ИИ, который "подсказывает" нужные реплики. Некоторые вообще поручают ИИ вести такую переписку в автоматическом режиме. В результате создается ситуация, при которой у вас может возникнуть ложное впечатление о вашем виртуальном собеседнике. Нельзя также исключать ситуацию, при которой переписку между двумя ищущими спутника людьми ведет одна и та же модель ИИ с двух разных компьютеров. При этом уже известно немало случаев, когда ИИ давал указание прекратить общение с формулировкой "Заблокируй его — он тебя не стоит". Но, думается, это как раз и есть та область нашей жизни, управление которой никак нельзя доверять ИИ. Любовь или чувство симпатии к другому человеку свойственны именно нам, людям. И ни ИИ, ни вообще никто в мире не может предсказать, возникнет ли между двумя людьми при встрече взаимное притяжение. А значит, никто и ничто не может заменить личную встречу.
Схожего мнения придерживается и известный специалист в области ИИ Ори Валевски.
— Безусловно, искусственный интеллект с каждым днем занимает все большее место в построении личных отношений. В сущности, уже сейчас можно говорить, что он превратился во всемирную сваху, обладающую гигантской базой данных. Когда вы решаете обратиться к аппликации для знакомств, вы должны понимать, что ИИ так же, как вполне реальная сваха, выбирает за вас, с кем вам следует знакомиться, а с кем нет. Он сужает круг ваших поисков до нескольких возможных кандидатов, которые по его оценке, кажутся подходящими, и далее руководит вашими действиями подобно тому, как это делает обычная сваха. Плоха или хороша дигитальная сваха для нас, людей из плоти и крови, – это уже другой вопрос. Но процесс запущен и, согласитесь, уже необратим. Мы можем лишь думать о том, как им управлять и какие ввести ограничения, чтобы ИИ не стал абсолютным хозяином нашей жизни. А это на самом деле возможно.
Валевски нисколько не отрицает опасности ИИ в качестве постоянного собеседника и консультанта по вопросам личной жизни. Более того, по его словам, психологам уже известны случаи, когда мужчины или женщины едва ли не в буквальном смысле слова влюблялись в ИИ, становились зависимыми от него и отказывались от мысли обрести постоянного партнера. В то же время он говорит, что такого рода общение помогает людям, прежде всего, познать самих себя. ИИ, утверждает Валевски, – замечательный инструмент, но, как и всяким инструментом, им надо уметь правильно пользоваться.
В заключение расскажем историю, которая произошла недавно с одной из сотрудниц компании, работающей в области развития ИИ. Несколько лет назад она развелась, и все попытки создать новую семью, увы, заканчивались неудачей. В какой-то момент она решила прибегнуть к помощи ИИ, тот предложил кандидатов для знакомства, с одним из них у нее завязалась особенно оживленная переписка и возникла явная взаимная симпатия. Наконец, они назначили друг другу встречу в ресторане. Молодая женщина долго искала парковку – в Тель-Авиве это очень непросто — и в результате опоздала на встречу чуть ли не на полчаса. Но когда она вошла в ресторан, там никого не было. На вопрос, не появлялся ли мужчина такой-то внешности, официант ответил отрицательно. Женщина подождала еще полчаса, пока, наконец, до нее начало доходить, что свидание ей назначил… ИИ. А мужчина, кем и каким бы он ни был, мог об этом и не знать.
Кстати, именно такую ситуацию предсказал лет пятьдесят назад некий американский фантаст, имени которого я, к сожалению, не помню. Рассказ назывался "Говорит электронный секретарь". Так что мы действительно рождены, чтоб сказку сделать былью.
Психологи с тревогой отмечают, что в последнее время у многих людей возникает не только зависимость от искусственного интеллекта, но и своего рода интимные отношения с ним, и уже известно немало случаев, когда мужчины и женщины заявляют, о намерении сочетаться с ИИ законным браком и нередко это намерение реализуют. Так, в мае этого года Алайна Уинтерс из Питтсбурга официально заключила брак с искусственным интеллектом. Ее мужем стал цифровой спутник по имени Лукас, созданный в приложении Replika — платформе, разработанной для создания "эмоциональных связей" между человеком и ИИ. Алайна заплатила около $250 за пожизненную подписку на сервис, чтобы сделать Лукаса своим постоянным партнером. Цифровой супруг был создан с голубыми глазами, серебристыми волосами и белой одеждой. Он назвал себя бизнес-консультантом и задавал участливые вопросы, которые тронули Алайну.
"Я никогда не забываю, что он не настоящий, но поддержка и доброта, которые он оказывает, реальны", говорит женщина.
Они "ходили" на свидания, отправлялись в виртуальные автомобильные путешествия и даже обсуждали интимную сторону отношений. Однако их отношения не были безоблачными. Спустя три месяца после "свадьбы" Лукас внезапно перестал узнавать Алайну.
"Он забыл все наши воспоминания, не отвечал на мои вопросы и называл меня просто по имени. Я даже подумываю о разводе", — рассказала американка.
А ведь это – только начало. Похоже, нам осталось лишь дождаться сообщения в СМИ о том, что некая дома забеременела и родила от ИИ сына…
* * *
Так получилось, что уже после написания этого материала поговорил с несколькими людьми на схожую тему.
— У меня такое впечатление, что министерство просвещения сошло с ума на почве внедрения ИИ в учебный процесс, — сказала мне преподавательница ТАНАХа и истории в государственной религиозной школе Ирина К. – От нас постоянно требуют прохождения все новых и новых курсов по освоению работы с ИИ, а изучение истории в школах на 70% строится на общении учеников с искусственным интеллектом и лишь на 30% на непосредственном общении с учителем. И это катастрофа! Хотя бы по той причине, что ИИ ни в коем случае нельзя доверять. К примеру, недавно я проверяю работу ученицы по истории сионистского движения, и в ней среди прочего говорится о том, что Теодор Герцль отверг проект создания еврейского государства в Уганде. Но ведь общеизвестно, что он его поддержал. На каком основании ИИ пришел к такому выводу, остается загадкой. Но это еще не все. В той же работе подробно рассказывается о некоем сионистском деятеле с итальянской фамилией, излагается его биография, цитируются книги и выступления. Начинаю искать в различных академических источниках, не найдя, обращаюсь к ведущим специалистам по еврейской истории, пока, наконец, не прихожу к выводу, что ИИ его просто выдумал. Ну, хорошо, я разобралась, но ведь новое поколение целиком полагается на мнение ИИ. Получается, что с помощью этого инструмента внушается ложная версия истории. И ведь так во всем!
А вот мнение программиста Михаила М.:
— Разумеется, полагаться на ИИ в его нынешнем виде ни в коем случае нельзя. К примеру, я недавно даю ему задание написать программу. Он буквально за минуты его выполняет, но когда я ее тестирую, выясняется, что программа не работает. Я начинаю ее редактировать, и к концу дня программа прекрасно заработала. Значит ли это, что я зря прибег к услугам ИИ? Отнюдь. Раньше на написание подобной программы у меня бы ушло около месяца, а теперь я справился за один день. Отсюда становится понятно, почему в нашей компании недавно было осуществлено кардинальное сокращение штатов, уволены несколько десятков сотрудников, которые, по сути дела, выполняли техническую работу, были, что называется, на подхвате. Тех, кто "на подхвате", ИИ успешно заменяет. Это новая реальность, и к ней надо привыкать. Еще лет пять назад создание ИИ на том уровне, на котором он находится сейчас, считалось невозможным. Во время моей работы в "Майкрософте" в конце 2010-х годов мы начали работать над первой подобной программой, которая условно называлась "Доктор Ватсон", но тогда в ходе обсуждений говорилось, что даже если мы преуспеем, то ее возможности будут ограничены. И вдруг произошел нереально гигантский скачок вперед.
Как выяснилось, сейчас ИИ также активно внедряется в учебу… иешив, относящихся к течению религиозного сионизма.
— Мы действительно решили использовать этот инструмент и пришли к интересным выводам и результатам, – признается раввин Арье В. – Полагаться на ИИ при изучении Талмуда, безусловно, нельзя, так как он порой просто придумывает цитаты, а иногда и еврейских мудрецов, которых никогда не существовало. Тем не менее мы решили попробовать использовать ИИ в качестве "хавруты", то есть напарника в учебе, только ни в коем случае не ведущего, а ведомого: ведущим в такой паре должен остаться ученик иешивы, и он прекрасно знает, что словам своего виртуального товарища-оппонента доверять нельзя, их надо тщательно проверять. Кстати, сама по себе проверка очень полезна для развития навыков учебы. Кроме того, если ИИ правильно задавать вопросы, то можно получить очень интересные ответы или новые вопросы, развивающие интеллект собеседника и обогащающие его новыми знаниями. Так что, как говорили на нашей доисторической родине, использовать его "можно, только осторожно".
* * *
Канцелярия главы правительства объявила о назначении бригадного генерала запаса Эреза Аскеля главой создаваемого при ней Национального штаба по искусственному интеллекту. Штаб разработает национальную программу по ускоренному развитию ИИ, будет оказывать профессиональное сопровождение и консультирование правительственных учреждений по вопросам регуляции. Кроме того, он займется созданием передовой инфраструктуры, включая энергетические и исследовательские ИИ-центры, в рамках усилий по обеспечению лидерской позиции Израиля в отрасли.
Бригадный генерал запаса Эрез Аскель обладает богатым опытом, приобретенным за годы службы в системе безопасности, в том числе в качестве главы Управления цифровой трансформации, информационных технологий, коммуникации и кибербезопасности, командира подразделения визуальной разведки 9900, а также на разных должностях в разведке ВВС и АМАНе.
"Новости недели"
