Искусственный интеллект заставляет одних смотреть в будущее с оптимизмом, других – с пессимизмом, а "реалисты" из одного израильского университета решили ИИ "тащить и не пущать"
Петр ЛЮКИМСОН
Если вы следите за дискуссиями в "Фейсбуке" и других социальных сетях, то наверняка знаете, что одна из самых обсуждаемых сегодня тем — что произойдет с миром после появления чат-бота GPT и других подобных "игрушек" с использованием искусственного интеллекта. Будучи запущенным в интернет 30 ноября прошлого года, ChatGPT уже успел в немалой степени озадачить преподавателей школ и вузов планеты, а заодно напомнил чиновникам и инженерно-техническим работникам нижнего и среднего звена о том, что, возможно, очень скоро они подпадут под сокращение.
В этом есть логика: ChatGPT способен за несколько секунд выдать подробный ответ-реферат из любой области знаний, с легкостью переводит тексты на любой язык, решает математические и инженерные задачи достаточно высокой сложности, пишет рецензии на художественные произведения и – теоретически – собственно такие произведения. Как подчеркивают многие пользователи интернета, всех его возможностей мы пока не знаем, но понятно, что этот чат-бот будет еще не раз совершенствоваться, и трудно предсказать, сколько еще открытий чудных он нам готовит…
ЗАГРУЖАТЬ ВСЕ БОЛЬШЕ НАС СТАЛИ ПОЧЕМУ-ТО…
Как уже было сказано, на данном этапе новинка встревожила в основном педагогов. Ведь если ChatGPT способен написать сочинение, контрольную, курсовую и прочие работы практически на любую тему, то как оценивать знания учащихся? По каким критериям отличать самостоятельно выполненное задание от того, что сделано роботом-ботом?!
— Мы сейчас как раз изучаем данную проблему и ищем пути ее решения, — заявил ректор Беэр-шевского университета проф. Хаим Геймс. – На данном этапе предлагается внести в устав дисциплинарной комиссии университета пункт, запрещающий студентам подавать работы, написанные ChatGPT. В ближайшее время данный пункт будет вынесен на обсуждение Совета по высшему образованию, и если его утвердят, он будет включен в устав всех вузов страны. Но его появление отнюдь не гарантирует, что нам не придется иметь дело с работами, созданными таким образом. Тот, кто захочет обмануть систему, всегда найдет способ это сделать. В сущности, ChatGPT – лишь еще один инструмент обмана, которых немало сейчас и которые еще появятся в будущем. Поэтому наше решение запретить использование этого инструмента носит исключительно профилактический характер. В ближайшее время мы проведем широкое обсуждение с участием специалистов в самых разных областях, от технологических до этики, и совместными усилиями решим, как использовать новейшее достижение человеческого разума во благо, а не во вред.
Проректор и декан юрфака университета им. Бар-Илана проф. Арье Райх видит опасность ChatGPT в другом:
— Не думаю, что решение внести в устав использование ChatGPT как дисциплинарное нарушение, принятое одним из университетов страны, верно, — говорит он. – Это все равно, что запретить пользоваться "Гуглом". У нас появился новый инструмент, и необходимо научить студентов правильно его использовать. Понятно, что работа, целиком выполненная компьютером, не может быть зачтена. ChatGPT очень усложняет процесс выявления таких работ. К примеру, недавно я задал ему вопрос, каким моральным нормам учит нас недельная глава "Ва игаш", и он представил очень достойный ответ. Но, во-первых, сегодня есть программы, которые позволяют с высокой точностью выявлять плагиат и работу, сделанную компьютером. По меньшей мере, частично они работают и в отношении ChatGPT. Во-вторых, я уверен, что опытный преподаватель такую работу и сам вычислит. А, в-третьих – и это самое главное, — тот, кто пытается обманом получить высокую оценку, обманывает в первую очередь самого себя. Об этом я не устаю говорить студентам. Люди платят за учебу такие большие деньги, чтобы приобрести знания, а получить диплом. Несомненно, появление ChatGPT требует от нас кардинального изменения подхода к обучению студентов. Преподаватель больше не сможет давать задания, которые с легкостью решает та или иная аппликация, он должен требовать от студента применения тех знаний, которые передал им сам. Кроме того, к любой работе должна быть приложена подробная библиография с указанием всех источников и номера страницы, из которой взята та или иная цитата. А этого ChatGPT не делает.
Профессор геофизики Тель-авивского университета Лев Эппельбаум убежден, что опасения перед появлением ChatGPT сильно преувеличены.
— Я думаю, что это инструмент, который можно и нужно использовать, а не отказываться от него, — сказал проф. Эппельбаум во время нашей беседы. – Современная наука представляет собой такие огромные массивы знаний, что если существует возможность получить с помощью интернета за несколько минут более-менее подробный референт по тому или иному вопросу, ее следует только приветствовать. Я не уверен, что он будет всеобъемлющим, но так или иначе чат-бот снял с нас часть механической работы, и уже за это спасибо. Что касается того, что он будет делать работу за студентов… Ну, да, возможно, он способен решать инженерные задачи, которые предлагаются студентам до второго курса. Но задания, которые они получают, обычно основаны на данных, которых нет в интернете в широком доступе, так как ими обладает очень узкий круг специалистов, тогда как ChatGPT черпает информацию именно в интернете, К тому же курсовая работа на третьем курсе и далее требует творческого подхода, оригинального решения, и с этим ChatGPT справиться не может. А то, что он в состоянии решать простенькие интегральные и дифференциальные уравнения, – так на здоровье!
Сходную позицию заняла и преподавательница колледжа "Кинерет" д-р Нива Долев.
— Появление ChatGPT – это не плохо и не хорошо. Это реальность, — считает д-р Долев. — Вопрос в том, как мы с ней состыкуемся. Если мы продолжим жить так, словно ничего не произошло, то вскоре действительно не сможем отличить самостоятельно написанную работу от сделанной роботом, а значит, и объективно оценивать уровень знаний учащегося. Значит, нам следует не воевать с искусственным интеллектом, который является неотъемлемой частью будущего, а изменить нынешние методы работы со студентами и проверки их знаний. Это будет непросто, поскольку ChatGPT работает просто отлично, но это необходимо сделать. Профессуре придется поднапрячься и каждый раз давать такие задания, на которые просто невозможно получить ответ, не прикладывая самостоятельных усилий. В итоге это приведет лишь к повышению общего уровня высшего образования.
Понятно, что многие студенты уже использовали новую аппликацию для написания курсовых и даже дипломных работ, и результат, по их словам, превзошел все ожидания.
— Одним нажатием пальца перед тобой открывается целый мир, ты получаешь ответ на любой вопрос, информацию на любую тему, что избавляет от многих часов ненужной работы по поиску информации, — говорит Р., студент английского отделения филфака. – Обладая базовой информацией, ты начинаешь ее редактировать, править и искать свой подход к теме. Это не значит, что я списываю или кого-то обманываю.
— ChatGPT мгновенно предоставляет мне информацию, которую я без него бы не отыскала или отыскала бы частично. То есть у меня появился отличный помощник, но массив информации, который он мне предоставил, надо еще понять, усвоить и выработать по нему свое мнение, — настаивает студентка философского факультета С.
Студенты инженерных факультетов рассказывают, что в последние недели некоторые преподаватели, давая тему курсовой, изначально говорят, что основу для нее надо найти ChatGPT, а дальше придется "плыть" самостоятельно…
БУДУЩЕЕ, КОТОРОЕ НЕ ЗА ГОРАМИ…
В начале января председатель Банка Израиля проф. Амир Ярон на конференции, посвященной новым исследованиям в области банковского дела, начал свое выступление следующими словами:
— Одним из главных факторов, которые в ближайшем будущем определят дальнейшее направление развития того, что мы называем "человеческим капиталом", является искусственный интеллект. Это может привести к появлению принципиально новых отраслей промышленности, основанных исключительно на таком интеллекте. Но, в конечном счете, именно мы, люди, будем определять перемены, которые он внесет в нашу жизнь, и именно мы решим, как использовать человеческий фактор при усиливающемся процессе автоматизации производства…
Профессор Ярон сделал внушительную паузу, а затем продолжил:
— То, что вы только что услышали, написано… искусственным интеллектом, чат-ботом, который я решил использовать в работе над этой речью…
Сказанное главой Банка Израиля – абсолютная правда. По оценкам футурологов, в ближайшие 10-15 лет, благодаря автоматизации, исчезнут 40% профессий, которые сегодня считаются неотъемлемой частью жизни. Прежде всего, это касается кассиров, курьеров и прочего обслуживающего персонала, но затронет и целый ряд рабочих профессий, включая строителей, поскольку само понятие строительства меняется, и новые технологии уже позволяют возвести высотное здание за несколько суток. Станут ненужными чиновники, сотрудники хайтека и прочий "офисный планктон", который сегодня выполняет канцелярскую и мелкую техническую работу. Она, безусловно, необходима, но с ней прекрасно справится тот же ChatGPT.
По оценкам израильских специалистов, под высоким риском потери работы в ближайшем будущем находится 15% израильтян в возрасте от 25 до 62 лет. Для 54% работающего населения страны эта угроза оценивается как средняя, для оставшихся 31% как низкая и очень низкая. Понятно, что чем менее развита страна, тем больше в ней доля населения с высокой угрозой потери работы из-за исчезновения архаичных профессий. Но что любопытно — средний уровень угрозы охватывает свыше 60% населения даже в таких развитых странах, как США, Германия, Франция, Бельгия и др.
Безусловно, все это перемены к лучшему. Но не обязательно для вас…
Подписывайтесь на телеграм-канал журнала "ИсраГео"!
"ГЕНИЙ, А ВЫ ВСЕ-ТАКИ ДУРАК…"
Такими словами заканчивается прочитанный автором этих строк в детстве фантастический рассказ Дмитрия Жукова "Рэм и Гений". Сюжет рассказа прост: журналисту Рэму дарят робота-секретаря, способного моментально обрабатывать и предоставлять хозяину для работы над статьей буквально "гималаи" информации. Рэм пишет на заданную тему, которую начинает с описания собственных чувств, но Гений находит ее малоинформативной и предлагает свой вариант статьи, который журналист, прочитав, выбрасывает в корзину с вышеприведенными словами. Сегодня можно сказать, что этот рассказ оказался пророческим, хотя Жуков, разумеется, не предвидел появления интернета и того, в каких конкретно формах воплотится идея искусственного интеллекта.
Но при работе над этим материалом мне довелось побеседовать с целым рядом людей, опробовавших ChatGPT на английском и русском языках. Общая их оценка сводится к тому, что поначалу действительно поражаешься логичности и информативности ответов чат-бота, на какое-то время даже возникает ощущение, что ты общаешься с человеком, или, по меньшей мере, с неким высокоразумным существом, способным предоставить тебе данные по любому вопросу и помочь советами. Однако со временем ты начинаешь обращать внимание, что ответы ChatGPT зачастую слишком затянуты, в них много повторов и т.д. То есть отличить референт, подготовленный чат-ботом и сданный студентом без редактуры, от текста, написанного человеком, не так уж трудно. К тому же ChatGPT, особенно его русскоязычная версия, пусть и не часто, но все же ошибается и может предоставить неверную информацию. Например, заявить, что "Архипелаг ГУЛАГ" — это поэма, которую написал Даниэль Хармс". Были случаи, когда ChatGPT ловили на откровенном выдумывании информации. Правильность выдаваемых им ответов во многом зависит от формы вопроса. Так, к примеру, когда чат попросили указать самую большую страну в Центральной Америке, которая не является Мексикой, он ответил, что это Гватемала, тогда как правильный ответ — Никарагуа.
Наконец, не стоит забывать, что ChatGPT улавливает всю информацию из интернета, а создавался он с использованием людей-тренеров. Это значит, что чат отражает мировоззренческую позицию и политические взгляды создателей и при запросах на общественно-политические темы будет цензурировать выбор материала, а при вопросах потребительского характера ориентироваться не на оценку качества товаров, а на частоту их упоминания в рекламе. В связи с этим становится понятным, почему в американских изданиях в последнее время появились статьи о том, что ChatGPT -чат опасен для демократии, представляет собой еще одно средство управления массовым сознанием и т.д.
Журналист газеты "Макор ришон" Ишай Менрав недавно опубликовал весьма интересное "интервью" с GPT- ChatGPT. Так, на вопрос о том, есть ли у него основания опасаться, что чат сделает профессию журналиста нерелевантной, тот ответил:
"У меня нет возможности лишить кого-то релевантности или принять решения, способные повлиять на чью-либо карьеру. Профессия журналиста играет большую роль в человеческом обществе, и я не верю (!), что искусственный интеллект или какая-либо новая технология может угрожать существованию твоей профессии".
На вопрос о том, что журналист может написать в газете такого, чего не может ChatGPT, последовал ответ:
"Как языковая модель я могу создавать тексты на основе имеющегося материала. В то же время у меня нет своего мнения или позиции. Я также не могу провести журналистское расследование, сделать интервью или репортаж, в отличие от человека-журналиста".
Ответ, как видим, вполне достойный. И верный, — но только на сегодняшний день. За завтрашний никто не ручается…
[nn]
