WP: чат-бот ChatGPT на основе ИИ дает продуманные и развернутые ответы на разные запросы

Работники системы образования, преподаватели колледжей и вузов, уже готовы трубить тревогу, ведь им придется столкнуться с последствиями революции в области искусственного интеллекта, благодаря которым на уроках пышным цветом может расцвести списывание при помощи чат-ботов.

Причиной беспокойства стал ChatGPT — чат-бот с искусственным интеллектом, запущенный несколько недель назад: теперь пользователь на любой вопрос буквально через несколько мгновений получает от чат-бота желанный ответ, практически неотличимый от человеческого.

Учителя решили проверить новое приложение. Несмотря на то, что ответы чат-бота на вопросы были отнюдь не идеальны, они вполне удовлетворяли тем требованиям, которые предъявляются к ответам учеников. И теперь преподавателям остается только задаваться вопросом: сколько еще времени осталось, прежде чем учащиеся начнут с помощью чат-бота писать сочинения или программировать?

Учитель английского языка Мара Кори (Māra Corey) из Irondale Senior High School в городе Нью-Брайтон, штат Миннесота, почти сразу же обсудила этот вопрос с учениками. Она хотела донести до них мысль о том, что использование чат-ботов затормаживает процесс усвоения учебного материала.

"Некоторые из них были неприятно удивлены тем, что я уже знаю об этом чат-боте, — сказала Кори. Ее вовсе не пугало, что после разговора ученики решат воспользоваться новинкой не по назначению. — Было бы наивно думать, что подростки никак не заметят это ноу-хау, которое сэкономит их время".

Вскоре после запуска чат-бота ChatGPT им за несколько дней воспользовалось более миллиона человек. Некоторые пользователи писали о нетрудных проблемах, вроде такого: как объяснить шестилетнему ребенку, что Санта-Клауса не существует? Другие запросы — например, как дописать сложную компьютерную программу — требовали более подробных, развернутых ответов.

Вполне очевидно, что для некоторых учеников это приложение станет большим искушением. К примеру, старшеклассник одной из школ на Среднем Западе США рассказал на условиях анонимности (из-за страха быть исключенным из учебного заведения), что он в нарушение школьных требований уже дважды пользовался этим генератором текста при подготовке домашнего задания. Эта идея пришла ему в голову после того, как в Твиттере он узнал, каким эффективным средством является пресловутый ChatGPT, выпушенный 30 ноября.

В домашнем задании по информатике этому ученику нужно было дать определения некоторым понятиям. Молодой человек вставил их в ChatGPT и практически сразу получил ответ, который затем от руки вписал в контрольную работу.

В тот же день молодой человек воспользовался генератором текста для написания фрагмента компьютерной программы в домашнем задании по все той же информатике. Он был в тупике, но ChatGPT пришел ему на помощь. По признанию ученика, он воспользовался текстовой подсказкой, и она сработала прекрасно. В общем, вскоре парень, по его словам, "подсел" на ChatGPT и в дальнейшем планирует применять для списывания на экзаменах именно его вместо сервиса Chegg (ресурс, предоставляющий помощь при выполнении домашних заданий), которым он пользовался раньше.

Молодой человек, по его словам, вовсе не боится, что его когда-нибудь поймают за руку ведь, как он полагает, преподаватель никогда не поверит, что ответы, написанные учащимся, на самом деле сгенерированы компьютером. К тому же, парень вовсе не испытывает каких-либо сожалений из-за того, что пользуется чат-ботом.

"Пусть теперь преподаватель лучше формулирует вопросы, — заявил молодой человек. – Используйте эту штуку себе на пользу. Только не повсеместно, а в разумных пределах".

ChatGPT был создан лабораторией искусственного интеллекта OpenAI, появившейся несколько лет назад при финансовой поддержке Илона Маска (Elon Musk). Упомянутый чат-бот работает на основе большой языковой модели (LLM): он представляет собой программное обеспечение на основе искусственного интеллекта, которое после обучения может предсказывать каждое последующее слово в предложении на основе анализа гигантских объемов текстов, выявляя закономерности методом проб и ошибок. Помощь в улучшении этого сервиса оказали пользователи — это для того, чтобы ответы, генерируемые ChatGPT, выглядели более разговорными. В результате многие отметили способность чат-бота создавать тексты, не лишенные юмора и даже приправленные глубокомысленными рассуждениями.

Тем не менее, некоторые из ответов ChatGPT оказались явно неправильными и даже с налетом предубеждений и предрассудков. Например, один из пользователей поручил чат-боту зарифмовать предложение в стиле рэп и в ответ получил следующую строчку: "Если женщина в медицинском халате, значит, она моет полы в больничной палате". Разработчики ChatGPT признают, что их чат-бот неидеален и своими ответами вполне способен вводить пользователей в заблуждение.

По мнению учителей, со временем качество чат-бота будет только возрастать и о нем будет известно все большему числу учеников. Возможно, что преподаватели при выставлении оценок будут учитывать потенциальную возможность использования учениками чат-бота. Например, они могут потребовать, чтобы учащиеся писали работы от руки или же во время занятий, то есть когда их можно проконтролировать. Другие представители учительского сообщества задумались над тем, каким образом следует составлять вопросы, чтобы при ответе от учеников требовалось более глубокое, нестандартное мышление, поскольку для чат-бота подобная задача трудновыполнима.

Проблема крайне актуальна. Многие преподаватели согласны с тем, что в процессе написания текста ученик сначала размышляет над заданной темой, а затем облекает ее в предложения. В самом начале учащийся, как правило, не знает, что хочет сказать, и лишь по мере написания раскрывает смысл темы. "Понимание приходит по мере написания, — подчеркивает Джошуа Уилсон (Joshua Wilson), доцент Педагогической школы Делавэрского университета. — Однако оно полностью утрачивается, если ученик всего лишь спешит перескочить к окончательному ответу".

В то время как в университетах все уже хорошо осведомлены о появлении нового чат-бота, продолжает Уилсон, многие преподаватели средних школ еще остаются в блаженном неведении.

"Среднестатистический школьный учитель просто пытается выставлять оценки в конце семестра, — добавляет Уилсон. – К нам определенно подбирается волна, которая грозит нас накрыть".

Заведующие кафедрами Университета Святейшего Сердца в штате Коннектикут уже обсудили вопрос о том, каким образом следует относиться к искусственному интеллекту. Преподаватели считают, что необходимо каким-то образом ему противостоять, заявляет адъюнкт-профессор истории Дэвид К. Томсон (David K. Thomson) из упомянутого университета.

Опытным путем Томсон установил, что чат-бот довольно хорошо справляется с вопросами, которые появляются во многих домашних заданиях: сравнить экономический уровень развития северных и южных американских колоний до Американской революции и другие подобные вопросы. "Ответ оказался далеко не идеален, — сказал Томсон. – Правда, и учащиеся колледжа тоже отнюдь не идеальны".

Но когда он задал более тонкий вопрос (например, какие доводы приводил Фредерик Дуглас против института рабства), ответ был гораздо менее убедительным. По его словам, при выставлении отметки преподаватели должны будут оценить то, насколько вдумчивым было объяснение, а не только факты, которые найти совсем нетрудно (Фредерик Дуглас — один из известнейших борцов за права чернокожего населения США — Прим. ИноСМИ.).

Вместе с тем, кто-то даже нашел некоторые плюсы в чат-ботах, поскольку они заставляют учителей основательнее подходить к составлению заданий, а также побуждают донести до учащихся мысль о необходимости работать самостоятельно — таково мнение доцента Миссисипского университета Джошуа Эйлера (Joshua Eyler), возглавляющего Центр передовых технологий в области преподавания и обучения, который не без сарказма упомянул о "тревожных настроениях с точки зрения нравственности".

"Образно говоря, появилось нечто аналогичное калькулятору, но только в области обучения сочинениям, — сказал Эйлер. – Так, в свое время с появлением калькулятора изменились методы обучения математике. Вот и теперь настал такой же момент, но в языковой сфере".

"Как и следовало ожидать, то, что мы сейчас наблюдаем, — это своего рода тревожные настроения с точки зрения нравственности. Есть большие опасения, что учащиеся воспользуются этими чат-ботами для списывания".

Однако, как заявил консультант по вопросам образования, издатель блога e-Literate Майкл Фельдстейн (Michael Feldstein), наряду с тревогой педагоги проявляют еще и любопытство. Так, например, некоторые преподаватели, которые ведут обучение в области коммерческих дисциплин, полагают, что искусственный интеллект, умеющий писать тексты, может оказаться вполне себе полезным инструментом. По словам Фельдстейна, будущие маркетологи могли бы не только в школе, но и в будущей работе пользоваться чат-ботом для написания рекламных текстов. Если от этого чат-бота есть польза, то что в этом плохого?

"Ведь в данном случае не обязательно делать из учащихся новых Хемингуэев. Они занимаются коммуникационными исследованиями, и чат-бот для них является просто еще одним подспорьем", — поясняет Майкл Фельдстейн. По его словам, самое главное, чтобы этот чат-бот использовался именно в качестве инструмента обучения, а не вместо образовательного процесса.

Пока учителя ломают голову над тем, как им жить с этой технологией, некоторые компании задумались над тем, как одержать над ней верх.

Так, например, компания Turnitin, создавшая широко используемое программное обеспечение для обнаружения плагиата, теперь занялась исследованием следующего вопроса: выявление текстовых материалов, созданных искусственным интеллектом.

Как утверждают представители Turnitin, письменные работы, созданные компьютером, во многом отличаются от тех работ, что пишут учащиеся. Автору-человеку присущи свои уникальные интонации, чего нет в текстах, созданных чат-ботом ChatGPT. Сочинение, написанное искусственным интеллектом, — это все равно, что текст, написанный среднестатистическим человеком. Однако, ни одного конкретного ученика нельзя подвести под некий средний уровень, поэтому стиль написанного им сочинения будет сохранять индивидуальность, полагает вице-президент Turnitin по искусственному интеллекту Эрик Ван (Eric Wang).

"С большой вероятностью они тяготеют к шаблонности, банальности", — полагает Ван.

Но определить тех, кто использует чат-бот для неправедных целей, будет все-таки непросто.

Научный сотрудник Саша Луччони (Sasha Luccioni) из стартапа Hugging Face, предоставляющего исходный код в открытом доступе, полагает, что компания OpenAI должна дать пользователям возможность доступа к коду ChatGPT, поскольку только в этом случае специалисты смогут создать действительно надежные инструменты для поимки тех, кто пользуется чат-ботом для неблаговидных целей.

"А то получается, как будто работаешь с черным ящиком, — продолжает Луччони. – Если у нас нет доступа к этим слоям программы и неизвестно, как именно они связаны между собой, то очень непросто будет создать эффективный инструмент обнаружения мошенничества".

Компания Hugging Face уже предложила подобный инструмент (он называется GPT-2), но только для предыдущей версии чат-бота. По заявлению компании, учителя с помощью GPT-2 смогут выявлять тексты, созданные чат-ботом ChatGPT. Правда, эффективность GPT-2 в отношении более продвинутых моделей чат-бота, по всей видимости, будет снижаться.

Приглашенный исследователь в компании OpenAI Скотт Ааронсон (Scott Aaronson) заявил, что OpenAI занялась разработкой различных способов борьбы с неправомерным использованием чат-ботов. Специалисты предлагают использовать водяные знаки, а также программы, которые умеют отличать текст, сгенерированный чат-ботом, от написанного человеком. Некоторые ставят под сомнение оптимальность использования водяных знаков.

"Мы все еще проводим эксперименты, чтобы выявить наилучший подход или сочетание подходов", — сообщил Ааронсон в электронном письме.

По поводу решения этой задачи сам чат-бот ChatGPT отреагировал по-своему. На вопрос, как противостоять возможному неправомерному использованию чат-бота, он дал несколько советов: информировать учащихся о губительных последствиях списывания, осуществлять контроль во время проведения экзаменов, предлагать учащимся более сложные вопросы и оказывать им всю необходимую поддержку, чтобы у них отпала необходимость в списывании.

"В конечном счете, необходимо доходчиво напоминать учащимся о том, насколько важна добросовестность в учебе. Также необходимо принять меры для предотвращения списывания, — пояснил чат-бот. — Эти меры помогут избежать списываний со стороны учеников".