Студенты списывают у ChatGPT. Образование под угрозой? (все не так просто)

ChatGPT - будущее сегодня.

ChatGPT — будущее сегодня.

За последние несколько месяцев языковые модели вроде GPT-3 стали доступны почти любому желающему пользователю интернета. Все бросились играть с ними — и вскоре обнаружили, что алгоритм неплохо справляется с домашними заданиями. Разбираемся, угрожают ли новые технологии образованию и науке.

«О боже, это началось, — написал в твиттере преподаватель ИТМО Павел Маврин. — Студент сдавал мне ДЗ, сгенерированное #ChatGPT, и я это понял, только когда начались задачи посложнее и он начал генерить совсем уж полную ахинею».

Он не первый и уж точно не последний преподаватель, столкнувшийся с этим. Всего несколько месяцев прошло после открытого релиза чат-бота, работающего на языковой модели GPT-3, а предприимчивые студенты уже генерируют с его помощью сочинения. А в Университете Миннесоты ChatGPT уже сумел сдать вступительный экзамен — без триумфа, но успешно.

Внешне это похоже на списывание у странноватого, но смышленого одноклассника. Ты пишешь ему задание: «Объясни в одном простом предложении, что такое GPT-3», и он отвечает: «GPT-3 (Generative Pre-trained Transformer 3) — это мощный языковой модели, которая используется для генерации текста и задач обработки языка». Как можно увидеть из этого примера, на русском языке он работает не так резво, как на английском, но все же работает. А уж на английском даже сейчас текст, выданный алгоритмом, на вид не отличается от написанного живым человеком.

Еще в 2019 году ученые из Корнельского университета провели исследование, в котором 500 участников оценивали правдоподобность статей из «Нью-Йорк Таймс» и текстов, сгенерированных GPT-2, предыдущей версией модели. Реальные статьи сочли правдоподобными 83%, сгенерированные — 72%. С тех пор технологии продвинулись далеко вперед, и убедительность «искусственных» текстов только усилилась.

Кажется, что профессионалы должны распознавать «творчество» компьютеров лучше, чем простые люди. Но на самом деле все куда запущеннее. Еще в 2005 году — за два года до релиза первого айфона — выпускник MIT Джереми Стриблинг с коллегами отправили на международную конференцию доклад под названием «Алгоритм типичной унификации точек доступа и избыточности». Доклад был принят — к ужасу авторов, признавшихся, что они его не писали. Текст был сгенерирован разработанным ими алгоритмом, который смешал несколько статей и сгенерировал графики, получив правдоподобно выглядящий, но абсолютно бессмысленный наукообразный текст.

В 2014 году издателям Springer и IEEE пришлось отозвать уже 120 опубликованных статей, оказавшихся автоматически сгенерированным бредом. До выхода первой версии языковой модели GPT, перевернувшей игру, оставалось четыре года — а люди уже попадали впросак.

Сейчас же, когда ChatGPT доступен любому желающему, а OpenAI уже готовит новую версию языковой модели, преподаватели запаниковали: теперь студентам даже не нужно будет искать, где списать сочинение. Вводишь пару строк в компьютер, ждешь минуту-другую — и готово. Кажется, доступность языковых моделей грозит навсегда обрушить систему образования. Или все не совсем так?

Ничего нового
На самом деле, если копнуть поглубже, оказывается, что ничего принципиально нового не произошло. Просто появился еще один инструмент, помогающий тем студентам, которые не хотят самостоятельно писать свои работы. Раньше эти студенты распечатывали рефераты, скачанные в сети; еще раньше покупали томик «1100 самых лучших школьных сочинений»; еще раньше договаривались за умеренную плату с отличниками. Говорят, что лень — двигатель прогресса; стоит ли удивляться, что и плодами этого прогресса первыми рады воспользоваться лентяи.