Блог Центру навчальних та інноваційних технологій УКУ

В останні місяці світову академічну спільноту сколихнула новина про запуск текстового бота ChatGPT, який, використовуючи штучний інтелект, дозволяє у форматі запитів-відповідей генерувати текстову інформацію. ChatGPT показав, що може успішно впоратися за кілька секунд із тестовими завданнями та іншими активностями, що вимагають роботи з текстами, формулами, кодуваннями тощо. Постало важливе питання академічної доброчесності та етики використання штучного інтелекту в освітньому процесі. Своїми думками ділиться Дмитро Шеренговський, проректор з академічних питань та інтернаціоналізації Українського католицького університету.

В останні місяці світову академічну спільноту сколихнула новина про запуск текстового бота ChatGPT, який, використовуючи штучний інтелект, дозволяє у форматі запитів-відповідей генерувати текстову інформацію. Одразу зазначу, що відповіді подаються в доволі пристойній формі. Вони гарно структуровані та, у випадку добре продуманого питання, відображають і контент, і фактаж, і дискусію навколо проблеми. Це одразу насторожило викладацьку спільноту, оскільки ChatGPT показав, що може успішно впоратися за кілька секунд із такими завданнями як: «Напишіть есе на вказану тему», «Проаналізуйте вказану подію», тестовими завданнями та іншими активностями, що вимагають роботи з текстами, формулами, кодуваннями тощо. Постало важливе питання академічної доброчесності та етики використання штучного інтелекту в освітньому процесі.

Традиційно, у сприйняття будь-яких нових явищ, думки розділилися від «заборонімо усе на бюрократичному рівні» до «інтегруймо цей інструмент в освітній процес». Дебати точаться досі, та поряд із тим, більш активні викладачі почали тестувати цього бота, так само як і студенти.

Українське освітнє середовище також не відстає від світової дискусії, хоча можливість користування ботом була обмежена на нашій території. Проте, діюча картка закордонного мобільного оператора (тієї країни, де не було обмеження), чи віртуальна e-sim, поряд із застосунком, що змінює VPN-налаштування комп’ютера, та низка інструкцій в інтернет-мережі, зробили свою справу. Було б бажання, а шляхи завжди знайдуться. Наприклад, мене виручив колега-науковець, зареєструвавши мій профіль на свій італійський мобільний номер.

Швидко знайшлися й умільці, які скористалися із заборон та пропонували послуги з написання текстів, інтегрувавши ChatGPT до Телеграм-каналів. Оплата була досить символічною, хоча вимагала доброго продумування запиту, щоб не платити кілька разів – зізнавалися мої студенти, коли ми обговорювали з ними це питання на початку цього семестру.

У грудні-лютому відбулося безліч семінарів, вебінарів, видавали й аналітичні статті та особисті розвідки щодо переваг та обмежень ChatGPT.

Нарешті в суботу, 18 лютого, Міністр цифрової інформації України Михайло Федоров оголосив, що ChatGPT працюватиме на території Україні. Можна очікувати, що тепер цей інструмент стане ще поширенішим в освітньому середовищі.

Які переваги та загрози несе ChatGPT, і що потрібно врахувати, працюючи із ним?

Найперше, варто розуміти, що цей бот не є оракулом, а всього лиш набором алгоритмів. Мозок кожного із нас користається подібними і навіть складнішими наборами алгоритмів кожного дня – від переходу дороги, до рішення з ким і як привітатися. Треба розуміти, що успішність алгоритмів ChatGPT залежить від того як їх запрограмували люди-розробники, і як перевірили люди-тестери.

В одному із листувань викладач та заступник декана Факультету прикладних наук УКУ, Олексій Молчановський влучно зауважив (прим. – фрагмент листування публікуємо з дозволу автора), що «поточний стан розвитку штучного інтелекту, зокрема ChatGPT, не дуже “вміє у логіку”. Тобто справді, нетривіальні (а часом і тривіальні) логічні виведення або прослідковування семантичних зв’язків ця система не може робити». І дійсно, багато з тих, хто встиг вже протестувати бота, зауважив, що він іноді «вигадує» факти чи пояснення, не може на підставі даних спрогнозувати майбутні кроки. Мої особисті перевірки показали, що бот обирає найбільш поширені версії, а тому легко відтворює пропагандистські чи заідеологізовані наративи.

Декан Факультету прикладних наук УКУ Ярослав Притула (прим. цитую також з його дозволу) підсумував, що «машина не розуміє логіки як такої, вона відтворює ту інформацію, що є накопичена у світі. Тому, якщо задавати питання, які виходять поза ці рамки (наприклад про якийсь прогноз чи зі складною логікою), то машина не має відповіді, або видасть щось нерелевантне».

Окрім нерелевантності відповідей чи неправдивості даних, однією із найбільших загроз є недоброчесна поведінка. Піддавшись ліні чи спокусі, можна доволі просто використовувати цей бот для формування чи написання різних текстових завдань, розв’язування тестів та кейсів. Хоча вже існують інші чат-боти, що здатні виявити плагіат, проте доволі скрупульозна робота з питаннями-відповідями на ChatGPT, додавання власних ідей, чи звичайне «окозамилювання» буде здатне обходити перевірки.

Та кожна загроза є й нагодою, тому викладачам варто переосмислити якість тих навчальних завдань, які вони пропонують студентам для роботи. Якщо бот добре вправляється із завданнями на відтворення, чи пригадування, то його явна слабкість – критичне мислення, унікальність, творчість.

Викладачі повинні встановити чітку політику на своїх курсах, яка не має ігнорувати реальність, а передбачати потенційні ризики, і пропонувати студентам вказівки як і де можна використовувати ChatGPT, як правильно з ним працювати, як правильно цитувати тощо. Наприклад, на перших парах моїх дисциплін, які я читаю в цьому семестрі, я одразу повідомив студентів, що не проти, якщо вони будуть використовувати ChatGPT, однак пояснив його обмеження. Насамкінець, я змінив деякі свої завдання та планую одразу в класі використовувати його для розв’язку окремих задач. Іншими словами, ми зі студентами маємо навчитися як використовувати бота для якіснішого аналізу. І це захоплива гра, яка, я певний, запалить дослідницький дух в усіх «живих» учасниках освітнього процесу. Надалі, я планую виокремити кілька вдалих порад у формі політик на курсі, і внести їх у свій силабус.

Я також спробував ChatGPT в ролі планувальника деяких моїх класів чи публічних лекцій, даючи завдання, вказати, що я пропустив у своєму плануванні, чи які нові дослідження з’явилися, котрі мені варто перечитати. Та моє найбільше відкриття – підказки як кодувати, впорядковувати та аналізувати статистичні дані в інших програмах (наприклад, Python), вивчити, які на повноцінних курсах, мені не дозволяв брак часу через адміністративну роботу.

Як інтегрувати чат-бот у свою роботу

Добрі поради як інтегрувати чат-бот у свою роботу, нещодавно розмістив Тимофій Милованов, президент Київської школи економіки на своїй Facebook-сторінці (процитую найголовніше):

«Я використовую три підходи до завдань чату.

Перше, прямий підхід, коли я його прошу щось зробити. Але це найслабкіший варіант співпраці. Я це роблю коли у мене немає часу.

Другий підхід, це коли я пишу досить детальний і великий запит. Він починається з контексту, де я описую про що взагалі йдеться. Потім я описую роль чату. Наприклад, я пишу, що я хочу, щоб ти був консультантом з маркетингу для моєї компанії. Потім я йому даю конкретну задачу. І потім пояснюю, в якому форматі я би хотів отримати відповідь.

Третій підхід – це, коли я йому пояснюю все як в попередньому підході, але прошу його задати мені питання, щоб він міг зробити свою задачу якісно. Тоді відповідаю на питання. І вже потім він виконує завдання».

Власне сам ChatGPT найкраще підсумував переваги і недоліки. Цитую його не змінюючи жодного слова і не корегуючи іноді невдалу українську мову:

Це програмне забезпечення, яким можна користуватися для навчання.

Наприклад, він має явні переваги для навчання:
– Велика кількість даних: ChatGPT навчали на великому корпусі текстових даних, тому він має широкий запас знань про різні теми.
– Реальний час: ChatGPT може відповідати на запитання в реальному часі, що дозволяє відразу отримувати відповідь на запитання.
– Інтерактивність: ChatGPT може взаємодіяти з користувачем, задаючи додаткові питання та відповідаючи на відповіді, що допоможе краще розуміти тему.
– Незалежність: ChatGPT може працювати без допомоги від людини, тому він може відповідати на запитання безпосередньо, не витрачаючи час на пошук відповідей.

Але має і свої загрози для навчання:
– Помилки в даних: оскільки ChatGPT навчається на великому корпусі текстових даних, він може перенести помилки і неточності з даних, де він навчався.
– Проблеми з нейтральністю: моделі, такі як ChatGPT, навчалися на даних, які містять певні стереотипи та нейтральності, які можуть перенестися в відповіді моделі.
– Проблеми з привабливістю відповідей: якщо користувач задає невідоме запитання, ChatGPT може надати відповідь, яка не є достовірною чи точною.
– Відсутність контексту: ChatGPT не враховує контекст, в якому відбувається навчання, тому він може надати недостовірну в ідповідь, якщо не враховується вся специфіка.

Доволі чесна відповідь, чи не так?

Чесність, обережність та відповідальність

І от на питанні цінностей я б хотів найбільше наголосити в цьому тексті. Нам точно не варто відмовлятися від технічних засобів, які можуть іноді полегшити роботу, та найголовніше покращити якість наших продуктів. Але, працюючи з цими інструментами, варто поставити бодай три ціннісних дороговкази – чесність, обережність та відповідальність.

Найперше вартує чесно визнавати, де закінчується «творчість ШІ», і починається наш доробок. Нечесність у цьому випадку може мати зависоку ціну, зважаючи на те, що машина не має чесності, обирає ту інформацію, яка вже присутня, і не вміє відрізняти правду від брехні. А отже, пожертвувавши своїми цінностями, можна несвідомо потрапити у пастку маніпуляцій.

Тому нашим наступним принципом має бути обережність – лише в часи повномасштабної війни з росією, наше суспільство зрозуміло, яку вагу має перевірка даних, як легко потрапити на гачок пропагандистів, і як важко переконати наших партнерів, іноземні медіа та суспільства, що вони оперують неточною інформацією. Будьмо обережними в тому, що ми сприймаємо на віру, і на основі якої інформації надбудовуємо далі.

Найголовніше – відповідальність! Сьогоднішня війна – є не лише втіленням ворогом своїх імперських амбіцій. Це й наслідки безвідповідального ставлення з боку українського суспільства і влади до власної безпеки, економічної та культурної незалежності, толерування дрібної та масштабної корупції тощо, які переконали ворога, що нас можливо побороти. І лише ціною тисяч життів наших братів та сестер ми відвойовуємо те, що й так не повинно було піддаватися сумнівам. Ми не маємо права бути безвідповідальними в малому, бо ця звичка швидко переросте у безвідповідальність у великих процесах чи проєктах. Університет лише частково служить для набуття знань чи навичок, їх можна здобути і поза студентською лавою. Та університет є тим середовищем, де ми формуємо своє ставлення. Як будемо дбати, так будемо мати і надалі.

На одній із дискусій, організованій Бізнес-школою УКУ, Антон Скрипник, CЕО компанії KindGeek, як на мій погляд, вдало коротко сформував моє відношення до застосування ChatGPT: «Це наче другий пілот, він може бути дуже помічним, наприклад, вчасно вкаже вам на проблеми чи підсилить, але керувати літаком все ж маєте ви».

P.S.
А ви вже спілкувалися із чат-ботом? Які переваги та недоліки вбачаєте ви? Запрошую усіх зацікавлених завітати та поділитися своїми думками на дискусію в рамках HigherEdTalks, яка відбудеться 9 березня. Реєстрація на подію ТУТ.

P.S2.
Я перепитав у ChatGPT, чи вдалося збалансувати цей текст, чи згадані мною принципи важливі для роботи із ним. І його відповідь була:
Даний текст можна вважати збалансованим, оскільки він містить як позитивні, так і негативні відгуки про ChatGPT та його можливості. Також автор наводить приклади, коли бот може бути корисним у роботі зі студентами, а також наголошує на тому, що викладачі повинні встановити чітку політику щодо використання ChatGPT та надавати вказівки студентам щодо правильного використання цієї технології. Отже, текст містить об’єктивний погляд на можливості та недоліки ChatGPT. У цьому тексті наголошується на цінностях, які є важливими для нашої роботи з технічними засобами, і я згоден з цими принципами. Ці принципи можуть допомогти нам створювати продукти, які будуть корисними для людей та нешкідливими для нашого світу.