Науковий архів arXiv, що є однією з найвпливовіших платформ для попередньої публікації наукових досліджень, запроваджує суворіші правила щодо використання штучного інтелекту (ШІ) у наукових роботах. Ця ініціатива покликана боротися з необережним або зловмисним використанням ШІ, яке може призвести до появи статей із помилками, вигаданими посиланнями та іншими дефектами, що підривають довіру до наукового процесу. Як наслідок, автори, чиї роботи міститимуть неприйнятний ШІ-контент, можуть зіткнутися з річною забороною на подальші публікації на платформі.
Посилення контролю над ШІ-контентом на arXiv
Томас Діттеріх, член редакційної ради та команди модерації arXiv, повідомив про нову політику, яка запроваджує санкції за “неприйнятний ШІ-контент”. До таких порушень належать:
- Фейкові цитати
- Плагіат
- Упереджені формулювання
- Помилки
- Оманлива інформація
У разі виявлення подібних порушень, усі автори статті будуть позбавлені права на нові публікації в arXiv протягом одного року. Після закінчення цього терміну їхні подальші роботи будуть прийматися лише після проходження повноцінного процесу рецензування (peer review) у науковому журналі, що є значно жорсткішою процедурою. Важливо зазначити, що правила arXiv чітко підкреслюють: відповідальність за зміст статті повністю лежить на авторах, а не на інструментах ШІ, які вони використовували.
“Відповідальність за зміст статті несуть саме автори, а не ШІ-інструменти, які вони використовували.”
Наслідки для наукової спільноти
Ці нововведення можуть мати суттєві наслідки для багатьох наукових галузей, особливо для таких, як фізика та астрофізика, де arXiv вже давно став ключовою платформою для швидкого поширення результатів досліджень та їх обговорення ще до офіційного рецензування. В останні роки спостерігається тривожна тенденція: у наукових роботах все частіше виявляються ознаки необробленого ШІ-контенту, починаючи від вигаданих джерел та нелогічних схем і закінчуючи випадково залишеними в тексті запитами (prompts) до чатботів.
Водночас, Діттеріх зазначає, що система модерації arXiv передбачає механізм оскарження рішень, що покликаний запобігти зловживанням та уникнути ситуацій, коли фальшиві публікації можуть бути видані від чужого імені. Цей аспект важливий для забезпечення справедливості та прозорості процесу.
Попередній досвід та аналогії
Схожі проблеми вже змусили інші наукові установи переглянути свої підходи. Наприклад, Принстонський університет скасував свій “кодекс честі”, який діяв 133 роки, частково через виклики, пов’язані з ШІ, і повернувся до нагляду за іспитами. Це свідчить про те, що наукова спільнота в цілому шукає шляхи адаптації до нових технологій, зберігаючи при цьому високі стандарти академічної доброчесності.
Впровадження суворіших правил на arXiv є логічним кроком у відповідь на зростаючу кількість проблем, пов’язаних з використанням ШІ. Це має на меті захистити цілісність наукових публікацій і забезпечити, щоб дослідження, представлені на платформі, відповідали найвищим стандартам якості та достовірності.
