Іронія долі чи ж тривожний дзвіночок у цифрову епоху – нова книга письменника Стівена Розенбаума, присвячена майбутньому правди та впливу штучного інтелекту на реальність, виявилася заплямованою численними фейковими цитатами, згенерованими саме тими технологіями, про які йдеться у творі. Журналісти авторитетного видання The New York Times провели ретельне розслідування, виявивши понад пів десятка таких неправдивих тверджень, які були помилково або навмисно приписані відомим особистостям. Автор, визнавши свою частку відповідальності за ці помилки, пояснив, що під час роботи над книгою активно використовував інструменти штучного інтелекту, зокрема ChatGPT та Claude, які навіть згадуються в розділі подяк, що додає ситуації ще більшої неоднозначності. Цей інцидент викликає глибокі роздуми про природу правди, надійність інформації в епоху ШІ та відповідальність творців контенту.
Штучний інтелект: помічник чи підступний гравець у світі інформації?
“У книзі зазначено, що я використовував інструмент штучного інтелекту, зокрема ChatGPT та Claude, під час дослідження, написання та редагування”, – каже Розенбаум. “Це не виправдовує помилок, за які я несу повну відповідальність. Наразі працюю з редакторами, щоб швидко виправити окремі уривки. Будь-які майбутні видання вийдуть без помилок”.
Стівен Розенбаум, будучи письменником та медіаекспертом, співзасновником і виконавчим директором Центру сталого розвитку медіа, начебто мав би бути обізнаним у питаннях достовірності інформації. Його книга “Майбутнє правди: як ШІ змінює реальність” / The Future of Truth: How AI Reshapes Reality, що вже сама по собі звучить як заклик до осмислення, мала б стати прикладом глибокого аналізу. Однак, виявлені фейкові цитати, зокрема ті, що були приписані відомій журналістці Карі Свішер, яка заявила, що ChatGPT змусив її звучати “наче зануда”, та дві цитати, які приписувалися професорці психології Лізі Фельдман Барретт, і які вона категорично заперечила, свідчать про зворотне. Барретт зазначила, що її наукові погляди щодо природи емоцій та конструювання правди значно складніші, ніж це було представлено в книзі. Ці випадки підкреслюють небезпеку сліпої довіри до генеративного ШІ, адже, як виявилося, інструменти, що покликані допомагати, можуть стати джерелом дезінформації. Крім того, у книзі виявлені реальні цитати, які були приписані не тим людям або джерелам, що ще більше підриває довіру до змісту. Розенбаум визнав, що його промах стане уроком і “попередженням щодо ризиків використання ШІ та необхідності фактчекінгу”, підкресливши, що саме для цього і була написана книга, хоча ці помилки, на його думку, не применшують ширших питань, які порушує книга про правду, довіру та штучний інтелект, його вплив на суспільство, демократію та діяльність редакцій.
Висновки та наслідки: урок для медіа та суспільства
Цей випадок є надзвичайно важливим сигналом для всієї медіаспільноти та суспільства в цілому. Він вкотре наголошує на критичній необхідності глибокого розуміння принципів роботи штучного інтелекту, його можливостей та обмежень. Відповідальність за перевірку фактів, ретельний фактчекінг та критичне осмислення інформації, отриманої за допомогою ШІ, лежить не лише на авторах, але й на читачах. Запровадження суворих етичних стандартів та процедур контролю якості для контенту, створеного за участю ШІ, стає нагальною потребою. Як зазначає експерт, “найдосконаліша модель ШІ – це дзеркало, що відображає нашу мораль: відшліфовану та чітку, але зрештою порожню всередині”. Ця цитата, хоча й приписана помилково, влучно ілюструє потенційну небезпеку, коли технології відображають не істину, а лише закономірності у даних, на яких вони були навчені, без розуміння етичних наслідків. Марія Ресса, журналістка та лауреатка Нобелівської премії, яка написала передмову до книги, закликає “дивитися в обличчя реальності чесно та невідкладно”, підкреслюючи цим актуальність проблем, порушених у книзі, попри виявлені недоліки. Зрештою, майбутнє правди залежить від нашої здатності залишатися пильними, критично мислити та вимагати прозорості й достовірності від усіх джерел інформації, включно з тими, що створені штучним інтелектом.
