Рішення німецького суду, що зобов’язує Google нести пряму відповідальність за неправдиву інформацію, яку поширює його сервіс AI Overview, відкриває нову еру в регулюванні контенту, генерується штучним інтелектом. Цей прецедент є особливо значущим, зважаючи на те, що німецьке законодавство традиційно надає пошуковим системам значний захист від відповідальності за сторонній контент, проте, як виявилося, цей захист не поширюється на огляди, створені штучним інтелектом, які суд класифікував як “власний контент компанії”, а не просто агрегацію результатів пошуку.
Суть справи: Як AI Overview ввів в оману
Причиною судового розгляду стали суттєві неточності, що були виявлені в AI Overview, який, за запитами користувачів, пов’язував двох мюнхенських видавців із шахрайськими схемами, нав’язливими підписками та сумнівними діловими практиками. Розслідування показало, що штучний інтелект безпідставно змішав інформацію про різні компанії, створюючи зв’язки, які не мали жодного підтвердження в реальних джерелах або в дійсності.
Реакція видавців та ігнорування з боку Google
Після виявлення неправдивої інформації, видавці звернулися до Google з вимогою припинити її поширення. Однак, за їхніми словами, компанія не вжила належних заходів для вирішення проблеми, що призвело до звернення до суду. Наразі рішенням суду Google тимчасово заборонено поширювати недостовірні відомості про видавців.
Аргументи Google та реальна картина помилок
Представники Google на слуханні стверджували, що система AI Overview дозволяє користувачам самостійно перевіряти надані посилання на джерела, щоб переконатися в достовірності згенерованого ШІ викладу. Крім того, вони висловили думку, що користувачі нібито усвідомлюють, що “згенерованій інформації не слід сліпо довіряти”.
Однак, нещодавнє дослідження ставить під сумнів ці твердження, виявивши, що AI Overview помиляється приблизно у 9% випадків. Хоча така похибка може здатися допустимою, її масштаби вражають, враховуючи, що сервісом користуються 2 мільярди людей щомісяця. Екстраполяція цих даних на річний період свідчить про десятки мільярдів взаємодій, де потенційно може бути присутня неправдива інформація. Крім того, дослідження виявило проблеми з наданням джерел: 56% правильних відповідей AI Overview неможливо підтвердити за допомогою зазначених джерел.
Подальші кроки та розвиток технологій
Це рішення суду ставить під сумнів надійність інформації, що генерується штучним інтелектом, і може спонукати Google до більш відповідального підходу до модерації контенту. Цікаво, що Google вже дозволив сайтам видаляти себе з результатів ШІ-пошуку, що може бути спробою пом’якшити потенційні ризики. Крім того, останні оновлення Google Пошуку, що включають ШІ-агентів та “розумний” рядок пошуку, свідчать про прагнення компанії інтегрувати ШІ глибше в свої сервіси, що робить питання відповідальності за контент ще більш актуальним.
Важливість рішення для майбутнього
Рішення німецького суду є важливим кроком у формуванні правового поля для технологій штучного інтелекту. Воно підкреслює необхідність розробки чітких правил і стандартів для ШІ-систем, щоб уникнути поширення дезінформації та захистити права користувачів і компаній. Подальший розвиток подій буде уважно відстежуватися як представниками технологічної індустрії, так і юридичною спільнотою.
