Google, технологічний гігант, який постійно прагне інновацій, нещодавно зіткнувся з неочікуваною проблемою, коли нова функція генерації зображень у Google Earth була фактично скасована менш ніж через добу після запуску. Це рішення було зумовлене стрімким усвідомленням потенціалу інструменту для поширення дезінформації, оскільки дослідники швидко виявили, що його можна легко використати для створення фальшивих супутникових знімків, включаючи вигадані ядерні об’єкти в Ірані та наслідки бомбардувань.
Наслідки швидкого запуску
Інструмент, який був представлений 30 липня, мав на меті інтегрувати модель Nano Banana 2 в Google Earth, дозволяючи користувачам створювати фотореалістичні аерофотознімки на основі текстових запитів. Однак, майже одразу після запуску виникли серйозні побоювання щодо того, що такі зображення можуть бути сприйняті як автентичні. Наприклад, досліднику Хенку ван Ессу з проєкту Digital Digging вдалося без особливих зусиль створити зображення додаткових таборів біженців поблизу кордону США та Мексики, фальшиві вирви від вибухів біля лікарні в Газі, а також ядерні об’єкти в Ірані, що викликало тривогу серед експертів.
Наведене зображення, яке було змінено за допомогою ШІ в Google Earth, демонструє вигадану сцену пожежі в Googleplex, штаб-квартирі Google та Alphabet, розташованій у Маунтін-В’ю, Каліфорнія. Це наочно ілюструє, як інструмент міг бути використаний для створення реалістичних, але неправдивих образів.
Заходи безпеки та майбутні плани
У відповідь на виявлені ризики, Google оголосила про тимчасове призупинення функції, щоб мати можливість запровадити додаткові механізми захисту. Компанія підкреслила, що жодне зі згенерованих зображень не потрапило до основної платформи Google Earth, що свідчить про оперативність її реакції.
“Ми знаємо, що люди довіряють Google Earth як надійному джерелу інформації про світ. Ми бачили, як фахівці з геопросторових даних використовували цю функцію для корисних цілей, однак також помітили, що деякі користувачі поширювали скриншоти створених зображень, які, ймовірно, порушували наші правила. Тому ми відкочуємо цю функцію, поки працюємо над впровадженням сильніших механізмів захисту”, – заявила компанія.
Цей інцидент підкреслює зростаючу складність забезпечення цілісності інформації в епоху генеративного штучного інтелекту. Це також викликає питання про відповідальність технологічних компаній за потенційне зловживання їхніми інноваційними інструментами.
Попередні випадки та галузеві тенденції
Варто зазначити, що це не перший випадок, коли великі технологічні компанії стикаються з подібними викликами. Минулого місяця Meta припинила підтримку функції Muse Image, яка дозволяла користувачам створювати зображення за допомогою публічних облікових записів Instagram, також через занепокоєння щодо потенційного зловживання.
Крім того, зростає тенденція до використання генеративного ШІ в різних сферах, включаючи створення контенту. Нещодавні новини про те, що китайці почали здавати свої обличчя в оренду для ШІ-драм, свідчать про нові, часто неочікувані, застосування цієї технології. Ці події вказують на необхідність постійного перегляду та вдосконалення політик безпеки та етичних норм у сфері розробки та використання штучного інтелекту.
- Google Earth використовує ШІ для генерації зображень.
- Функція була швидко закрита через ризик дезінформації.
- Дослідники продемонстрували можливість створення фейкових супутникових знімків.
- Google працює над посиленням заходів безпеки.
- Подібні проблеми виникали і в інших технологічних компаніях, таких як Meta.
Майбутнє Google Earth та подібних платформ залежатиме від їхньої здатності збалансувати інновації з відповідальністю, забезпечуючи надійність та достовірність інформації, яку вони надають користувачам по всьому світу.
