Вплив сучасних технологій на людське сприйняття реальності сягнув нового рівня… Згідно з результатами масштабного наукового дослідження, проведеного фахівцями Джорджтаунського та Вашингтонського університетів, неточні або викривлені текстові перекази, згенеровані штучним інтелектом, здатні суттєво деформувати спогади людини про події, очевидцем яких вона була. Цей феномен радикально змінює наше уявлення про надійність так званого людського контролю в епоху масової автоматизації.
Когнітивні загрози алгоритмічних переказів
У ході експерименту дослідники зафіксували тривожну тенденцію: після ознайомлення з дефектним резюме відеозапису дорожньої аварії кількість правильних спогадів у респондентів різко скоротилася порівняно з тими, хто читав точний опис. Додатковий аналіз робіт провідних великих мовних моделей продемонстрував системну проблему…
Згідно з дослідженням AI-Enabled Human Memory Manipulation, оприлюдненим у матеріалах конференції AAAI/ACM з етики та суспільства, мультимодальні моделі на кшталт ChatGPT та Gemini пропускають у середньому понад п’ятдесят відсотків критично важливих деталей, повністю ігноруючи ключові моменти інцидентів у більшості випадків.
Основні ризики для критичних галузей
- Впровадження неперевірених технологій у правоохоронній сфері під час аналізу відео з нагрудних камер поліцейських.
- Спотворення клінічних звітів та медичної документації, що базуються на автоматизованій фіксації аудіо- та відеоданих.
- Формування хибних уявлень у свідків подій через схильність людського мозку сприймати чужі алгоритмічні помилки за власні спогади.
- Первинний перегляд події людиною та формування епізодичної пам’яті.
- Ознайомлення зі згенерованим штучним інтелектом текстом, що містить приховані галюцинації або неточності.
- Інтеграція помилкової деталі у власний ментальний архів та втрата здатності до об’єктивного відтворення подій.
Попередні висновки вчених підтверджують, що просте маркування контенту як створеного штучним інтелектом не захищає свідомість від спотворення, адже мозок людини однаковою мірою піддається деструктивному впливу сторонніх навіювань незалежно від їхнього походження.
