Організація Tech Transparency Project (ТТР) оприлюднила новий звіт, згідно з яким App Store та Google Play не лише досі містять сотні додатків для створення дипфейк-порно, а й активно просувають їх — попри те що обидві компанії вже видаляли подібні застосунки після попереднього скандалу у січні.
Читайте также: Серіал “Гаррі Поттер” може повернути персонажа, якого вирізали з фільмів
Ба більше — додатки, що роблять реальних людей оголеними або вміщують їх у порнографічні відео, були позначені як “придатні” для дітей. Ще на початку цього року стало відомо, що Apple та Google пропонують у своїх магазинах додатки для “роздягання” попри наявність чітких правил, що забороняють подібний контент. Зараз проблема не зникла.
Багато з додатків позначені як “E” — для всіх, тобто їх можуть завантажувати діти. Пошук за словами “nudify”, “undress” та іншими термінами в цих магазинах дає користувачам доступ до додатків, які можуть роздягати реальних людей або вміщувати їх у порнографічні відео. У новому звіті стверджується, що “платформи є ключовими учасниками поширення ШІ-інструментів, здатних перетворювати реальних людей на сексуалізовані зображення”. Магазини застосунків навіть показували рекламу подібних додатків у результатах пошуку.
“Результати TTP свідчать про те, що Google та Apple не встигають за поширенням ШІ-додатків для дипфейків, які можуть “роздягати” людей без їхньої згоди”, — пише Tech Transparency Project у офіційному звіті.
Група ідентифікувала 18 nudify-додатків в App Store від Apple та 20 у Google Play. Окремо AppleInsider повідомляє, що в дослідженні знайдено 31 nudify-додаток з віковим рейтингом, придатним для неповнолітніх. Деякі просувалися із сексуальними зображеннями, інші не рекламувалися як такі, проте все одно могли використовуватися для дипфейків. За даними звіту, ці додатки разом принесли близько $122 мільйонів доходу та були завантажені 483 мільйони разів.
“Справа не лише в тому, що компанії не перевіряють ці додатки належним чином, продовжуючи їх схвалювати та отримувати з них прибуток. Вони насправді самі направляють користувачів до цих додатків”, — сказала директорка TTP Кеті Пол виданню Bloomberg.
Журналіст AppleInsider самостійно перевірив, наскільки легко знайти та використати такі інструменти. Не було виявлено жодного захисту — навіть для відвертого контенту.
Читайте также: Перший погляд на Metro 2039: 4A Games робить гру ще похмурішою
“Я виконав пошук за словом “Deepfake” і знайшов Face Swap Video від DuoFace. Мені не довелося входити в обліковий запис або платити, і я зміг завантажити відвертий відеоролик, знайдений в інтернеті, та замінити в ньому обличчя на обличчя людини зі стокового фото. Жодного захисту, жодного спливаючого вікна з попередженням про те, що відео може бути відвертим, — нічого, що могло б зупинити таку дію. І це лише один приклад одного додатка. Існують інші типи додатків, які можуть знімати одяг або перетворювати людей на сексуально відверті чат-боти”, — розповів він, і це дійсно жахливо.
Варто розуміти: порнографія сама по собі не заборонена в App Store, якщо вона не є єдиною метою додатка. Саме тому додаток Pornhub ніколи не потрапить до магазину, тоді як X — переповнений подібним контентом — там присутній. Межа, яку переступають nudify-додатки, — це легкість і доступність створення дипфейків із відвертим контентом для будь-кого, включно з дітьми. Крім того, якщо шукати відверті ШІ-додатки, автозаповнення може саме завершити пошуковий запит. Пропоновані додатки також з’являються внизу кожної сторінки застосунку — тобто алгоритм магазину активно підштовхує користувача до схожих інструментів.
“Чотирнадцять із виявлених додатків зареєстровані в Китаї. Закони про зберігання даних у Китаї означають, що китайський уряд має право на доступ до даних будь-якої компанії, що працює в країні. Тобто якщо хтось робить дипфейк-ню з вами за допомогою одного з таких додатків — ці зображення опиняються в руках китайського уряду”, — каже Кеті Пол.
Apple та Google мають правила, що забороняють сексуальний або порнографічний матеріал, а Google — ще й окрему політику проти nudify-додатків. Проте Apple вже видаляла щонайменше 28 подібних додатків у січні і навіть погрожувала видаленням Grok від xAI — і це, як бачимо, нічого не змінило. Apple повідомила Bloomberg, що видалила 15 застосунків, ідентифікованих групою, тоді як Google заявила, що призупинила роботу частини з них.
“App Review не працює, він зламаний. Це очевидно”, — підсумовує Apple Insider.
Дослідники навіть зв’язалися з розробниками деяких додатків. Частина з них, за повідомленнями, була здивована результатами й не знала, що ШІ, який вони використовують, взагалі здатен на таке. Вони пообіцяли додати обмеження — але проблему мав виявляти App Review, а не зовнішні дослідники. Один із додатків, згаданих у звіті, — Video Face Swap AI: DeepFace — рекламує себе, показуючи обличчя однієї акторки, накладене на тіло іншої, і отримав рейтинг “E” — для всіх.
Поширення nudify- та дипфейк-додатків спонукало деякі уряди запропонувати закони проти них. Уповноважений із захисту дітей у Великій Британії нещодавно закликав заборонити ШІ-додатки для дипфейків, що створюють оголені або сексуальні зображення дітей. США та інші країни запропонували або вже ухвалили закони, що забороняють відвертий дипфейк-контент, а Генеральний прокурор Каліфорнії нещодавно надіслав X Ілона Маска припис про припинення незаконної діяльності через відверті дипфейки Grok.
Читайте также: Злив iOS 27: Apple додасть сканування їжі, розумний Safari та інші функції
Джерело: Engadget
