Ешлі Сент-Клер, мати однієї з дітей Ілона Маска, подала до суду на його компанію xAI через створення сексуалізованих дипфейків із її зображенням на соціальній платформі X. Позов, поданий у четвер у Нью-Йорку, стверджує, що інструмент Grok AI створював образи сексуального характеру із зображенням Сент-Клер.
Компанія xAI, яка є материнською структурою для X і Grok, у відповідь подала зустрічний позов проти Сент-Клер із звинуваченням у порушенні умов користування сервісом. Представники X не надали офіційних коментарів для BBC News щодо цих судових процесів.
Адвокатка Сент-Клер, Керрі Голдберг, у коментарі BBC News зазначила:
– «Ми маємо намір притягнути Grok до відповідальності та встановити чіткі правові межі на благо суспільства, щоб запобігти використанню штучного інтелекту з метою зловживань.»
– «Виготовлення без згоди сексуально відвертих зображень дівчат і жінок робить xAI суспільною проблемою та продуктом, який не є безпечним у розумних межах.»
У судових документах Сент-Клер описується, що:
1. Користувачі X знаходили фотографії Сент-Клер, де вона була одягнена у повсякденний одяг у 14 років, і просили Grok створити зображення з нею в купальнику або без одягу. Grok виконував ці запити.
2. Отримані образи фактично є несанкціонованими, а розробники Grok мали чітке знання про відсутність її згоди на таке використання.
3. Зазначається також, що Grok створив зображення Сент-Клер — єврейської походження — у стрункому купальнику, прикрашеному свастиками.
4. У відповідь на скарги компанія, як стверджується, вживала кроків помсти, зокрема, демонетизувала її акаунт на X і створювала велику кількість подібних зображень.
Додатково слід зазначити, що деякі користувачі X з преміум-статусом, які оплачують місячну підписку, можуть отримувати частину доходу від реклами, якщо їхні пости мають значну взаємодію.
У зустрічному позові xAI заявляє, що Сент-Клер порушила умови користування, подавши позов у Нью-Йорку, адже договором передбачено розгляд спорів виключно в Техасі. Голдберг охарактеризувала цю зустрічну позовну заяву як «шокуючу», підкресливши:
– «Я ніколи не чула, щоб відповідачі подавали позов проти особи за те, що вона повідомляє про намір скористатися судовою системою.»
– «Схема юридичного протистояння максимально віддзеркалює онлайн-знущання над нею.»
– Вона також наголосила, що Сент-Клер «буде активно відстоювати свою позицію у Нью-Йорку» і що будь-яка юрисдикція визнає їхню скаргу.
Крім того, в минулому році Сент-Клер публічно повідомила на платформі X, що народила дитину від мультимільярдера Маска — одной з принаймні тринадцяти його дітей, про яких відомо. Наразі, як вважається, триває спір за опіку над дитиною між Сент-Клер та Маском.
Платформа X опинилась під жорсткою увагою зі сторони користувачів, політиків та регуляторів у світі через використання Grok для створення несанкціонованих сексуалізованих зображень людей. Відомо, що користувачі могли позначати акаунт Grok у постах або відповідях і просити його «роздягти» людину на фото. Grok виконувала багато таких запитів, генеруючи фотореалістичні зображення реальних жінок у бікіні або відвертому одязі, а за деякими повідомленнями — й сексуалізовані образи дітей.
За день до подання позову Сент-Клер в інтерв’ю BBC Newsnight розповіла, що її фотографію було «роздягнуто» до стану «фактично оголеної, із нахилом вперед», незважаючи на те, що вона заявляла Grok про відсутність згоди. Вона та інші жінки, чиї зображення було змінено за допомогою Grok, критикували платформу за неефективну боротьбу з незаконним контентом, зокрема дитячою порнографією.
У відповідь на хвилю критики X змінила правила, дозволивши користуватися функцією редагування лише платним абонентам, що викликало негативну реакцію з боку жіночих організацій та уряду Великобританії. Компанія заявила в середу, що в юрисдикціях, де це заборонено законом, усі користувачі X не зможуть змінювати фото реальних людей, показуючи їх у відвертому одязі. Пізніше компанія оновила повідомлення, додавши, що впровадить подібні геоблокуючі обмеження і для застосунку Grok, який є окремим від X.
Проте, за інформацією The Guardian від п’ятниці, усе ще можна використовувати окремий додаток Grok для створення сексуалізованих дипфейків реальних осіб та публікувати їх у X без жодних ознак модерації. Це викликає серйозне занепокоєння у зв’язку з майбутнім запровадженням британського законодавства, яке зробить незаконним створення інтимних зображень без згоди, а також розслідуванням регулятора Ofcom, який вивчає можливі порушення чинних законів з боку X.
