Головний прокурор Каліфорнії розпочав розслідування щодо поширення сексуалізованих AI дипфейків, створених за допомогою штучного інтелекту Grok, розробленого компанією Ілона Маска, xAI.
У своїй заяві генеральний прокурор Роб Бонта підкреслив шокуючий масштаб випадків розміщення без згоди користувачів матеріалів із сексуально відвертим змістом, які були опубліковані в останні тижні за допомогою технології Grok. Компанія xAI, яка є розробником Grok, раніше заявляла, що будь-хто, хто використовує або стимулює Grok для створення незаконного контенту, понесе такі ж наслідки, ніби завантажував цей контент особисто.
Розслідування Каліфорнії розпочинається на тлі попереджень британського прем’єр-міністра сера Кіра Стармера про можливі заходи проти платформи X.
За словами Бонти, у середу було зазначено:
– Матеріали, що зображують жінок і дітей у голому та сексуально відвертому вигляді, використовуються для переслідування людей в інтернеті.
– Виконавчий орган штату закликав компанію xAI негайно вжити заходів.
– Губернатор Каліфорнії Гевін Ньюсом, який також є демократом, зазначив у дописі на платформі X, що рішення xAI «створити і забезпечити середовище для хижаків» є огидним.
Компанія xAI наразі не надала офіційних коментарів на запити BBC.
У відповідь на ситуацію Ілон Маск у середу повідомив на X, що не має інформації про жодні оголені знімки неповнолітніх, створені Grok, підкреслюючи, що платформа не генерує зображення самостійно, а лише за запитами користувачів. Техномільярдер, відомий як великий донор Республіканської партії, також висловив думку, що критика на адресу платформ X викликана політичними мотивами і використовується як привід для цензури.
Слід зазначити, що ще у листопаді журнал Wired повідомляв про подібне використання інструментів штучного інтелекту інших компаній, таких як OpenAI і Google, для цифрового “роздягання” людей.
Нещодавно троє сенаторів від Демократичної партії США вимагали від Apple та Google видалити додатки X і Grok із їхніх магазинів додатків. Відповідно до цього, вже протягом кількох годин після звернення функція генерації зображень на платформі X була обмежена лише для платних підписників. Незважаючи на це, додатки X і Grok досі доступні в Apple App Store та Google Play.
Ця ситуація викликала широку дискусію щодо того, чи несуть американські технологічні компанії відповідальність за вміст, який користувачі створюють на платформах зі штучним інтелектом.
Основні аспекти цього питання:
1. Розділ 230 Закону про комунікаційну гідність 1996 року надає юридичний імунітет онлайн-платформам за контент, створений користувачами.
2. Професор Джеймс Грімельман з Корнельського університету наголосив, що цей закон захищає лише контент третьої сторони, але не той, який виробляють самі платформи.
3. Він підкреслив, що xAI намагається перекласти відповідальність за споріднені зображення на користувачів, але сумнівається, що така позиція витримає судове розглядання.
4. Тобто, особливість випадку полягає в тому, що саме xAI створює ці зображення, а не користувачі самотужки.
Сенатор Рон Вайден з Орегону, який є співавтором Розділу 230, заявив, що цей закон не поширюється на зображення, створені штучним інтелектом, і наполягає на повній відповідальності компаній за такий контент.
Вайден нагадав BBC, що радий бачити дії окремих штатів, зокрема Каліфорнії, які втручаються у питання поширення матеріалів із гвалтування дітей, створених за допомогою AI.
Зазначимо, що він є одним із трьох демократів-сенаторів, які звернулися до Apple і Google із проханням вилучити додатки X і Grok зі своїх сервісів.
Одночасно у Великобританії готують законодавство, яке заборонятиме створення інтимних зображень без згоди на це. Офком, регулятор теле- і радіомовлення у Великій Британії, також розпочав своє розслідування щодо Grok.
У разі визнання порушень законодавства платформа може отримати штраф у розмірі до 10% від глобального доходу або 18 мільйонів фунтів стерлінгів, залежно від того, яка сума більша.
У понеділок сер Кір Стармер заявив членам парламенту від Лейбористської партії, що соціальна мережа Ілона Маска X може втратити право на саморегулювання, додавши: «якщо X не контролює Grok, ми це зробимо».
