Малайзія та Індонезія заблокували доступ до штучного інтелекту (ШІ) чат-бота Grok, створеного Ілоном Маском, через його можливість генерувати сексуально явні дипфейки. Цей інструмент, доступний на платформі X, що належить Маску, дозволяє користувачам створювати зображення. Проте, в останні тижні Grok використовували для редагування фото реальних людей з метою показати їх у відвертому вбранні.
Влада південно-східноазіатських країн зазначила, що Grok може бути застосований для створення порнографічних та неконсенсуальних зображень із залученням жінок і дітей. Малайзія та Індонезія стали першими у світі, які запровадили заборону на цей штучний інтелект.
Представники платформи Grok BBC не надали коментарів. Раніше Ілон Маск заявляв, що критики його платформи лише шукають будь-які підстави для цензури.
Крім того, Grok та компанія X опинилися під тиском і у Великобританії. Міністр цифрових технологій Ліз Кендалл підтримала вимоги блокувати доступ до соціальної мережі через недотримання законів про безпеку в Інтернеті.
Протягом вихідних у Малайзії та Індонезії комунікаційні відомства оприлюднили свої рішення щодо Grok окремими заявами. Зокрема:
– Малайзійська комісія з комунікацій та мультимедіа заявила, що упродовж року надсилала компанії X попередження з вимогою посилити контроль через «повторне використання» Grok для створення шкідливого контенту.
– У відповіді компанія зосередилася переважно на процесі подачі скарг від користувачів, не вирішивши суттєві ризики, пов’язані з конструкцією платформи.
– Регулятор повідомив, що блокування Grok триватиме доти, доки не буде впроваджено дієві заходи безпеки, й закликав громадськість повідомляти про шкідливий контент в Інтернеті.
Меутя Хафід, міністр зв’язку та цифрових справ Індонезії, у дописі в Instagram наголосила, що використання Grok для створення сексуально явного контенту є порушенням прав людини, гідності та онлайн-безпеки. Водночас міністерство звернулося до X з проханням надати пояснення щодо використання Grok.
Варто додати, що індонезійські органи влади в останні роки посилили боротьбу з іншими джерелами порнографії в Інтернеті. Так, у країні вже заборонені популярні платформи, такі як OnlyFans та Pornhub.
Британський медіарегулятор Ofcom найближчим часом має ухвалити рішення щодо подальшої долі Grok у країні.
Світова спільнота, включно з прем’єр-міністром Великобританії Кіром Стармером, засудила використання Grok для створення сексуалізованих образів, охарактеризувавши це явище як «ганебне» та «огидне».
Цікаво, чи дійсно лише Grok та X винні в цій ситуації? Чи не варто звернути увагу на самих користувачів, які бездумно експлуатують технології? Завжди знайдеться хтось, хто зловживає інструментами, але, можливо, варто спочатку навчити людей навичкам безпечного використання, а не просто блокувати все підряд 🤔?
Цікаво, як швидко технології можуть стати двосічним мечем. Я живу в країні, де заборонено багато сайтів, і моя думка, що боротьба з онлайн-порнографією має бути комплексною. Заборони можуть лише загнати проблему в тінь, а не вирішити її. Grok, як інструмент, не винен сам по собі. Справжня проблема в тому, як люди його використовують.
Цікаво, а які саме заходи безпеки мають намір впровадити платформи Grok та X, щоб уникнути подібних ситуацій у майбутньому? Чи є вже якісь конкретні кроки, які вони планують реалізувати? Влада Малайзії та Індонезії зазначила, що блокування триватиме доти, поки не вирішать ці питання, але як швидко це може статися?