Генсек ООН Антоніу Гутерріш звернувся до світових лідерів із закликом серйозніше подбати про безпеку ШІ. На його думку, компанії та уряди вже не можуть обмежуватися заявами про відповідальність. Потрібні міжнародні норми, обов’язкові для всіх великих гравців.
Чому ООН турбує швидкість розвитку ШІ
Технологія змінилася за кілька років
Перші генеративні моделі писали прості тексти й малювали нескладні картинки. Нинішні системи працюють з відео, голосом, кодом, великими документами та базами даних. Їх використовують для пошуку ліків, аналізу даних і автоматизації бізнесу. У галузь вкладають десятки мільярдів доларів, а для держав ШІ став частиною економічного й технологічного суперництва.
Конкуренція тисне на безпеку
Тестування моделі та додаткові обмеження забирають час, а в гонці за ринок кожен місяць коштує грошей. Якщо одна компанія зупиниться для перевірок, конкурент просто випустить свій продукт раніше. Гутерріш попереджає, що за такої логіки безпека поступатиметься швидкості.
Що пропонують замість гальмування
Мова не йде про заборону чи паузу в розробках. Ідея в базових правилах, серед яких можуть бути:
- обов’язкові тести найпотужніших моделей до релізу;
- перевірка, наскільки система стійка до зловживань;
- відкрите інформування про ризики.
Які загрози вже існують
Підробки та дезінформація
Модель за секунди генерує правдоподібне фото, відео чи запис голосу. Розпізнати фейк стає дедалі важче, і цим користуються шахраї та автори маніпулятивних кампаній.
Інші ризики
Експерти також називають:
- складніші кібератаки з використанням ШІ;
- автоматизовані масові інформаційні операції;
- застосування моделей для створення небезпечних технологій;
- надмірну довіру людей до рішень, які ухвалює машина.
Зміни на ринку праці
Частину роботи копірайтерів, перекладачів, дизайнерів, програмістів, аналітиків і операторів підтримки вже виконують нейромережі. Професії не зникають за один день, проте цілі галузі перебудовуються швидше, ніж встигає законодавство.
Чому потрібна міжнародна координація
Національні закони мають межі
Жорсткі обмеження в одній країні мало що дадуть, якщо в сусідній подібні системи розвиватимуться вільно. Модель, створену в США, Китаї чи Європі, можна використовувати будь-де. Тому ООН хоче вести розмову на глобальному рівні й наполягає на прямих контактах між державами з найбільшим потенціалом у сфері ШІ.
Хто має сідати за стіл переговорів
Крім політиків, в обговоренні мають брати участь науковці, розробники, технологічні корпорації та громадські організації. Без бізнесу правила не напишеш, бо саме приватні компанії створюють більшість найсильніших моделей. Водночас довіряти їм самостійне регулювання небезпечно: вони одночасно відповідають за безпеку й борються за клієнтів та інвестиції.
Як регулюють ШІ сьогодні
Європейський AI Act
ЄС уже має власний закон. AI Act поділяє системи за рівнем ризику й висуває додаткові вимоги до найнебезпечніших сфер застосування.
Відсутність глобального стандарту
США, Євросоюз, Китай та інші технологічні держави обирають різні підходи залежно від своїх економічних інтересів і уявлень про допустимий рівень контролю. Узгодити єдину систему буде важко, а нові моделі тим часом з’являються постійно.
Наукова панель ООН з питань ШІ
Склад і завдання
ООН створила Незалежну міжнародну наукову панель зі штучного інтелекту з 40 експертів. Вони вивчають, як ШІ впливає на економіку, права людини, демократію, безпеку та суспільство.
Перевірка до запуску
Наслідки нової технології часто стають очевидними лише після її поширення. Сервіс на базі ШІ може за кілька місяців отримати мільйони користувачів, і виправити проблему постфактум дуже складно. Звідси ідея тестувати найпотужніші моделі ще до масового релізу.
Користь ШІ і нерівний доступ до нього
Де технологія вже допомагає
ООН не закликає відмовлятися від ШІ і визнає його переваги. Нейромережі використовують у медицині, науці, освіті, аграрному секторі та прогнозуванні природних явищ. Вони пришвидшують розробку ліків, допомагають читати медичні знімки й обробляти обсяги даних, непосильні для людини.
Розрив між країнами
Найкращі моделі та обчислювальні потужності зосереджені в кількох державах і великих корпораціях. Бідніші країни не можуть дозволити собі участь у цих перегонах. Гутерріш раніше пропонував заснувати глобальний фонд на 3 млрд доларів для підтримки держав, що розвиваються, у доступі до технологій та інфраструктури ШІ.
Ширше коло питань
Лідерам доведеться вирішити, хто писатиме правила, хто матиме доступ до новітніх розробок і чи не поглибиться прірва між власниками потужних моделей та тими, хто залежить від чужих.
Безпека ШІ на Генасамблеї ООН
Гутерріш збирається обговорювати цю тему на зустрічах зі світовими лідерами. Люди вже щодня застосовують ШІ в роботі, навчанні, програмуванні та створенні контенту, а можливості моделей зростають майже щомісяця. Суперечка про те, чи варто розвивати технологію, відійшла в минуле. На порядку денному інше питання: як не допустити перегонів без спільних правил.
