Панель ООН закликає швидко врегулювати ризики ШІ та нерівність

• Панель ООН попереджає про звуження часу для створення міжнародного нагляду за ШІ та підкреслює проблему концентрації обчислювальних ресурсів.
• У звіті розглядають ризики дезінформації, шахрайства, кібератак і зловживань, а також екологічний вплив дата-центрів.
• Окремо вказано на нерівний доступ, відмінності між мовами та приклади небезпечних помилок у медичному перекладі.

Під час запуску попереднього звіту Незалежної міжнародної наукової панелі ООН з питань штучного інтелекту зазначено, що розвиток ШІ випереджає здатність урядів його регулювати, а вікно для створення ефективного глобального нагляду може звужуватися.

У звіті наголошується на проблемі концентрації: США контролюють близько трьох чвертей обчислювальної потужності, а Китай має приблизно 15%. У підсумку обидві країни разом забезпечують близько 90% обчислень, що використовуються для навчання найздатніших систем, а також багато «фронтирних» моделей створюють компанії, штаб-квартири яких розташовані в цих державах.

Панель попереджає, що доступ до інструментів ШІ сам по собі не гарантує рівної користі. У країнах, які покладаються на іноземні моделі, хмарну інфраструктуру та канали даних, може з’явитися доступ до технології, але водночас зменшується практичний контроль над стандартами, запобіжниками та локальною відповідністю.

У звіті також йдеться про ризики зловживань. Зазначені теми включають шахрайство, фейковий контент та інструменти для створення матеріалів сексуального насильства, а також кібератаки й дезінформацію. Окремо підкреслюється, що фізичний «слід» ШІ пов’язаний із енергоємними дата-центрами та їхнім впливом на викиди парникових газів.

Згадуються й питання безпеки та нагляду за дедалі потужнішими моделями, а також складність оцінювання ризиків. У звіті зазначено, що багато країн, включно з частиною розвинених економік, не мають достатньої технічної експертизи, щоб оцінювати найздатніші «фронтирні» моделі або брати змістовну участь у їхньому врядуванні.

Серед практичних кроків для держав, які відстають у розвитку ШІ, називають інвестиції в обчислювальну та даніову інфраструктуру, а також необхідність забезпечувати надійні поставки енергії та будувати дата-центри. Водночас підкреслюється, що такі інфраструктурні рішення мають екологічні витрати, зокрема через споживання води.

Окремий блок присвячено цифровому розриву. У звіті зазначено, що більшість мов залишаються поза увагою: генеративні інструменти добре працюють англійською та іншими поширеними мовами, тоді як для більшості мов продуктивність нижча або доступ обмежений. Також вказано, що понад 2 млрд людей, майже третина населення світу, повністю офлайн.

Панель описує приклад небезпечних помилок перекладу, коли машинний переклад плутає інфекції та ліки, а також підкреслює, що такі неточності можуть мати критичні наслідки для здоров’я. При цьому в звіті наведені й можливості: використання ШІ для раннього виявлення хвороб, підтримки в освіті та аграрному секторі, а також для прогнозування структур білків, що застосовується в дослідженнях ліків і антибіотикорезистентності.

Звіт позиціонується як науковий інструмент для урядів: він має надати початкові орієнтири щодо того, як реалізувати потенціал ШІ для зростання в різних галузях і водночас зменшувати загрози.

Теги: Технології/Дослідження/ШІ