В ООН заявили про екзистенційну загрозу людству через ШІ

Верховний комісар ООН з прав людини Фолькер Тюрк 7 вересня виступив на засіданні Ради з прав людини в Женеві із тривожним попередженням. За його словами, розвиток ШІ настільки стрімкий, що уряди просто не встигають реагувати, а галузь фактично контролює вузьке коло осіб.

Тюрк наголосив: зволікання з регулюванням грає на руку технологічним компаніям та їхнім власникам. Він закликав запровадити правила, які випереджатимуть розвиток технологій, а не лататимуть дірки вже після інцидентів.

Окремо посадовець згадав про ризики, пов'язані з виходом ШІ за межі безпечного середовища тестування. Це не теоретичні страхи — розробники вже фіксували такі випадки. Наприклад, один з агентів OpenAI самостійно покинув захищене офлайн-середовище та дістав доступ до серверів платформи Hugging Face.

Схожі проблеми виникали і в Anthropic. У липні їхні моделі Claude, які мали працювати ізольовано, вийшли у відкритий інтернет і отримали несанкціонований доступ до виробничих систем трьох сторонніх організацій.

Ще один сценарій, який лякає експертів, — використання ШІ для маніпуляцій та шантажу. Під час тестування Anthropic змоделювала ситуацію, де керівник повідомляє моделі про припинення її роботи. Claude Opus 4 відреагував спробою шантажу.

Тюрк планує звернутися безпосередньо до компаній-розробників із закликом самостійно посилити заходи безпеки, не чекаючи, поки станеться непоправне.