Король Чарльз попередив лідерів ШІ-компаній про «екзистенційні ризики»

Король Чарльз III зібрав керівників провідних компаній у сфері штучного інтелекту — Nvidia, Google DeepMind, OpenAI, Anthropic та інших — і озвучив їм не надто приємну тезу: технології, які вони створюють, можуть стати по-справжньому небезпечними.

За словами монарха, ті, хто стоїть за розробкою ШІ, дедалі частіше самі попереджають, що системи можуть набути загрозливіших властивостей — аж до здатності позбавляти життя. «Ті, хто створив ці технології, дедалі частіше попереджають, що ШІ може набути небезпечніших властивостей — можливо, навіть здатності позбавляти життя», — сказав він.

Король наголосив, що ризики, пов'язані з потраплянням таких технологій до рук зловмисників, потребують належної оцінки. «У цьому контексті, якщо дозволите так висловитися, існує нагальна потреба належним чином оцінити екзистенційні ризики, пов'язані з потраплянням таких технологій до рук зловмисників та їх використанням у спосіб, що може призвести до катастрофічних наслідків», — зазначив монарх.

Окрім безпеки, він торкнувся й питання призначення технологій. На його думку, розробникам варто думати не лише про прогрес, а й про те, кому і як він слугуватиме. «Перед вами стоїть завдання не просто розвивати технології, а й гарантувати, що вони й надалі надійно слугуватимуть людству, суспільству та навколишньому світу», — додав король.

Це не перший заклик до обережності з боку відомих постатей. Раніше співзасновник Microsoft Білл Гейтс закликав уряди світу терміново розробити механізми регулювання штучного інтелекту, який може спричинити масштабні негативні зміни на ринку праці, в освіті та інших галузях.