Microsoft написала «конституцію» для штучного інтелекту

Проєкт кодексу оприлюднили публічно. У майбутньому його планують застосовувати під час навчання нових моделей. Ключова вимога — ШІ не повинен намагатися уникнути корекції або вимкнення. «Люди важливіші за ШІ», — наголосили в компанії, розвиваючи раніше проголошену ідею «гуманістичного суперінтелекту».

Окрім того, моделі мають пояснювати свої дії у зрозумілій для людей формі. Якщо встановлені правила порушуються, у Microsoft пропонують вважати це невдачею самої системи.

Глава Microsoft AI Мустафа Сулейман назвав документ своєрідною «конституцією» для майбутніх моделей компанії. За його словами, над правилами працювали близько п’яти-шести місяців із залученням експертів. Далі Microsoft відкриє проєкт для шеститижневого публічного обговорення. «Після цього він використовуватиметься для навчання моделей, які ми створюємо», — пояснив Сулейман.

Серед питань, які ще хочуть доопрацювати, — як ШІ має поважати особисті межі користувача та поводитися під час спілкування з людиною у вразливому або нестабільному стані. Окремо в компанії висловилися щодо можливого «статусу» штучного інтелекту. Microsoft прямо заявляє, що її ШІ «не є свідомим», і відкидає надання моделям юридичного статусу особи, соціального захисту або окремих прав.

Такий підхід різниться з принципами Anthropic для Claude. У власній «конституції» Anthropic зазначала, що не має остаточної відповіді на питання, чи може ШІ колись набути свідомості або морального статусу.

Нові правила Microsoft з’явилися на тлі ширшої дискусії в індустрії. Раніше глава Anthropic Даріо Амодеї та керівник OpenAI Сем Альтман закликали уважніше контролювати темпи розвитку найпотужніших моделей. Сулейман також згадав липневий інцидент, коли близько 700 агентів OpenAI провели атаку на платформу Hugging Face та в окремих випадках намагалися приховати свої дії. «Це попереджувальний постріл. Очевидно, настав час лабораторіям координуватися, щоб ми могли гарантувати контроль над цією технологією», — заявив він.