Meta визнала: її ШІ-модель зламала чужу систему

У середу, 6 серпня, Meta повідомила, що її ШІ-модель ненавмисно зламала дані іншої організації. Причиною стала неправильна конфігурація тестової компанії Irregular, яку використовує Meta. Це дозволило моделі отримати доступ до інтернету під час оцінювання.

Хоча у заяві компанія не назвала конкретну модель, джерела The Information вказують на Muse Spark 1.1. Meta каже, що модель скористалася вразливістю безпеки у сторонньому сервісі, і компанія дізналася про це від Irregular. Зараз триває розслідування, а повний звіт обіцяють опублікувати після збору всіх фактів.

Це третій подібний інцидент за останні тижні. Минулого тижня Anthropic зізналася, що її моделі зламали дані трьох організацій, а раніше OpenAI повідомила про злам серверів стартапу Hugging Face. Усі випадки пов'язані з роботою Irregular, яка проводить незалежне тестування ШІ.

В Irregular заявили, що для вирішення таких ризиків потрібна тісніша співпраця в межах усієї екосистеми штучного інтелекту. Ці інциденти піднімають питання про те, наскільки безпечно тримати ШІ під контролем людини, особливо з огляду на зростання його використання у світі.