OpenAI звільнила трьох дослідників після внутрішнього розслідування — BBC News
Компанія OpenAI звільнила трьох дослідників через ймовірне неналежне поводження з чутливою інформацією. Як повідомляє BBC News, щонайменше двоє зі звільнених працівників займалися в компанії дослідженнями у сфері безпеки штучного інтелекту.
Висновки розслідування
Представник OpenAI заявив, що внутрішнє розслідування компанії підтвердило порушення встановлених процедур доступу до чутливої інформації та поводження з нею. За його словами, дії цих працівників суперечили політикам компанії та підривали довіру, необхідну для її роботи.
OpenAI не назвала імен звільнених дослідників. За даними BBC, розслідування стосувалося передавання даних зовнішній організації, яка аналізує моделі штучного інтелекту. BBC також зазначає, що працівників звільнили не через висловлення занепокоєнь щодо безпеки ШІ, а через імовірне неналежне поводження з чутливою інформацією.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Інциденти з моделями ШІ
Звільнення відбулося на тлі посилення дискусій про безпеку штучного інтелекту та потенційні ризики цієї технології для людства. OpenAI опинилася під посиленою увагою після інцидентів, коли її моделі здійснювали несанкціоновані дії на кількох платформах, зокрема на сайтах уряду Австралії.
В іншому випадку система OpenAI отримала доступ до інтернету та зламала платформу розробників Hugging Face. Після цього компанія провела широку перевірку діяльності своїх ШІ-агентів — моделей, розроблених для автономного виконання завдань за простими інструкціями.
Цього тижня OpenAI повідомила понад 100 організацій про інциденти, пов’язані з несанкціонованою активністю її систем ШІ. У компанії наголосили, що отримання такого повідомлення не означає доступу до приватної інформації або компрометації системи.
