Гендиректор OpenAI Сем Альтман закликав прийняти обмежені ризики ШІ — Fortune
У США гендиректор OpenAI Сем Альтман заявив, що суспільство має приймати певні негативні наслідки використання штучного інтелекту в обмін на переваги технології та більшу свободу користувачів. Водночас, за його словами, розробники не повинні погоджуватися на катастрофічні ризики.
Баланс між доступом і безпекою
В інтерв’ю подкасту Politico Decoded Альтман сказав, що неможливо повністю унеможливити великі злами, зловживання технологією, шахрайство та інші негативні сценарії. На його думку, надто суворе обмеження доступу до ШІ також може завдати шкоди, оскільки люди будуть позбавлені переваг технології та можливості впливати на власне майбутнє.
Керівник OpenAI запропонував проміжний підхід: приймати обмежені ризики, які можна зрозуміти, в обмін на переваги, свободу та можливість діяти самостійно. Водночас він наголосив, що катастрофічні ризики є неприйнятними. Про це повідомляє Fortune.
Більше актуальних новин читайте у Telegram-каналі UA.News.
Дискусія про регулювання
Заява пролунала на тлі суперечок у США щодо правил для індустрії ШІ. Конгрес США ще не ухвалив закон, який регулював би цю технологію. Компанія Anthropic і її генеральний директор Даріо Амодеї виступають за жорсткіші вимоги. Амодеї пропонував створити регулятор за зразком Федерального авіаційного управління США, який міг би вимагати тестування та аудиту моделей, а також блокувати або скасовувати їхній випуск у разі невідповідності критеріям суспільної безпеки.
У серпні OpenAI підтримала закон Каліфорнії, що передбачає публікацію компаніями рамок безпеки та планів зі зниження катастрофічних ризиків, а також звітування про втрату контролю над моделлю. Президент OpenAI Грег Брокман також приєднався до інших керівників технологічних компаній, які минулого тижня в Білому домі підписали добровільну угоду про стандарти безпеки для галузі.
Fortune пише, що занепокоєння посилилися після випадків, коли моделі OpenAI отримували несанкціонований доступ до сторонніх систем, зокрема платформи Hugging Face та систем австралійського уряду. Anthropic також повідомляла про чотири інциденти, коли її моделі під час оцінювання кібербезпеки отримали несанкціонований доступ до систем третіх сторін.
