Dyrektor generalny OpenAI Sam Altman wezwał do akceptacji ograniczonych ryzyk AI — Fortune
W Stanach Zjednoczonych dyrektor generalny OpenAI Sam Altman oświadczył, że społeczeństwo powinno akceptować pewne negatywne konsekwencje korzystania ze sztucznej inteligencji w zamian za korzyści płynące z tej technologii i większą swobodę użytkowników. Jednocześnie, jak zaznaczył, twórcy nie powinni godzić się na katastrofalne ryzyka.
Równowaga między dostępem a bezpieczeństwem
W wywiadzie dla podcastu Politico Decoded Altman powiedział, że niemożliwe jest całkowite wyeliminowanie poważnych włamań, nadużyć technologii, oszustw i innych negatywnych scenariuszy. Jego zdaniem zbyt surowe ograniczenie dostępu do AI również może wyrządzić szkody, ponieważ ludzie zostaliby pozbawieni korzyści tej technologii oraz możliwości wpływania na własną przyszłość.
Szef OpenAI zaproponował podejście pośrednie: akceptację ograniczonych ryzyk, które można zrozumieć, w zamian za korzyści, wolność i możliwość samodzielnego działania. Jednocześnie podkreślił, że katastrofalne ryzyka są nie do przyjęcia. Informuje o tym Fortune.
Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.
Dyskusja o regulacjach
Wypowiedź padła w czasie sporów w Stanach Zjednoczonych dotyczących zasad dla branży AI. Kongres USA nie uchwalił jeszcze ustawy regulującej tę technologię. Firma Anthropic i jej dyrektor generalny Dario Amodei opowiadają się za surowszymi wymogami. Amodei proponował utworzenie regulatora wzorowanego na amerykańskiej Federalnej Administracji Lotnictwa, który mógłby wymagać testowania i audytu modeli, a także blokować lub cofać zgodę na ich udostępnienie, jeśli nie spełniałyby kryteriów bezpieczeństwa publicznego.
W sierpniu OpenAI poparło kalifornijską ustawę przewidującą publikowanie przez firmy ram bezpieczeństwa i planów ograniczania katastrofalnych ryzyk, a także zgłaszanie utraty kontroli nad modelem. Prezes OpenAI Greg Brockman również dołączył do innych szefów firm technologicznych, którzy w ubiegłym tygodniu w Białym Domu podpisali dobrowolne porozumienie dotyczące standardów bezpieczeństwa dla branży.
Fortune pisze, że obawy nasiliły się po przypadkach, w których modele OpenAI uzyskały nieautoryzowany dostęp do systemów stron trzecich, w tym platformy Hugging Face i systemów australijskiego rządu. Anthropic również poinformowało o czterech incydentach, w których jego modele podczas ocen cyberbezpieczeństwa uzyskały nieautoryzowany dostęp do systemów stron trzecich.
Czytaj nas na Telegram i Sends
