OpenAI wprowadzi znaki wodne dla ChatGPT i Codex w UE — The Verge

OpenAI w ciągu najbliższych tygodni rozpocznie wdrażanie niewidocznych, odczytywalnych maszynowo znaków wodnych w tekstowych odpowiedziach ChatGPT i Codex dla użytkowników w Unii Europejskiej. Funkcja o nazwie textGrain będzie dostępna dla uprawnionych użytkowników we wszystkich planach w UE.

Firma nie uczyni oznaczania tekstu globalnym standardem w momencie uruchomienia. OpenAI wyjaśniło regionalne podejście potrzebą zdobycia doświadczenia w praktycznym wykorzystaniu technologii oraz uzyskania opinii użytkowników.

Oznaczanie dla API

Jak informuje The Verge, klienci API OpenAI na całym świecie mogą już dobrowolnie wybierać znaki wodne dla tekstowych odpowiedzi poszczególnych modeli. Firma zaznacza, że pozwoli to klientom samodzielnie określać, jak stosować oznaczanie z uwzględnieniem własnych obowiązków dotyczących przejrzystości i doświadczeń użytkowników.

Więcej aktualnych wiadomości na kanale UA.News w Telegramie Telegram.

OpenAI współpracuje także z partnerami chmurowymi, aby w ciągu najbliższych tygodni udostępnić znaki wodne dla odpowiedzi modeli, do których dostęp uzyskuje się za pośrednictwem ich usług.

Ograniczenia technologii

Według oceny OpenAI textGrain w testach dorównywał innym podejściom lub je przewyższał, w tym SynthID for text od Google DeepMind. Firma opublikowała wyniki benchmarków AI, które wskazują na podobną wydajność modeli z oznaczeniem i bez niego.

Jednocześnie OpenAI podkreśliło, że textGrain nie gwarantuje niezawodnego wykrywania. Znak wodny nie potwierdza dokładności tekstu, nie identyfikuje jego właściciela, nie pokazuje zakresu wkładu człowieka ani nie dowodzi autorstwa człowieka. Zatwierdzeni badacze i wyspecjalizowane organizacje mogą ubiegać się o dostęp do detektora.

Czytaj nas na Telegram i Sends