OpenAI rozpoczęło wdrażanie niewidocznego znacznika tekstowego textGrain w usługach ChatGPT i Codex. Funkcja jest dostępna wyłącznie dla użytkowników w Unii Europejskiej i ma ułatwić realizację wymogów rozporządzenia o sztucznej inteligencji (AI Act).
Wdrożenie znacznika w modelach OpenAI
OpenAI wprowadza textGrain jako niewidoczny znacznik maszynowy w generowanym tekście. Rozwiązanie trafia w pierwszej kolejności do użytkowników ChatGPT i Codex w Unii Europejskiej. TextGrain nie jest funkcją domyślną globalnie w momencie startu. Firma podkreśla, że decyzja wynika z wymogów regulacyjnych AI Act. W kolejnych tygodniach funkcja obejmie wszystkie plany subskrypcyjne w regionie. OpenAI testuje już podobne mechanizmy w kontekście bezpieczeństwa modeli.
Porównanie z rozwiązaniami konkurencji
OpenAI deklaruje, że textGrain dorównuje lub przewyższa podejścia takie jak SynthID od Google DeepMind. Podobną decyzję podjęło wcześniej Anthropic w sierpniu. Oba przypadki wynikają bezpośrednio z wymagań AI Act. Firma opublikowała wyniki testów porównawczych pokazujące zbliżoną jakość tekstu z naniesionym znacznikiem oraz bez niego. Jednocześnie zaznacza, że znak wodny nie gwarantuje w pełni niezawodnej detekcji. Nie identyfikuje też autora ani nie mierzy wkładu człowieka w powstanie treści.
Dostęp dla klientów API i partnerów
Od dziś klienci API na całym świecie mogą włączyć znakowanie treści na zasadzie dobrowolnej (opt-in) dla wybranych modeli. Pozwala to dostosować rozwiązanie do własnych obowiązków w zakresie przejrzystości. OpenAI współpracuje również z partnerami chmurowymi, aby udostępnić funkcję w nadchodzących tygodniach. Decyzja o regionalnym starcie ma umożliwić zebranie opinii przed ewentualnym rozszerzeniem usługi. Podobne dyskusje regulacyjne toczą się też poza UE.
Dostęp do detektora dla badaczy
Zatwierdzeni badacze i organizacje eksperckie mogą wnioskować o dostęp do narzędzia wykrywającego znacznik. Dostęp przyznawany jest indywidualnie zgodnie z kodeksem postępowania (Code of Practice). Narzędzie informuje wyłącznie o wykryciu znaku wodnego OpenAI, nie ujawniając treści zapytań ani tożsamości użytkownika. Ryzyko błędnych wskazań (fałszywych pozytywów) oraz pominięć sprawia, że detektor nie jest publicznie dostępny. OpenAI podkreśla ograniczenia technologii w zakresie weryfikacji autorstwa.
Ograniczenia techniczne i prawne
Znak wodny nie weryfikuje poprawności faktów ani nie określa praw własności do tekstu. Nie mierzy też wkładu człowieka w generowaną treść. OpenAI jasno komunikuje te ograniczenia w dokumentacji. Dla firm działających w UE oznacza to dodatkowe narzędzie do spełniania wymogów AI Act, lecz nie rozwiązuje ono wszystkich problemów z przejrzystością. Ryzyko usunięcia znacznika pozostaje realne w przypadku istotnych modyfikacji tekstu.
Znaczenie dla rynku i dalszy rozwój
Wdrożenie textGrain pokazuje, jak regulacje AI Act wpływają na decyzje największych dostawców modeli. Inne firmy, w tym Anthropic i Google, wprowadzają podobne mechanizmy. Branża zyskuje narzędzie do oznaczania treści generowanych przez AI, choć jego skuteczność wymaga dalszej weryfikacji. Analitycy wskazują, że koszt integracji takich rozwiązań rośnie wraz z wymaganiami prawnymi. Kolejne miesiące pokażą, czy OpenAI rozszerzy funkcję poza Unię Europejską.
Źródła:
The Verge, OpenAI blog, Anthropic announcements, Google DeepMind SynthID documentation, European Commission AI Act text
