ChatGPT ma oznaczać teksty ukrytym wzorcem słów

OpenAI ma wdrażać w Unii Europejskiej system textGrain. Technologia ma umieszczać w tekstach generowanych przez ChatGPT ukryty wzorzec wynikający z doboru słów. System obejmie także użytkowników w Polsce, choć nie podano terminu rozpoczęcia wdrożenia.

Wzorzec ma powstawać podczas generowania tekstu. Model będzie wybierać kolejne słowa lub ich fragmenty w taki sposób, aby w dłuższej wypowiedzi utworzyć schemat niewidoczny dla czytelnika. Oznaczenie nie ma być dopiskiem na końcu tekstu ani informacją zapisaną w metadanych.

Według opisu systemu usunięcie formatowania, skopiowanie treści do innego programu lub ponowne jej wklejenie nie powinno usuwać wzorca. Oznaczenie ma być związane z treścią i układem słów, a nie z plikiem, w którym tekst został zapisany.

Obecność wzorca ma sprawdzać specjalny detektor. Dostęp do niego nie ma być powszechny. Mogą otrzymać go badacze oraz wybrane organizacje po złożeniu wniosku. OpenAI ma również udostępnić technologię jako open source. W przyszłości może ona zostać wykorzystana w systemach zarządzania treścią, edytorach tekstu i przeglądarkach.

System nie będzie jednoznacznie potwierdzał, że cały tekst powstał przy użyciu sztucznej inteligencji. Wynik może być mniej wiarygodny w przypadku krótkich wypowiedzi oraz treści częściowo przeredagowanych przez człowieka. Niewielka liczba słów może nie wystarczyć do rozpoznania wzorca.

TextGrain ma służyć do wskazywania prawdopodobieństwa występowania charakterystycznego schematu w treści generowanej przez modele GPT. Nie określi autora tekstu ani zakresu wykorzystania przez niego sztucznej inteligencji.

Wdrożenie jest wiązane z AI Act, unijnym aktem regulującym przejrzystość treści generowanych przez systemy AI. Zgodnie z opisem rozwiązania Europa ma być pierwszym regionem, w którym OpenAI szerzej zastosuje je w zwykłym ChatGPT.