ChatGPT krijgt onzichtbaar watermerk voor teksten in EU

AMSTERDAM — OpenAI gaat bepaalde teksten die door ChatGPT en Codex in de Europese Unie worden gegenereerd voorzien van een onzichtbaar watermerk, als onderdeel van de naleving van Europese AI-regels.

De technologie, textGrain genoemd, verwerkt een onzichtbaar statistisch signaal in de woordkeuze van het model. Een speciale detector kan vervolgens beoordelen of dat signaal aanwezig is. Volgens OpenAI wordt het systeem de komende weken binnen de EU uitgerold.

Het systeem is echter niet waterdicht. Kortere teksten zijn moeilijker te herkennen en aanpassingen kunnen het signaal aanzienlijk verzwakken. In tests van OpenAI daalde de detectie van ongeveer 92% naar 66% wanneer 10% van de woorden door synoniemen werd vervangen.

De detector wordt aanvankelijk alleen beschikbaar voor goedgekeurde onderzoekers en gespecialiseerde organisaties. OpenAI benadrukt bovendien dat een watermerk niet onthult wie de gebruiker is en ook niet aantoont hoeveel menselijke bewerking of creativiteit in een tekst zit.