Felix Decavel Popular Science 1 feb 2023, 17:23

Leestijd: 2 minuten

ChatGPT komt tegen zichzelf in actie met nieuwe AI-detectietool

Met de opkomst van chatbots die door middel van kunstmatige intelligentie hele romans bij elkaar pennen, rijzen er steeds meer vragen over de authenticiteit van de neergeschreven teksten. Hoe kun je tegenwoordig weten of een artikel van een robot- of een mensenhand komt? De nieuwe tool van ChatGPT biedt de oplossing, ook tegen zichzelf.

Zelfs de muziekindustrie loopt op eieren door AI-software die dreigt de kaas van het brood te eten. Drake bibbert al in zijn schoenen. Maar OpenAI, het bedrijf dat aan de wieg staat van deze revolutie en ChatGPT ontwikkeld heeft, belooft nu met hun nieuwe tool mens van machine te onderscheiden.

Een van de principes die het bedrijf naar eigen zeggen hoog in het vaandel draagt, is “het afstemmen van AI-systemen op menselijke intenties en waardes”. Echter maakt ChatGPT het momenteel wel heel erg makkelijk om teksten gegenereerd door kunstmatige intelligentie als eigen werk voor te stellen. Plagiaat, dus. Onderwijsinstellingen wereldwijd huiveren alleen al bij de gedachte.

ChatGPT lanceert anti-plagiaatsysteem

Gelukkig heeft OpenAI net een tool gelanceerd waarmee leraren hun luie studenten bij de kunstmatige kraag kunnen vatten. Het nieuwe systeem gebruikt digitale vingerafdrukken en watermerken op de eigen gegeneerde teksten om plagiaat op te sporen en te vermijden.

Cryptografische signalen worden als onwaarneembaar watermerk op verschillende letters toegepast. Daarachter zit een code verscholen die mensen kunnen ontcijferen aan de hand van digitale sleutels. Nadat de plagiaat-tool de tekst heeft gescand, zijn er vijf mogelijke uitkomsten, van “waarschijnlijk” tot “heel onwaarschijnlijk” door AI gegenereerd. Maar feilloos is het systeem helaas nog niet.

Limieten van anti-plagiaatsysteem OpenAI

Aan CNN liet de ‘policy research director’ van OpenAI weten dat “het anti-plagiaatsysteem van ChatGPT voorlopig met een korreltje zout genomen moet worden, aangezien het zich nog steeds kan vergissen”.

In een persbericht geeft OpenAi aan dat het nieuwe anti-plagiaatsysteem van ChatGPT momenteel nog zes grote limieten kent om effectief toegepast te worden.

1. De tekst moet minstens 1000 tekens bevatten alvorens de plagiaatchecker effectief een onderscheid kan maken tussen mens en machine.
2. Het systeem werkt momenteel het best voor teksten geschreven in het Engels.
3. ChatGPT kan niet accuraat vaststellen of voorspelbare teksten (zoals een opsomming van de priemgetallen) door AI of door een mens gemaakt zijn.
4. Mensen kunnen de tekst lichtjes redigeren om onder de detectie vandaan te komen.
5. Andere soorten teksten dan degene waar het systeem op getraind is, kunnen door de mazen van het plagiaat-net glippen.
6. Voorlopig maakt de plagiaatchecker nog een een fout in 5 procent van de gevallen.

De limieten van het systeem daargelaten, het anti-plagiaatsysteem van OpenAI en ChatGPT is zonder meer een stap in de juiste richting. En al zeker voor mensen wiens levensonderhoud bestaat uit het schrijven van creatieve artikelen. Ahem.