OpenAI, het AI-onderzoeksbedrijf achter ChatGPT, heeft een nieuwe tool uitgebracht om onderscheid te maken tussen door AI gegenereerde en door mensen gegenereerde tekst.
Hoewel het onmogelijk is om door AI geschreven tekst met 100% nauwkeurigheid te detecteren, gelooft OpenAI dat zijn nieuwe tool valse beweringen kan helpen verminderen dat mensen door AI gegenereerde inhoud hebben geschreven.
In een aankondiging zegt OpenAI dat de nieuwe AI Text Classifier de mogelijkheid kan beperken om geautomatiseerde desinformatiecampagnes uit te voeren, AI-tools te gebruiken voor academische fraude en zich voor te doen als mensen met chatbots.
Bij het testen op een set Engelse teksten kon de tool in 26% van de gevallen correct zien of de tekst door AI was geschreven. Maar er werd ook ten onrechte gedacht dat tekst die door mensen is geschreven, 9% van de tijd door AI is geschreven.
OpenAI zegt dat zijn tool het beste werkt naarmate de tekst langer is, dus het kan minimaal 1.000 tekens nodig hebben om een test uit te voeren.
Andere beperkingen van de nieuwe OpenAI Text Classifier zijn de volgende:
Het kan zowel door AI gegenereerde tekst als door mensen geschreven tekst verkeerd labelen. AI-gegenereerde tekst kan de classificatie omzeilen met kleine bewerkingen. Het kan verward raken met tekst die door kinderen is geschreven en niet-Engelse tekst, omdat het voornamelijk is getraind op Engelse inhoud die door volwassenen is geschreven.
Laten we met dat in gedachten eens kijken hoe het werkt.
De AI-tekstclassificatie van OpenAI gebruiken
De AI-tekstclassificatie van OpenAI is eenvoudig te gebruiken.
Meld u aan, plak de tekst die u wilt testen en druk op de verzendknop.
De tool beoordeelt de waarschijnlijkheid dat de tekst die u hebt verzonden door AI is gegenereerd. De resultaten variëren van het volgende:
Zeer onwaarschijnlijk Onwaarschijnlijk Niet duidelijk indien mogelijk waarschijnlijk
Ik heb het getest door ChatGPT te vragen een essay over SEO te schrijven en de tekst vervolgens letterlijk naar de AI Text Classifier te sturen.
Hij beoordeelde het door ChatGPT gegenereerde essay als een waarschijnlijk gegenereerd door de AI, wat de sterkste indicator is die het kan geven.
Screenshot van: platform.openai.com/ai-text-classifier, januari 2023
Door kleine bewerkingen toe te passen die door Grammarly zijn voorgesteld, heb ik de score verlaagd van waarschijnlijk a niet helder.
OpenAI heeft gelijk als hij stelt dat het gemakkelijk is om zijn classificatie te omzeilen. Het wil echter niet het enige bewijs zijn dat AI iets heeft geschreven.
In een FAQ-sectie onderaan de pagina stelt OpenAI:
“Ons beoogde gebruik van de AI-tekstclassificatie is om gesprekken aan te moedigen over het onderscheid tussen door mensen geschreven inhoud en door AI gegenereerde inhoud. De resultaten kunnen helpen, maar zouden niet de enige test moeten zijn om te beslissen of een document door AI is gegenereerd Het model is getraind op door mensen geschreven tekst uit verschillende bronnen, die mogelijk niet representatief zijn voor alle soorten door mensen geschreven tekst.’
OpenAI voegt eraan toe dat de tool niet grondig is getest om inhoud te detecteren die een combinatie van AI en door mensen geschreven tekst bevat.
Uiteindelijk kan de AI-tekstclassificatie een waardevol hulpmiddel zijn voor het markeren van mogelijk door AI gegenereerde tekst, maar mag niet worden gebruikt als een definitieve maatstaf om een oordeel te vellen.
Uitgelichte afbeelding: IB Photography/Shutterstock
Hey, ik ben Brent, en ik speel al een lange tijd mee in de SEO scene. Ik ben vooral heel actief in de Amerikaanse markt, en hou dan ook wel van een uitdaging. Ik ben sinds kort aan het uitbreiden binnenin de Benelux, en besluit hier dan ook te oversharen!
Wil je meer leren, klik dan op lees meer!
