OpenAI heeft zijn AI-classificatie, een tool die is ontworpen om door AI gegenereerde tekst te identificeren, stopgezet na kritiek op de nauwkeurigheid ervan.
De beëindiging werd subtiel aangekondigd via een update van een bestaande blogpost.
De aankondiging van OpenAI zegt:
“Vanaf 20 juli 2023 is de AI-classificatie niet langer beschikbaar vanwege de lage nauwkeurigheid. We werken eraan om feedback op te nemen en onderzoeken momenteel effectievere herkomsttechnieken voor tekst. We zijn toegewijd aan het ontwikkelen en implementeren van mechanismen waarmee gebruikers kunnen begrijpen of audio- of visuele inhoud door AI wordt gegenereerd.”
De opkomst en ondergang van de OpenAI-classificatie
De tool werd in maart 2023 gelanceerd als onderdeel van OpenAI’s inspanningen om AI-classificatietools te ontwikkelen om mensen te helpen begrijpen of audio- of visuele inhoud door AI wordt gegenereerd.
Het was bedoeld om te detecteren of tekstpassages door een mens of door AI zijn geschreven door taalkenmerken te analyseren en een “waarschijnlijkheidsscore” toe te kennen.
De tool won aan populariteit, maar werd uiteindelijk stopgezet vanwege tekortkomingen in het vermogen om onderscheid te maken tussen menselijk en machinaal handschrift.
Groeipijnen voor AI-detectietechnologie
De abrupte stopzetting van de tekstclassificatie van OpenAI benadrukt de huidige uitdagingen bij het ontwikkelen van betrouwbare AI-detectiesystemen.
De onderzoekers waarschuwen dat onnauwkeurige resultaten kunnen leiden tot onbedoelde gevolgen als ze onverantwoord worden ingezet.
Kristi Hines van Search Engine Journal heeft onlangs verschillende recente onderzoeken onderzocht die zwakke punten en vooroordelen in AI-detectiesystemen blootleggen.
De onderzoekers ontdekten dat de tools door mensen geschreven tekst vaak ten onrechte bestempelden als door AI gegenereerde tekst, vooral voor niet-moedertaalsprekers van het Engels.
Ze benadrukken dat de voortdurende vooruitgang van AI parallelle vooruitgang in detectiemethoden vereist om eerlijkheid, verantwoordingsplicht en transparantie te waarborgen.
Critici zeggen echter dat de ontwikkeling van generatieve AI snel sneller gaat dan detectietools, waardoor ontduiking gemakkelijker wordt.
Potentiële gevaren van onbetrouwbare AI-detectie
Deskundigen waarschuwen ervoor om niet te veel te vertrouwen op de huidige classificatoren voor beslissingen met hoge inzetten, zoals het opsporen van academisch plagiaat.
Potentiële gevolgen van het vertrouwen op onnauwkeurige AI-detectiesystemen:
Menselijke schrijvers onterecht beschuldigen van plagiaat of bedrog als het systeem hun originele werk ten onrechte markeert als door AI gegenereerd. Zorg ervoor dat geplagieerde of door AI gegenereerde inhoud onopgemerkt blijft als het systeem niet-menselijke tekst niet correct identificeert. Versterk vooroordelen als de kans groter is dat AI de schrijfstijlen van bepaalde groepen verkeerd classificeert als niet-menselijk. Misinformatie verspreiden als gefabriceerde of gemanipuleerde inhoud niet wordt gedetecteerd door een defect systeem.
Op te sommen
Naarmate AI-gegenereerde inhoud steeds wijdverspreider wordt, is het van cruciaal belang om door te gaan met het verbeteren van beoordelingssystemen om vertrouwen op te bouwen.
OpenAI heeft verklaard dat het zich blijft inzetten voor het ontwikkelen van robuustere technieken voor het identificeren van AI-inhoud. Het snelle falen van hun classificator laat echter zien dat het perfectioneren van deze technologie aanzienlijke vooruitgang vereist.
Uitgelichte afbeelding: photosince/Shutterstock
Hey, ik ben Brent, en ik speel al een lange tijd mee in de SEO scene. Ik ben vooral heel actief in de Amerikaanse markt, en hou dan ook wel van een uitdaging. Ik ben sinds kort aan het uitbreiden binnenin de Benelux, en besluit hier dan ook te oversharen!
Wil je meer leren, klik dan op lees meer!
