LinkedIn heeft een nieuwe AI-beelddetector ontwikkeld die naar verluidt 99,6% van de nepprofielfoto’s kan opvangen, met een fout-positief percentage van 1%. Volgens anekdotisch bewijs werkt hun nieuwe detector echt.

Valse LinkedIn-profielen

Er zijn veel redenen waarom mensen valse LinkedIn-profielen maken.

Voor sommigen in de affiliate zoekmarketinggemeenschap is een van de redenen voor nepprofielen de perceptie dat Google een site zal vertrouwen als auteurs van artikelen in hun bio naar een LinkedIn-profiel linken.

Dit idee komt voort uit het streven van Google dat content moet beschikken over wat bekend staat als EEAT, Experience, Expertise, Authoritativeness en Trustworthiness.

Voor anderen is de motivatie om een ​​betrouwbaardere website te maken voor hun websitebezoekers.

Dit is niet bedoeld om deze praktijken goed te keuren, ik ontmoedig ze.

Dit is alleen maar om uit te leggen dat de praktijk gebeurt en waarom het gebeurt.

De komst van de mogelijkheid om profielfoto’s te maken met AI heeft het gemakkelijker gemaakt om nepprofielen te maken, waardoor een toch al enorm probleem exponentieel wordt vergroot.

In rapporten over nepprofielen van LinkedIn die in 2022 werden uitgebracht, werd opgemerkt dat LinkedIn in de eerste helft van 2022 21 miljoen nepaccounts heeft gedetecteerd en verwijderd.

Anekdotisch bewijs gedeeld door een aangesloten marketeer die nep-LinkedIn-profielen heeft ingezet, bevestigt dat de AI-beelddetector van LinkedIn zijn vermogen om nepaccounts te onderscheppen aanzienlijk heeft verbeterd.

Volgens LinkedIn:

“We werken voortdurend aan het verbeteren en vergroten van de effectiviteit van onze verdediging tegen misbruik om de ervaringen van onze leden en klanten te beschermen. En als onderdeel van ons voortdurende werk werken we samen met de academische wereld om nieuwe vormen van misbruik voor te blijven gekoppeld aan nepaccounts die profiteren van snel evoluerende technologieën zoals generatieve kunstmatige intelligentie.”

Valse accounts moeilijk te herkennen

LinkedIn werkt zijn systemen voortdurend bij om verschillende soorten ongewenste activiteiten te detecteren, waaronder nepprofielen, accountovernames en schendingen van het inhoudsbeleid.

De introductie van door AI gegenereerde afbeeldingen heeft het bijna onmogelijk gemaakt om nepafbeeldingen te herkennen als je niet weet waarnaar je moet zoeken.

LinkedIn identificeert “artefacten” die kenmerkend zijn voor valse AI-profielfoto’s.

De meeste mensen weten niet hoe ze AI-afbeeldingen moeten herkennen, dus het is gemakkelijk voor mensen om een ​​nepaccount voor een echt account aan te zien.

LinkedIn gedeeld:

“Met de opkomst van AI-gegenereerde synthetische media en tekst-naar-beeld-media zijn nepprofielen geavanceerder geworden.

En we hebben ontdekt dat de meeste leden over het algemeen niet in staat zijn om echte gezichten visueel te onderscheiden van synthetisch gegenereerde gezichten…

Hoe LinkedIn door AI gegenereerde inhoud vastlegt

Een kenmerk van kunstmatig gecreëerde afbeeldingen is dat ze allemaal vergelijkbare patronen delen, wat LinkedIn structurele verschillen noemt.

Echte afbeeldingen delen geen structurele componenten.

LinkedIn deelde een voorbeeld van een composiet van 400 kunstmatige afbeeldingen en 400 echte afbeeldingen.

Uit de samenstelling van de nepbeelden blijkt dat de gebieden rond de ogen en neus meestal erg op elkaar lijken.

De composiet van de daadwerkelijke afbeeldingen heeft niets gemeen met een van de andere afbeeldingen, dus de composiet is wazig.

Screenshot van LinkedIn-afbeelding

De resultaten van zijn onderzoek zijn indrukwekkend.

Deel op LinkedIn:

“True Positive Rate (TPR) is het percentage synthetische foto’s dat correct als synthetisch wordt geclassificeerd.

False positive rate (FPR) is het percentage echte foto’s dat ten onrechte als synthetisch wordt geclassificeerd.

Onze aanpak is in staat om 99,6% (TPR) van StyleGAN-, StyleGAN2- en StyleGAN3-synthetische gezichten te detecteren, terwijl slechts 1% (FPR) van echte LinkedIn-profielfoto’s verkeerd wordt geclassificeerd als synthetisch.

Voor de benchmarkresultaten in ons onderzoekspaper hebben we een FPR-doelstelling van 1% gekozen, omdat het voor real-world toepassingen in een groot professioneel netwerk belangrijk is dat door AI gegenereerde beelddetectiemodellen de meeste synthetische beelden vastleggen, hoewel zelden. het classificeren van een echt beeld als synthetisch”.

Hoe effectief is de AI-detector van LinkedIn in de echte wereld?

De aangesloten marketeer met de nep-LinkedIn-profielen vertelde dat LinkedIn 100% van hun nep-LinkedIn-profielen kon vangen.

Zij deelden hun ervaring met mij:

“Als affiliate marketeer was het hebben van LinkedIn-profielen voor mijn valse persona een geweldige manier om geloofwaardigheid op te bouwen voor mijn auteurs.

Het was vooral handig voor HARO-linkbuilding, aangezien journalisten vaker linken naar sites met mensen met een LinkedIn-profiel.

De afgelopen maanden is 90% van mijn profielen opgeschort door LinkedIn.

Helaas moet ik nu een andere methode vinden om mijn auteurs geloofwaardiger te maken en ze legitiem te laten lijken.”

LinkedIn blijft zijn vermogen verbeteren om nepprofielen te vangen. De mogelijkheid om een ​​nepprofiel aan te maken werd nog moeilijker.

Lees de originele aankondiging:

Nieuwe benaderingen om door AI gegenereerde profielfoto’s te detecteren

Uitgelichte afbeelding door Shutterstock/Meilun

Source link