Google heeft een blogpost gepubliceerd waarin ze delen dat ze hun machine learning-systemen hebben bijgewerkt om meer neprecensies, nep-bedrijfsvermeldingen en op frauduleuze wijze bijgedragen afbeeldingen en video’s op te vangen en te verwijderen.

Geautomatiseerde systemen en menselijke beoordelingsteams verwijderden in 2021 meer dan 200 miljoen foto’s en 7 miljoen video’s en blokkeerden of verwijderden meer dan 115 miljoen beoordelingen, een stijging van 20% ten opzichte van het voorgaande jaar.

Hoe Google door gebruikers ingediende spam vastlegt

Google gebruikt nieuwe machine learning-modellen om valse en frauduleuze inhoud op te sporen en te verwijderen.

Deze machine learning-modellen zoeken naar ongebruikelijke patronen in door gebruikers bijgedragen inhoud, inclusief het markeren van nieuwe vormen van misbruik die nog niet eerder zijn gezien.

Google heeft gedeeld:

“We gebruiken machine-intelligentie al lang om ons te helpen patronen van mogelijk misbruik te detecteren, en we blijven onze technologie ontwikkelen.

Vorig jaar hebben we een belangrijke update van onze machine learning-modellen uitgebracht, waardoor we nieuwe misbruiktrends vele malen sneller konden identificeren dan in voorgaande jaren.

Onze geautomatiseerde systemen detecteerden bijvoorbeeld een plotselinge toename van bedrijfsprofielen met websites die eindigen op .design of .top, wat moeilijk handmatig te detecteren zou zijn in miljoenen profielen.

Ons team van analisten bevestigde snel dat deze websites nep waren en we konden ze snel verwijderen en de bijbehorende accounts uitschakelen.”

De systemen van Google beoordelen nieuwe inhoud voordat deze wordt gepubliceerd om onjuiste of frauduleuze inhoud die naar het Google Maps-systeem wordt verzonden, te blokkeren.

Ze zetten ook een machine learning-model in om inhoud te scannen die al is gepubliceerd, om valse inhoud op te sporen die mogelijk voorbij de eerste beoordelingen is gekomen.

Deze nieuwe systemen blokkeren spam sneller dan in 2021 en vangen er meer van op.

Google legde uit:

“Op sommige plaatsen zijn oplichters begonnen met het plaatsen van onnauwkeurige telefoonnummers bovenop de verstrekte foto’s, in de hoop nietsvermoedende slachtoffers te misleiden om de oplichter te bellen in plaats van het echte bedrijf.

Om dit probleem tegen te gaan, hebben we een nieuw machine learning-model geïmplementeerd dat overlappende getallen in aangeleverde afbeeldingen kan herkennen door specifieke visuele details en fotolay-outs te analyseren.

Met behulp van dit model hebben we met succes de overgrote meerderheid van deze frauduleuze en beleidsschendende afbeeldingen gedetecteerd en geblokkeerd voordat ze werden gepubliceerd.”

Statistieken over het blokkeren van spam

De aankondiging van Google deelde dat tegen 2022:

Google blokkeerde of verwijderde meer dan 115 miljoen beoordelingen en zei dat de meeste waren geblokkeerd voordat ze werden gepubliceerd. Nieuwe antispamalgoritmen verwijderden meer dan 200 miljoen foto’s en meer dan 7 miljoen video’s die in strijd waren met het inhoudsbeleid van Google. 20 miljoen pogingen om valse bedrijfsprofielen aan te maken zijn geblokkeerd. Meer bescherming toegevoegd voor meer dan 185.000 bedrijven die met verdachte activiteiten te maken hadden.

In januari 2023 diende Google een opmerking in bij de FTC (lees de pdf hier) die deelde dat Google naast het beoordelen van inhoud ook signalen gebruikt om nepaccounts te identificeren.

Google deelde ook dat het nu afbeeldingen scant op overlappende inhoud die bedoeld is om telefoontjes van een bedrijf naar het telefoonnummer van de oplichters om te leiden.

Ze controleren op bots, dubbele inhoud, woordpatronen die lijken op bekende neprecensies en gebruiken ook een systeem dat ze ‘slimme tekstvergelijking’ noemen en dat helpt bij het identificeren van misleidende inhoud.

Authentiek, veilig en betrouwbaar

Google gebruikt zowel geautomatiseerde als menselijke reviewers om niet-authentieke activiteit in het Google Maps-ecosysteem te blokkeren.

Het opsporen van frauduleuze activiteiten op Google Maps is belangrijk, zowel voor mensen die vertrouwen op bedrijfsbeoordelingen als voor bedrijven die bedrijven in het systeem hebben vermeld.

Uitgelichte afbeelding door Shutterstock/ViDI Studio

bron: Google

Source link