Google publiceerde een blogpost waarin werd gedeeld dat ze hun machine learning-systemen hebben bijgewerkt om meer neprecensies, nepbedrijfsvermeldingen en frauduleuze bijgedragen afbeeldingen en video’s te vangen en te verwijderen.
De geautomatiseerde systemen en menselijke beoordelingsteams hebben meer dan 200 miljoen foto’s en 7 miljoen video’s verwijderd en meer dan 115 miljoen beoordelingen geblokkeerd of verwijderd.
Hoe Google door gebruikers bijgedragen spam pakt
Google gebruikt gloednieuwe modellen voor machinaal leren om valse en frauduleuze inhoud op te sporen en te verwijderen.
Deze modellen voor machinaal leren zoeken naar ongebruikelijke patronen in door gebruikers bijgedragen inhoud, waaronder het markeren van nieuwe vormen van misbruik die nog niet eerder waren gezien.
Google deelde
“We maken al lang gebruik van automatische intelligentie om ons te helpen patronen van potentieel misbruik op te sporen, en we blijven onze technologie verder ontwikkelen. Vorig jaar lanceerden we een belangrijke update van onze modellen voor machinaal leren waarmee we nieuwe misbruiktrends vele malen sneller konden identificeren dan in voorgaande jaren. Onze geautomatiseerde systemen ontdekten bijvoorbeeld een plotselinge toename van bedrijfsprofielen met websites die eindigden op .design of .top – iets wat moeilijk handmatig te ontdekken zou zijn in miljoenen profielen. Our team of analysts quickly confirmed that these websites were fake — and we were able to remove them and disable the associated accounts quickly.”
De systemen van Google beoordelen nieuwe inhoud voordat deze wordt geplaatst om valse of frauduleuze inhoud die wordt ingediend bij het Google Maps-systeem te blokkeren.
Ze gebruiken ook een machine-learningmodel om inhoud te scannen die al is gepubliceerd, om valse inhoud op te sporen die mogelijk door de eerste beoordelingen is geglipt.
Deze nieuwe systemen blokkeren spam sneller dan in 2021 en vangen er meer van.
Google verklaarde
“Op sommige plaatsen begonnen oplichters onnauwkeurige telefoonnummers over bijgedragen foto’s te leggen, in de hoop nietsvermoedende slachtoffers te verleiden de oplichter te bellen in plaats van het eigenlijke bedrijf.
Om dit probleem aan te pakken, hebben we een nieuw model voor machinaal leren ontwikkeld dat nummers kan herkennen die over bijgedragen foto’s zijn gelegd door specifieke visuele details en de lay-out van foto’s te analyseren.
Met dit model hebben we met succes de overgrote meerderheid van deze frauduleuze en beleidsovertredende afbeeldingen gedetecteerd en geblokkeerd voordat ze werden gepubliceerd.”
Spamblokkeringsstatistieken
De aankondiging van Google deelde dat in 2022:
- Google heeft meer dan 115 miljoen recensies geblokkeerd of verwijderd.
- De nieuwe spambestrijdingsalgoritmen verwijderden meer dan 200 miljoen foto’s en meer dan 7 miljoen video’s die in strijd waren met het inhoudsbeleid van Google.
- 20 miljoen pogingen om valse bedrijfsprofielen te maken geblokkeerd.
- Verhoogde bescherming toegevoegd voor meer dan 185.000 bedrijven die te maken hadden met verdachte activiteiten.
In januari 2023 stuurde Google een reactie naar de FTC (lees de PDF hier) waarin werd gedeeld dat Google signalen gebruikt om nepaccounts te identificeren, naast het beoordelen van de inhoud.
Google deelde ook mee dat het nu afbeeldingen scant om inhoud op te sporen die over de afbeeldingen is gelegd en die bedoeld is om telefoongesprekken af te leiden van een bedrijf naar het telefoonnummer van de oplichter.
Ze controleren op bots, dubbele inhoud, woordpatronen die lijken op bekende neprecensies en gebruiken ook een systeem dat ze “intelligente tekstvergelijking” noemen en dat helpt bij het identificeren van misleidende inhoud.
Authentiek, veilig en betrouwbaar
Google gebruikt zowel geautomatiseerde als menselijke beoordelaars bij zijn inspanningen om niet-authentieke activiteiten op het ecosysteem van Google Maps te blokkeren.
Het opsporen van frauduleuze activiteiten op Google Maps is belangrijk voor zowel de mensen die afhankelijk zijn van de bedrijfsbeoordelingen als de bedrijven die bedrijven in het systeem hebben opgenomen.