Google Zoeken: AI om oplichting te detecteren en blokkeren

Google heeft het rapport Fighting Scams on Search ( PDF ) gepubliceerd, waarin wordt beschreven hoe het bedrijf kunstmatige intelligentie gebruikt om miljoenen vormen van oplichting in zoekresultaten te detecteren en blokkeren. Chrome biedt extra beveiligingen die gebruikmaken van het Gemini Nano-model.

AI blokkeert oplichting in zoekmachines

Google maakt al jaren gebruik van machine learning om oplichtingssites en nepvermeldingen in de zoekresultaten op te sporen. In 2024 werden deze systemen verder verbeterd door gebruik te maken van kunstmatige intelligentie, met name Large Language Models (LLM's). Hierdoor kunnen we proactief honderden miljoenen oplichtingspraktijken per dag blokkeren.

Door de tekst te analyseren, kon Google de meest voorkomende vormen van oplichting identificeren, bijvoorbeeld met betrekking tot de klantenservice van luchtvaartmaatschappijen en overheden. Het aantal oplichtingspraktijken daalde met maar liefst 80%, omdat AI-systemen ontdekten dat de websites en telefoonnummers nep waren.

Het bedrijf uit Mountain View benadrukt echter dat er meer aandacht van gebruikers nodig is. Google raadt aan om het domein te verifiëren (dat vaak overeenkomt met het legitieme domein), de informatie over de site te lezen (door te klikken op de drie verticale puntjes naast de URL) en het ontwerp van de site te controleren op eventuele onregelmatigheden.

Er worden ook betere beveiligingen ingebouwd in Chrome 137 voor desktop . De verbeterde beschermingsmodus van Veilig Surfen gebruikt het Gemini Nano -model om pagina-inhoud te onderzoeken en nepwebsites te markeren.

Er zal een andere functie beschikbaar zijn in Chrome voor Android . Met behulp van een on-device machine learning-model detecteert de browser meldingen van nepwebsites. De gebruiker kan dan instellen dat hij geen toekomstige meldingen meer ontvangt.

Tijdens de rechtszaak over de maatregelen die aan Google zouden moeten worden opgelegd om de concurrentie op de zoekmachinemarkt te herstellen, zei directeur en CEO Sundar Pichai dat geen enkel ander bedrijf Chrome kan draaien en hetzelfde niveau van functionaliteit, beveiliging en privacy kan bieden.