©Unsplash
Telefoonnummers in AI-samenvattingen Google verbinden mensen met scammers
Je moet de AI-samenvattingen van Google Zoeken niet zomaar vertrouwen, ook niet als er iets feitelijks zoals een telefoonnummer in wordt vermeld.
De AI-samenvattingen die je tegenwoordig op Google Zoeken boven de normale zoekresultaten vindt, bevatten regelmatig informatie die niet klopt. Meestal is dat niets meer dan onhandig, maar het blijkt ook gevaarlijk te kunnen zijn.
Op Facebook vertelt zakenman Alex Rivlin hoe hij via Google zocht naar een telefoonnummer voor Royal Caribbean om een cruise te boeken. Hij belde het nummer dat in de AI-samenvatting werd vermeld. Later bleek dat de creditcard-informatie die hij telefonisch had overgedragen, gebruikt werd voor andere uitgaven.
Ook op Reddit schrijft iemand hoe die via Google zocht naar informatie om bij vliegmaatschappij Southwest hun naam te veranderen. De AI-samenvatting gaf een telefoonnummer, regelrecht richting scammers die je honderden dollar vragen om je ticket aan te passen. Een andere Reddit-gebruiker zegt iets vergelijkbaars gezien te hebben toen die met British Airways contact zocht, maar na dit aangeven te hebben bij Google is dit resultaat volgens de redditor aangepast.
Vergiftigen
Dit zou een concreet voorbeeld kunnen zijn van hoe AI-resultaten worden vergiftigd door specifiek online content te maken voor AI-chatbots, met de hoop dat die informatie wordt opgenomen in de trainingsdata. Als je vaak genoeg een telefoonnummer noemt in combinatie met het bedrijf wiens klanten jij als doelwit hebt, is er een grote kans dat dit telefoonnummer een keer opduikt als iemand via AI het telefoonnummer van dat bedrijf zoekt.
Lees meer over Google, of blijf op de hoogte via de Bright Nieuwsbrief.