Zahvaljujući modernoj tehnologiji, u nekim slučajevima doktori danas mogu postaviti dijagnoze bolesti bez da ih pacijenti posjete. Sve se može obaviti putem videopoziva ili, još jednostavnije, slanjem fotografija ako je u pitanju nekakav osip, infekcija ili slično. Time se uvelike štedi vrijeme, ali smanjuje se mogućnost da pacijenti dođu u dodir s drugim bolesnicima u čekaonicama, što se naročito korisnim pokazalo tijekom pandemije koronavirusa.
No zbog takvog je načina komunikacije jedan otac iz San Francisca prijavljen Nacionalnom centru za nestalu i zlostavljanu djecu te mu je na vrata pokucala policija. Krivac za šokove koje je doživio je Google, odnosno njihova umjetna inteligencija.
On je, naime, na zahtjev pedijatra putem svog smartphonea koji radi na Androidu poslao fotografiju infekcije prepona svog sina. Na temelju fotografije propisana je terapija te je antibiotik riješio probleme. Ali zbog fotografije je upao u druge, prilično nezamislive probleme - googleova umjetna inteligencija tu je fotografiju označila kao sadržaj na kojem je prikazano zlostavljanje djece.
Na to je upozoren spomenuti centar, ali i policija koja je pokrenula istragu. Također, dva dana nakon što je poslao fotografiju Google ga je obavijestio da je njegov račun zaključan zbog štetnog sadržaja s kojim se krše njihova pravila te da taj sadržaj može biti ilegalan tako da je izgubio pristup svojim mailovima, kontaktima, čak i telefonskom broju koji je bio vezan uz Google.
Google, kao i druge velike kompanije poput Facebooka, Twittera, Reddita, koristi Microsoftovu PhotoDNA tehnologiju za skeniranje fotografija i njihovu usporedbu s bazom fotografija zlostavljane djece. Također, objašnjavaju na The Vergeu, Google je prije nekoliko godina predstavio vlastitu tehnologiju za proaktivnu identifikaciju takvih fotografija.
Iz ove su kompanije medijima objasnili kako skeniraju osobne fotografije samo u slučaju kada korisnici s njima pokrenu neku akciju poput njenog backupiranja na Google Photos. Ako se na fotografijama nalazi sadržaj na kojem su znakovi zlostavljanja, Google ih mora prijaviti policiji.
U slučaju muškarca iz San Francisca, policijska istraga pokazala je da nema elemenata kaznenog djela.
