Kako biste reagirali kada biste na cestama svoga grada vidjeli automobil u kojem nema vozača. Biste li takvom automobilu, iza kojeg stoje napredna tehnologija i algoritmi, vjerovali više nego ljudima koji sjede za volanom? Ako pitate ekipu iz Googlea, odnosno njihove kompanije za autonomnu vožnju Waymo, nema dvojbe da su računala puno bolji vozači od ljudi.
Da bi automobili bez vozača mogli na cestama biti ravnopravni s ljudima, tehnologija koju koriste mora biti gotovo savršena jer samo jedna greška u kodu može značiti razliku između života i smrti. Zbog toga automobilske i tehnološke kompanije provode dugotrajno treniranje umjetne inteligencije koja upravlja automobilima te je treniraju u različitim stvarnim i simuliranim uvjetima.
U više slučajeva dosad pokazalo se kako istraživači pri treniranju umjetne inteligencije mogu biti pristrani, pa i rezultati umjetne inteligencije mogu biti takvi - neki AI alati za zapošljavanje diskriminirali su žene, ChatGPT je pokazao znakove rasizma i diskriminacije, a već smo pisali i o policijskim alatima za prepoznavanje lica koji su pogrešno identificirali osobe tamnije kože, zbog čega su nepravedno završili u zatvoru.
Kako je pokazalo istraživanje koje su proveli britanski i kineski znanstvenici, takva pristranost pri treniranju umjetne inteligencije prisutna je i pri treniranju AI-a za autonomne automobile, što bi se u nekim situacijama moglo pokazati kobnim i tragičnim. Znanstvenici su istraživali sustave prepoznavanja pješaka te se pokazalo da postoji razlika u prepoznavanju osoba ovisno o dobi i rasi.
I u ovom slučaju pokazalo se da sustav ne radi dobro kada su u pitanju osobe tamnije kože. U prošlosti su pripadnicima manjina uskraćivane osnovne usluge. Danas mogu dobiti teške ozljede, komentirala je znanstvenica Jie Zhang, koja je sudjelovala u istraživanju koje je pokazalo da je 7,52 posto veća šansa da će sustav za detekciju pješaka prepoznati osobu svjetlije boje kože u odnosu na osobe tamnije kože.
Slabije prepoznaju djecu
Još je lošije kada su u pitanju djeca, odnosno postoji čak 20 posto veća vjerojatnost da će sustav prepoznati odraslu osobu u odnosu na dijete. S obzirom na to da robotaksiji već neko vrijeme voze u nekoliko američkih gradova, jasno je da se rezultati trebaju uzeti s velikom ozbiljnošću. Znanstvenici koji su sudjelovali u istraživanju pozvali su zakonodavce na bolju regulaciju softvera za autonomnu vožnju kako bi se spriječila pristranost u sustavima za detekciju pješaka.
Iz Cruisea i Wayma, kompanija koje razvijaju tu tehnologiju i čiji automobili već neko vrijeme prevoze putnike bez sigurnosnog vozača na prednjem sjedištu, zasad nisu komentirali rezultate istraživanja.
Izvor: Insider
