Autonomni automobili mogli bi predstavljati opasnost za djecu

Kako biste reagirali kada biste na cestama svoga grada vidjeli automobil u kojem nema vozača. Biste li takvom automobilu, iza kojeg stoje napredna tehnologija i algoritmi, vjerovali više nego ljudima koji sjede za volanom? Ako pitate ekipu iz Googlea, odnosno njihove kompanije za autonomnu vožnju Waymo, nema dvojbe da su računala puno bolji vozači od ljudi.

tri vijesti o kojima se priča Još jedan sigurnosni propust Počele su mu stizati poruke s nepoznatog broja, a onda je otkrio njihove stvarne pošiljatelje Nova opcija Odluka koja se vozačima neće svidjeti: Želite ići brže? Morat ćete to dodatno platiti Na struju Potražnja za ovim automobilima je nevjerojatna, a uskoro napokon stižu i u Europu

  Sve je veći broj prometnih nesreća s robotaksijima: Evo što najčešće naprave vozači nakon sudara s autonomnim automobilima

Da bi automobili bez vozača mogli na cestama biti ravnopravni s ljudima, tehnologija koju koriste mora biti gotovo savršena jer samo jedna greška u kodu može značiti razliku između života i smrti. Zbog toga automobilske i tehnološke kompanije provode dugotrajno treniranje umjetne inteligencije koja upravlja automobilima te je treniraju u različitim stvarnim i simuliranim uvjetima.

U više slučajeva dosad pokazalo se kako istraživači pri treniranju umjetne inteligencije mogu biti pristrani, pa i rezultati umjetne inteligencije mogu biti takvi - neki AI alati za zapošljavanje diskriminirali su žene, ChatGPT je pokazao znakove rasizma i diskriminacije, a već smo pisali i o policijskim alatima za prepoznavanje lica koji su pogrešno identificirali osobe tamnije kože, zbog čega su nepravedno završili u zatvoru.

Kako je pokazalo istraživanje koje su proveli britanski i kineski znanstvenici, takva pristranost pri treniranju umjetne inteligencije prisutna je i pri treniranju AI-a za autonomne automobile, što bi se u nekim situacijama moglo pokazati kobnim i tragičnim. Znanstvenici su istraživali sustave prepoznavanja pješaka te se pokazalo da postoji razlika u prepoznavanju osoba ovisno o dobi i rasi.

I u ovom slučaju pokazalo se da sustav ne radi dobro kada su u pitanju osobe tamnije kože. U prošlosti su pripadnicima manjina uskraćivane osnovne usluge. Danas mogu dobiti teške ozljede, komentirala je znanstvenica Jie Zhang, koja je sudjelovala u istraživanju koje je pokazalo da je 7,52 posto veća šansa da će sustav za detekciju pješaka prepoznati osobu svjetlije boje kože u odnosu na osobe tamnije kože.

Slabije prepoznaju djecu 

Još je lošije kada su u pitanju djeca, odnosno postoji čak 20 posto veća vjerojatnost da će sustav prepoznati odraslu osobu u odnosu na dijete. S obzirom na to da robotaksiji već neko vrijeme voze u nekoliko američkih gradova, jasno je da se rezultati trebaju uzeti s velikom ozbiljnošću. Znanstvenici koji su sudjelovali u istraživanju pozvali su zakonodavce na bolju regulaciju softvera za autonomnu vožnju kako bi se spriječila pristranost u sustavima za detekciju pješaka.

  Tko je kriv za prometnu nesreću automobila kojim upravlja autopilot? Donesena važna presuda u tužbi protiv Tesle

Iz Cruisea i Wayma, kompanija koje razvijaju tu tehnologiju i čiji automobili već neko vrijeme prevoze putnike bez sigurnosnog vozača na prednjem sjedištu, zasad nisu komentirali rezultate istraživanja.

Izvor: Insider