Od brojnih noviteta koje je Google predstavio ovog tjedna na I/O konferenciji, najviše pažnje privukao je Duplex čija demonstracija nikoga nije ostavila ravnodušnim – dio ljudi je oduševljen je s onim što su uspjeli napraviti Googleovu inženjeri, dok je drugi dio zgrožen s onim što su vidjeli, tj. čuli.
Naime, Duplex je bot koji fantastično imitira ljudski glas i način razgovora (npr. u razgovoru koristi "um" i "hm ") te je, barem prema demu kojeg smo vidjeli, bilo teško zaključiti da je riječ o softveru, a ne o osobi od krvi i mesa.
Centralni dio Duplexa jest Googleov DeepMind WaveNet softver koji je dugo vremena treniran slušajući razgovore između ljudi kako bi ih što učinkovitije mogao imitirati, a kako smo vidjeli tijekom Googleove konferencije, bot je bez problema rezervirao termin u frizerskom salonu i restoranu.
Poanta ove Googleove usluge jest rasterećenje ionako prezaposlenih ljudi oko ovakvih dogovora oko naručivanja za šišanje ili večeru – sve što trebaju napraviti jest zamoliti Assistanta da to napravi umjesto njih, a na temelju svih informacija koje do sada ima Google o njima (npr. znaju u kojem se salonu šišaju, u kojim restoranima večeraju i slično), Google Assistant sam će nazvati salon ili restoran i dogovoriti detalje.
Ono što je najviše zgrozilo ljude jest činjenica kako se robot nije predstavio, odnosno osobe iz restorana i frizerskog salona nisu mogle znati da uopće ne pričaju s ljudima, već s botovima. Na The Vergeu kažu kako je ta činjenica izazvala veliki alarm među kritičarima tehnologije i svima koji strahuju da bi razvoj umjetne inteligencije mogao krenuti krivim smjerom ako ne bude strogo reguliran i pod nadzorom.
Zeynep Tufekci, znanstvenica s fakulteta u Sjevernoj Karolini ovaj je softver nazvala zastrašujućim i još jednim dokazom kako je Silicijska dolina etički izgubljena te kako nisu naučili ništa iz grešaka iz prošlosti. Također, mnogi su postavili pitanje – trebaju li se roboti u budućnosti predstaviti, kako bi ljudi znali s kim pričaju.
Google Assistant making calls pretending to be human not only without disclosing that it's a bot, but adding "ummm" and "aaah" to deceive the human on the other end with the room cheering it... horrifying. Silicon Valley is ethically lost, rudderless and has not learned a thing.
— zeynep tufekci (@zeynep) May 9, 2018
Na ove kritike odgovorili su iz Googlea priopćenjem novinarima u kojem su rekli kako su na I/O konferenciji prikazali rani demo ovog proizvoda te im je mišljenje ljudi iznimno bitno i iskoristit će ga prilikom daljnjeg razvoja softvera.
Napominju kako im je jasno koliko je transparentnost u tehnologiji važna te će se pobrinuti da svima bude jasno s kim razgovaraju, odnosno robot će se na neki način predstaviti prije početka konverzacije.
Izvor: The Verge
