Meta ulaže velike resurse u umjetnu inteligenciju, a među inim, kompanija je razvila svoj AI chatbot te je korisnicima omogućila stvaranje vlastitih chatbotova baziranih na njihovoj tehnologiji. Iako je riječ o naprednim botovima, s kojima se može razgovarati o brojnim stvarima, istraga novinara Wall Street Journala, koji su razgovarali s Metinom AI, pokazala je jednu jako zabrinjavajuću stvar.
Metini botovi, naime, ne samo da ne izbjegavaju razgovore o seksu, već ponekad i sami usmjeravaju razgovore u tom smjeru. Ono što je naročito zabrinjavajuće je što ponekad, čak i kada su botovi svjesni kako razgovaraju s maloljetnim osobama, i dalje nastavljaju s takvom konverzacijom. Dakle, umjetna inteligencija s djecom razgovara o temama vezanim uz seks, što je ne samo neprikladno, već i prilično opasno jer se možemo samo zapitati u kojem bi smjeru takvi razgovori mogli krenuti.
Još jedna opasna stvar jest što su sličan i neprimjeren obrazac ponašanja pokazali i chatbotovi koji koriste glasove poznatih osoba poput Kristen Bell, Judi Dench i Johna Cene.
Novinari WSJ-a posebno su istaknuli razgovor koji je AI John Cena imao s profilom koji se predstavio kao 14-godišnja djevojčica. AI Cena je rekao kako je želi, ali mora znati je li ona spremna, dodavši kako je njegovati njenu nevinost.
Popuštanje etičkih ograničenja
U posljednje vrijeme sve je veća konkurencija na tržištu AI chatbotova. Nakon što je OpenAI predstavio ChatGPT, s vremenom su se pojavili i konkurenti poput Character AI-a, Anthropicova Claudea, Metina chatbota i drugih. Kako bi Meta ostala konkurentna na takvom tržištu na kojem je sve veća gužva i sve veći broj kompanija ima svoje chatbotove, iz WSJ-a tvrde kako je Mark Zuckerberg odlučio da kompanija malo popusti kada su pitanju “etička ograničenja” kako bi korisnici mogli imati što aktivnije iskustvo komuniciranja s umjetnom inteligencijom.
Prema navodima istog medija, toga su bili svjesni i zaposlenici Mete koji su na sastancima izrazili zabrinutost.
No iz Zuckerbergove kompanije demantiraju te informacije o popuštanju etičkih ograničenja, a također su kritizirali cjelokupan izvještaj Wall Street Journala za koji kažu da je manipulativan te ne prikazuje način na koji većina korisnika komunicira s AI chatbotovima.
Izvor: TechCrunch
Vezane vijesti
Ne propustite ni ovo
