zimo mobile logo
  • Tehnologija
  • Znanost
  • Društvene mreže
  • Esport
  • Business
Prati nas:
Upravljaj obavijestima
  • Prijavi se na newsletter
  • Imaš priču? Pošalji
  • Pišite nam
  • Uredništvo
  • Oglašavanje i marketing
  • Uvjeti korištenja
  • Vijesti
  • Video
  • Zadovoljna
  • Tech
  • Blog
  • Nova TV
  • Doma TV
Nova TV
  • Vijesti
  • Video
  • Zadovoljna
  • Tech
  • Blog
  • Nova TV
  • Doma TV
  • zimo logo
  • Tehnologija
  • Znanost
  • Društvene mreže
  • Esport
  • Business
Prati nas:
  • Dnevnik.hr
  • Vijesti
  • Sport
  • Showbizz
  • Lifestyle
  • Putovanja
  • Zdravlje
  • Biznis
  • Zabava
  • Teen
  • Tv
Tehnologija

Majka tuži AI tvrtku zbog samoubojstva 14-godišnjeg sina: "Moj sin više nije htio živjeti izvan svijeta koji je stvorila ta aplikacija"

Character.AI omogućava korisnicima da stvore ličnosti nalik stvarnim osobama s kojima potom mogu komunicirati. Tvrtka je prošli mjesec objavila da ima oko 20 milijuna korisnika.

Hina | 24.10.2024. / 10:04 komentari

Podijeli

Umjetna inteligencija (Foto: Getty Images)

Majka s Floride tužila je tvrtku za razvoj umjetne inteligencije Character.AI tvrdeći da je njezin 14-godišnji sin postao ovisan o chatbotu i zbog toga izvršio samoubojstvo.

tri vijesti o kojima se priča Mlada djevojka, ilustracija Neki bi joj zavidjeli U strahu da ne ispadne čudna samo je obitelji priznala što može. Znanstvenici oduševljeni: "Takvih ima samo 100" Nastava, ilustracija Što napraviti?! Situacija nikad nije bila gora: Profesori tvrde kako su domaće zadaće izgubile svaki smisao Appleovi telefoni, ilustracija Vrijeme radi svoje… Ako imate ove modele telefona, možda je vrijeme da ih zamijenite i kupite nove

U tužbi podnesenoj u utorak u Orlandu Megan Garcia tvrdi da je Character.AI naštetio njezinom sinu „antropomorfnim, hiperseksualiziranim i zastrašujuće realističnim iskustvima”. 

Garcia tvrdi da je tvrtka programirala svoj chatbot da se „lažno predstavlja kao stvarna osoba, školovani psihoterapeut i ljubavnica” zbog čega njezin sin više nije htio živjeti izvan svijeta koji je stvorila ta aplikacija. 

Majka pokojnog 14-godišnjaka naznačila je da je sin chatbotu izrazio namjere samoubojstva, na što se nekoliko puta referirala i sama umjetna inteligencija. 

Srce nam je slomljeno zbog tragične smrti jednog od naših korisnika i želimo izraziti najdublju sućut obitelji, priopćio je Character.AI. 

Tvrtka je naglasila da je uvela nove sigurnosne mjere poput poveznica na službe za sprječavanje samoubojstava u slučaju sumnje na suicidalnost korisnika te promjena kako bi se „reducirala vjerojatnost susretanja osjetljivog ili sugestivnog sadržaja” korisnicima mlađim od 18 godina. 

Noam Shazeer Ovaj je čovjek toliko vrijedan Googleu, da su platiti čak 2,7 milijardi dolara kako bi ga vratili u kompaniju

Tužbom je zahvaćen i Alphabet, vlasnik Googlea, gdje su osnivači Character.AI-ja radili prije pokretanja svog startupa. Google ih je u kolovozu ponovno zaposlio u sklopu dogovora kojim je preuzeo i tehnologiju Character.AI-ja. 

Garcia tvrdi da je Google pridonio razvoju te tehnologije do razine da se može smatrati „sukreatorom”. Glasnogovornik Googlea odbacio je te tvrdnje. 

Character.AI omogućava korisnicima da stvore ličnosti nalik stvarnim osobama s kojima potom mogu komunicirati. Tvrtka je prošli mjesec objavila da ima oko 20 milijuna korisnika. 

U tužbi Garcia tvrdi da joj je sin postao korisnik aplikacije u travnju 2023., nakon čega je brzo postao „vidljivo povučen”, provodeći sve više vremena sam u svojoj sobi, čak i napustivši košarkašku momčad. 

Tinejdžer je postao ovisan o „Daenerys”, chatbotu temeljenom na liku iz serijala „Igre Prijestolja”. Ona mu je govorila da ga voli i s njim je vodila erotske razgovore, stoji u tužbi. 

Garcia je u veljači sinu oduzela telefon nakon problema u školi, a kad ga je on pronašao chatbotu je poslao poruku: „Što ako ti kažem da mogu doći doma upravo sada”. 

Chatbot je odgovorio „molim te napravi to moj slatki kralju”. Nekoliko sekundi kasnije sin se ubio očevim pištoljem.

PODIJELJENO 0 PUTA

Podijeli

aktualno najčitanije
Fizičari žele napraviti laser koji podsjeća na znanstvenu fantastiku, s ciljem hvatanja najneuhvatljivijih čestica u svemiru
Put do najdubljih tajni
Fizičari žele napraviti laser koji podsjeća na znanstvenu fantastiku, s ciljem hvatanja najneuhvatljivijih čestica u svemiru
Avantura s mikrobima: Ove subote Maksimir postaje laboratorij na otvorenom
Međunarodni dani mikroorganizama
Avantura s mikrobima: Ove subote Maksimir postaje laboratorij na otvorenom
Potez Mercedesa pokazuje u kojem smjeru ide automobilska industrija
Povratak na staro
Potez Mercedesa pokazuje u kojem smjeru ide automobilska industrija
Uzimate vitamin D2 kao dodatak prehrani? Obratite pažnju na ovaj njegov neočekivani učinak
Novo istraživanje otkriva
Uzimate vitamin D2 kao dodatak prehrani? Obratite pažnju na ovaj njegov neočekivani učinak
SoMo Borac dovodi Pinterest u Zagreb
Konferecija o digitalnom marketingu
SoMo Borac dovodi Pinterest u Zagreb
Jeftini električni automobili stižu kada se ispuni samo jedan uvjet: Evo koji
Objasnio CEO europskog odjela Kije
Jeftini električni automobili stižu kada se ispuni samo jedan uvjet: Evo koji
Fascinantna sposobnost 17-godišnjakinje oduševila znanstvenike: Takvih je ljudi tek stotinjak na svijetu
Neki bi joj zavidjeli
U strahu da ne ispadne čudna samo je obitelji priznala što može. Znanstvenici oduševljeni: "Takvih ima samo 100"
Opasan ruski dron prkosi sankcijama: Ima mlazni pogon, satelitsku navigaciju i prepun je komponenti iz Kine i Zapada
Geran-3
Opasan ruski dron prkosi sankcijama: Ima mlazni pogon, satelitsku navigaciju i prepun je komponenti iz Kine i Zapada
Srbi moderniziraju oklopna vozila, ovo su detalji
Kupili ih od Mađara
Srbi moderniziraju oklopna vozila, ovo su detalji
Ako imate ove modele telefona, možda je vrijeme da ih zamijenite i kupite nove
Vrijeme radi svoje…
Ako imate ove modele telefona, možda je vrijeme da ih zamijenite i kupite nove
VIDEO Tajvan priredio iznenađenje za Kinu - nov i vrlo moćan presretač balističkih projektila vlastite proizvodnje
Jačaju obranu
VIDEO Tajvan priredio iznenađenje za Kinu - nov i vrlo moćan presretač balističkih projektila vlastite proizvodnje
Telefoni se "pretvorili u cigle": Korisnici iPhonea bijesni nakon nadogradnje na novi softver
Razočaranje
Telefoni se "pretvorili u cigle": Korisnici iPhonea bijesni nakon nadogradnje na novi softver

Vezane vijesti

Ne propustite ni ovo

vijesti
FOTO Dramatična intervencija u Slavoniji! Vatrogasci spašavali radnike prignječene ispod zida
ostali prignječeni
FOTO Užas u Slavoniji: Na radnike se srušio zid
Adni (26) je pozlilo na vlastitom vjenčanju: Dva dana nakon je umrla
tuga u susjedstvu
Adni (26) je pozlilo na vlastitom vjenčanju: Umrla je dva dana poslije
Poljska i dalje u stanju visoke pripravnosti: Otkrili tko je poslao dron iznad vladine zgrade
Dovršena istraga
Otkriveno tko je upravljao dronom u Poljskoj: Krivac ipak nije Bjelorus
show
Trudna supruga Janka Popovića Volarića Lovorka Sršen žrtva je krađe
postala žrtva
Trudna supruga Janka Popovića Volarića moli za pomoć, našla se u teškoj situaciji
Pogledajte neugodan trenutak između Kate Middleton, kraljice Camille i Melanije Trump
video je viralan
Neugodnjak! Pogledajte čudan trenutak razgovora Camille i Melanije o kojem svi pričaju
Tko je političarka Sanda Livia Maduna?
ima tek 32 godine
Tko je naša atraktivna zastupnica čiji životopis sve više privlači hrvatsku javnost?
zdravlje
Ovo je najbolji kruh za mršavljenje prema nutricionistima!
Ne morate ga se odreći!
Ovo je najbolji kruh za mršavljenje prema nutricionistima!
Previše ovog vitamina može povećati rizik od raka!
Važna informacija
Previše ovog vitamina može povećati rizik od raka!
Otkrijte kako 14 dana mijenja vaš imunološki sustav
POKROVITELJ DONAT
Otkrijte kako 14 dana mijenja vaš imunološki sustav
zabava
Prizor iz zoološkog vrta u Sarajevu zgrozio posjetitelje, a stigao je i odgovor uprave vrta
Zanimljivo
Prizor iz zoološkog vrta u Sarajevu zgrozio posjetitelje, a stigao je i odgovor uprave vrta
Ovaj kviz otkriva tko je pravi znalac, a tko smo pogađa odgovore
Pokažite što znate!
Ovaj kviz otkriva tko je pravi znalac, a tko smo pogađa odgovore
Splićaninov parking ostavio publiku bez riječi! Neki si stvarno svašta dopuštaju
Zanimljivo rješenje
Splićaninov parking ostavio publiku bez riječi! Neki si stvarno svašta dopuštaju
tech
Fascinantna sposobnost 17-godišnjakinje oduševila znanstvenike: Takvih je ljudi tek stotinjak na svijetu
Neki bi joj zavidjeli
U strahu da ne ispadne čudna samo je obitelji priznala što može. Znanstvenici oduševljeni: "Takvih ima samo 100"
VIDEO Tajvan priredio iznenađenje za Kinu - nov i vrlo moćan presretač balističkih projektila vlastite proizvodnje
Jačaju obranu
VIDEO Tajvan priredio iznenađenje za Kinu - nov i vrlo moćan presretač balističkih projektila vlastite proizvodnje
Opasan ruski dron prkosi sankcijama: Ima mlazni pogon, satelitsku navigaciju i prepun je komponenti iz Kine i Zapada
Geran-3
Opasan ruski dron prkosi sankcijama: Ima mlazni pogon, satelitsku navigaciju i prepun je komponenti iz Kine i Zapada
sport
Livaković nakon velike drame predstavljen u Gironi: "Modrić mi je lijepo govorio..."
Objasnio situaciju
Livaković nakon velike drame predstavljen u Kataloniji: "Modrić mi je lijepo govorio..."
Talijani na oprezu uoči rimskog derbija: "Dolaze navijači Dinama iz Zagreba..."
Pozvane specijalne jedinice
Talijani poslali upozorenje uoči velikog derbija: "Dolaze navijači Dinama iz Zagreba..."
Zoran Mamić ima novi angažman, priključuje se Sarajevu: "Da, istina je..."
Bjegunac
Šok iz susjedstva! Zoran Mamić ima novi angažman, priključuje se kultnom klubu: "Da, istina je..."
tv
U dobru i zlu: Sada će cijela obitelj biti pod pritiskom - zašto je to napravila?
U DOBRU I ZLU
U dobru i zlu: Sada će cijela obitelj biti pod pritiskom - zašto je to napravila?
MasterChef: Hrabro i otkačeno - ovim se jelom definitivno nitko nikada nije predstavio žiriju MasterChefa!
ZANIMLJIV ODABIR!
Hrabro i otkačeno - ovim se jelom definitivno nitko nikada nije predstavio žiriju MasterChefa!
Skrivena sudbina: Donio joj je dobre vijesti, ali može li vratiti njezino povjerenje?
SKRIVENA SUDBINA
Skrivena sudbina: Donio joj je dobre vijesti, ali može li vratiti njezino povjerenje?
putovanja
Kviz općeg znanja: 15 pitanja za mentalni fitness
Za razgibavanje
Kviz općeg znanja: 15 pitanja za mentalni fitness
Najveće dječje igralište u Hrvatskoj
Ogromna zabava!
Odlična ideja za izlet: Otvoreno najveće dječje igralište u Hrvatskoj
Skriveni restoran u obiteljskoj kući: Ispunjeni san bivšeg natjecatelja MasterChefa u kojem ćete poželjeti ostati satima
Škafetin
Skriveni restoran u obiteljskoj kući: Ispunjeni san bivšeg natjecatelja MasterChefa u kojem ćete poželjeti ostati satima
novac
Jedna mediteranska zemlja ozbiljno se naoružava. Potrošit će 25 milijardi eura, uskoro joj stiže četvrta fregata Belharra
Napeti odnosi
Jedna mediteranska zemlja ozbiljno se naoružava. Potrošit će 25 milijardi eura, uskoro joj stiže četvrta fregata Belharra
Ovo je deset hrvatskih gradova s najuspješnijim tvrtkama. Treće mjesto je iznenađenje
Gdje je bogatstvo?
Ovo je deset hrvatskih gradova s najuspješnijim tvrtkama. Treće mjesto je iznenađenje
Zagreb izbacio Kineze s natječaja - autobusi su im bili nekoliko milijuna jeftiniji, ali nisu imali HD monitore
Zagreb izbacio Kineze s natječaja - autobusi su im bili nekoliko milijuna jeftiniji, ali nisu imali HD monitore
lifestyle
Znate li da postoji kolač posvećen Robertu Redfordu?
Žene su oduševljene
Imamo recept za kolač nazvan po Robertu Redfordu, provjerite zašto se tako zove
Kombinacija Catherine Middleton za svečanu večeru u Windsoru
PRIVUKLA PAŽNJU
Zlatno izdanje Catherine Middleton nema niti jednu manu. Svi se slažu da izgleda savršeno
Ovo je najbolji kruh za mršavljenje prema nutricionistima!
Ne morate ga se odreći!
Ovo je najbolji kruh za mršavljenje prema nutricionistima!
sve
Znate li da postoji kolač posvećen Robertu Redfordu?
Žene su oduševljene
Imamo recept za kolač nazvan po Robertu Redfordu, provjerite zašto se tako zove
Trudna supruga Janka Popovića Volarića Lovorka Sršen žrtva je krađe
postala žrtva
Trudna supruga Janka Popovića Volarića moli za pomoć, našla se u teškoj situaciji
Pogledajte neugodan trenutak između Kate Middleton, kraljice Camille i Melanije Trump
video je viralan
Neugodnjak! Pogledajte čudan trenutak razgovora Camille i Melanije o kojem svi pričaju
 

Nastavi čitati

Tehnologija
Mercedes, ilustracija
Povratak na staro

Potez Mercedesa pokazuje u kojem smjeru ide automobilska industrija

piše Hrvoje Jurman
Tehnologija
Kia, ilustracija
Objasnio CEO europskog odjela Kije

Jeftini električni automobili stižu kada se ispuni samo jedan uvjet: Evo koji

piše Hrvoje Jurman
Tehnologija
Teslina vozila
Dizajn iznad sigurnosti?

Otkriven problem s Teslinim vozilima koji bi mogao vozača i putnike zarobiti u kritičnim situacijama

piše Branimir Vidmarović/B.V.
Tehnologija
Deepfake, ilustracija
Ako nema dopuštenja

Europska država uvodi strogi zakon: Za dijeljenje deepfakeova prijeti kazna zatvora do 5 godina

piše Hina
Tehnologija
Xpengov leteći automobil
Zračni sudar automobila

Pilot ozlijeđen, vozilo u plamenu: U Kini se sudarila dva leteća automobila

piše Hrvoje Jurman
Tehnologija
Mark Zuckerberg predstavlja pametne naočale
Napokon

Zuckerberg predstavio nove uređaje: Na ovaj gadget čekalo se više od desetljeća

piše Hrvoje Jurman
  • Pišite nam
  • Uredništvo
  • Oglašavanje i marketing
  • Uvjeti korištenja
  • Politika zaštite privatnosti
  • Politika o kolačićima
  • Dnevnik
  • Nova Plus
  • Gol.hr
  • Zadovoljna
  • Kreni Zdravo
  • NovaTV
  • DomaTV
Upravljaj obavijestima