Slično kao što su tehnološke kompanije morale reagirati i uvesti određena ograničenja i roditeljske kontrole na društvenim mrežama kako bi spriječile izloženost mladih negativnom sadržaju, sada isto rade i s AI chatbotovima. Kao i u slučaju društvenih mreža, u pravom planu ponovno je Meta, ali nove opcije namijenjene zaštiti mladih najavio je i OpenAI za ChatGPT.
Najveći novitet koji Altmanova kompanija priprema jest mogućnost da roditelji povežu svoj račun s računom svoje djece kako bi mogli pratiti konverzacije koje imaju s umjetnom inteligencijom. Također, roditelji mogu odabrati koje će opcije onesposobiti na profilima djece, kao i aktivirati mogućnost primanja obavijesti u slučajevima kada sustav prepozna određene probleme poput stresa i slično. Iz OpenAI-a kažu i da, neovisno o dobi osobe koja razgovara s njihovim chatbotom, u slučaju nekakvih razgovora koje sustav prepozna kao potencijalno uznemirujućima, tu će konverzaciju prebaciti na najsnažnije AI modele kako bi pružili najbolji mogući odgovor.
To se pogotovo odnosi na razgovore o samoubojstvima ili konverzaciju s mladima (ili starijima) u kojima se mogu prepoznati znakovi mentalnog i emotivnog stresa.
Samoregulacija IT kompanija nije dovoljna
Iz OpenAI-a najavili su ove promjene nedugo nakon što su roditelji jednog tinejdžera tužili OpenAI i izvršnog direktora ove tvrtke Sama Altmana tvrdeći da je upravo ChatGPT pomogao njihovom djetetu u planiranju i izvršenju samoubojstva. Odvjetnik roditelja smatra kako je ovaj potez OpenAI-a samo pokušaj njihova odjela za upravljanje krizama za promjenom teme.
Ograničenja oko tema razgovora sa svojim chatbotom najavili su i iz Zuckerbergove kompanije. Oni su još ranije uveli roditeljski nadzor nad računima mladih, a sada su najavili kako Meta AI više neće moći razgovarati s tinejdžerima o temama poput suicida, ali i samoozljeđivanja, poremećaja prehrane te da s djecom više neće imati neprikladne romantične razgovore. Umjesto toga, usmjerit će ih na resurse koji će im pružiti stručnu pomoć.
Iako je svakako riječ o napretku i poboljšanjima oko odnosa tehnoloških kompanija i njihovih AI alata prema mladima, stručnjaci naglašavaju kako je potrebno napraviti puno više za zaštitu tinejdžera, a kao poseban problem naglašavaju što je u biti ovdje riječ o samoregulaciji kompanija i to na polju na kojem su opasnosti za tinejdžere iznimno velike i stvarne, naglašavaju na AP-u.
