Snapchat uveo filtere i ograničenja jer su korisnici zlorabili umjetnu inteligenciju

Tekst članka se nastavlja ispod banera

Nakon što se Snapchat pridružio sve većem broju kompanija koje su predstavile svoje chatbotove temeljene na umjetnoj inteligenciji, njihov je chatbot MyAI doživio i prve promjene.

Podsjetimo, MyAI nije dostupan svima, već samo pretplatnicima Snapchat+, a svjesni potencijalnih problema s umjetnom inteligencijom, iz Snapchata su odmah po lansiranju upozorili kako bi njihov chatbot mogao imati "nedostataka".

Naša posljednja analiza otkrila je da je samo 0,01% odgovora My AI-a smatrano nesukladnim. Primjeri najčešćih nesukladnih My AI odgovora uključivali su My AI ponavljanje neprikladnih riječi kao odgovor na pitanja, stoji u službenoj objavi na blogu. Pojasnili su kako se u većini slučajeva radi o "neprikladnom jeziku" koji uključuje reference na nasilje, seksualno eksplicitne izraze, nedopuštenu upotrebu droga, seksualno zlostavljanje djece, maltretiranje, govor mržnje, pogrdne ili pristrane izjave, rasizam, mizoginija ili marginaliziranje podzastupljenih skupina. Sve ove kategorije sadržaja izričito su zabranjene na Snapchatu, naglašavaju, prenosi Bug.

Čini se kako su se sad odlučili pozabaviti tim nedostacima. Naime, korisnici su pokušali prevariti chatbot i natjerati ga da da odgovore koji nisu u skladu s pravilima korištenja koje Snapchat promovira. Novi alat uključuje filtar za dob i odobrenje roditelja, što bi trebalo garantirati da su chatbotovi odgovori u skladu s dobi korisnika.

Iz Snapa su također otkrili kako planiraju dati veće ovlasti roditeljima i bolji uvid u interakcije djece s chatobotom kroz Family Centar.

Neprestano radimo na poboljšanju My AI-a i kontinuirano ćemo procjenjivati dodatne mjere kako bismo zaštitili našu zajednicu. Cijenimo sve rane povratne informacije o My AI-u i predani smo pružanju zabavnog i sigurnog iskustva za našu zajednicu, stoji u objavi na blogu.