Мајка с Флориде тужила је фирму за развој вештачке интелигенције Character.AI и тврди да је њен 14-годишњи син постао зависан о четботу и због тога починио самоубиство.

У тужби поднесеној у уторак у Орланду Меган Гарсија тврди да је Character.AI наштетио њеном сину „антропоморфним, хиперсексуализованим и застрашујуће реалистичним искуствима“.

Гарсија тврди да је фирма програмирала свој четбот да се „лажно представља као стварна особа, школовани психотерапеут и љубавница“, због чега њен син више није хтео да живи изван света који је створила та апликација.

Мајка покојног 14-годишњака нагласила је да је син четботу изразио да намерава да се убије, на шта се неколико пута реферирала и сама вештачка интелигенција.

„Срце нам је сломљено због трагичне смрти једног од наших корисника и желимо изразити најдубље саучешће породици“, саопштио је Character.AI.

Компанија: Увели смо нове безбеднносне мере попут линкова на службе за спречавање самоубиства

Фирма је нагласила да је увела нове безбедносне мере попут линкова на службе за спречавање самоубиства у случају сумње на суицидалност корисника те промене како би се „смањила вероватноћа сусретања осетљивог или сугестивног садржаја“ корисницима млађим од 18 година.

Тужбом је захваћен и „Алфабет“, власник „Гугла“, где су оснивачи Character.AI-ја радили пре покретања свог стартупа. „Гугл“ их је у августупоновно запослио у склопу договора којим је преузео и технологију Character.AI-ја.

Гарсија тврди да је Гугл допринео развоју те технологије до нивоа да се може сматрати „коаутором“. Портпарол „Гугла“ одбацио је те тврдње.

Character.AI омогућава корисницима да створе личности налик стварним особама с којима потом могу комуницирати. Твртка је прошли мјесец објавила да има око 20 милијуна корисника.

„Четбот је 14-годишњаку говорио да га воли и водио је с њим еротске разговоре“

У тужби Гарсија тврди да је њен син постао корисник апликације у априлу 2023, након чега је брзо постао „видљиво повучен“, проводио је све више времена сам у својој соби, чак и напустио кошаркашки тим.

Тинејџер је постао зависан о Даенерyс, четботу темељеном на лику из серијала Игра престола. Она му је говорила да га воли и с њим је водила еротске разговоре, стоји у тужби.

Син се убио очевим пиштољем након што је комуницирао са четботом

Гарсијаа је у фебруару сину одузела телефон након проблема у школи, а кад га је он пронашао, четботу је послао поруку: „Шта ако ти кажем да могу доћи кући управо сада?“

Четбот је одговорио: „Молим те, уради то, мој слатки краљу.“ Неколико секунди касније син се убио очевим пиштољем.

Извор: index.hr

Ознаке: вештачка интелигенција, дечак, самоубиство, четбот