‘Deadbotovi’ bi mogli biti budućnost, upozoravaju etičari, a mi nismo spremni

100
videocall

AI chatbotovi oživljavaju diljem svijeta, a kako razgovori s čitavim nizom robota postaju mogući, nekoliko kompanija nudi korisnicima priliku za razgovor uz ‘simulaciju’ svojih preminulih voljenih po cijenama od 10 USD.

Neki koji su već prihvatili tehnologiju tješe se tekstualnim, glasovnim ili video simulacijama. Kažu da im se čini kao da im se njihovi najmiliji doista obraćaju s druge strane. Drugi smatraju da je AI ovjekovječenje pokojnika zabrinjavajuće i manipulativno.

Etičari Tomasz Hollanek i Katarzyna Nowaczyk-Basińska sa Sveučilišta u Cambridgeu posljednji su koji su izrazili zabrinutost zbog rizika ‘industrije digitalnog života nakon smrti’.

Tvrde da chatbotovi koji oponašaju preminule osobe – koji se ponekad nazivaju deadbotovi, griefbotovi ili ghostbotovi – postavljaju nekoliko ključnih društvenih i etičkih pitanja s kojima se tek trebamo suočiti.

Kao, tko posjeduje podatke osobe nakon smrti? Kakav je psihološki učinak na preživjele? Za što se može koristiti deadbot?

Takva su pitanja jednom inspirirala jezivu epizodu znanstveno-fantastične serije Black Mirror. Sada se takva zamišljena budućnost čini mogućom.

Razmislite o rizicima sljedećeg mogućeg scenarija, koji su Hollanek i Nowaczyk-Basińska iznijeli u svom nedavnom istraživačkom članku. Baka 28-godišnje žene je umrla pa ona odlučuje prenijeti njihove razmjene poruka i glasovne bilješke u aplikaciju. Ova aplikacija omogućuje ženi da pozove AI simulaciju svoje preminule bake kad god poželi.

“Ljudi bi mogli razviti snažne emocionalne veze s takvim simulacijama, što će ih učiniti posebno ranjivima na manipulaciju”, predlaže Hollanek.

2018. neki su etičari zaključili da su nečiji digitalni ostaci dragocjeni i da ih treba tretirati kao više od oblika profita, odnosno kao “entitet koji ima inherentnu vrijednost”.

Ova je logika u skladu s Kodeksom profesionalne etike Međunarodnog vijeća muzeja, koji nalaže da se ljudskim ostacima postupa s dužnim poštovanjem i “nepovredivim” ljudskim dostojanstvom.

Hollanek i Nowaczyk-Basińska ne misle da je potpuna zabrana mrtvih robota izvediva, ali tvrde da bi tvrtke trebale postupati s podacima donatora “s poštovanjem”.

Također se slažu s prethodnim mišljenjima da se mrtvi roboti nikada ne bi trebali pojavljivati u javnim digitalnim prostorima poput društvenih medija. Jedina iznimka bi trebale biti povijesne osobe.

Godine 2022. etičarka Nora Freya Lindemann ustvrdila je da mrtve robote treba klasificirati kao medicinske uređaje kako bi se osiguralo da je mentalno zdravlje ključni prioritet tehnologije. Mala djeca, na primjer, mogu postati zbunjena fizičkim gubitkom voljene osobe ako su još digitalno ‘živa’ i dio su njihova svakodnevnog života.

Umjesto toga, tvrde oni, ovi bi sustavi trebali biti “smisleno transparentni” kako bi korisnici znali za što se prijavljuju i moguće rizike koji su uključeni.

Tu je i pitanje tko može deaktivirati bota. Ako osoba pokloni svoj ‘ghostbot’ svojoj djeci, smiju li djeca odustati? Ili je deadbot zauvijek tu ako je preminula osoba to htjela? Želje uključenih skupina možda se neće uvijek slagati. Dakle, tko pobjeđuje?

“Potrebne su dodatne ograde za usmjeravanje razvoja usluga rekreacije”, zaključuju Hollanek i Nowaczyk-Basińska.

Dvojac iz Cambridgea nada se da će njihovi argumenti “pomoći u središtu kritičkog razmišljanja o ‘besmrtnosti’ korisnika u dizajnu ljudske interakcije s umjetnom inteligencijom i istraživanju etike umjetne inteligencije.”

Izvor: Science Alert

Komentari