Hátborzongató: a mesterséges intelligencia segítségével beszélgethetünk a halottainkkal

Azok a mesterséges intelligencia- (MI-) alapú szolgáltatások, amelyek írásos, sőt, szóbeli kommunikációt tesznek lehetővé elveszített szeretteinkkel, lelki kárt okozhatnak, sőt, digitálisan „kísérthetik” az itt maradottakat, ha nem születnek erre vonatkozó biztonsági előírások – hívják fel a figyelmet a Cambridge-i Egyetem kutató. 

A cambridge-i Leverhulme Centre for the Future of Intelligence (LCFI, Az Intelligencia Jövője Leverhulme Kutatóközpont) háromféle lehetséges forgatókönyvét vázolja fel a születőben lévő „digitális túlvilág”-iparág alkalmazásainak, és rámutat arra a potenciális veszélyre, amelyet az MI általuk magas kockázatúnak tartott ágazata rejt, ha nem kellő gonddal tervezik - írja az Origo.

Nagy károkat okozhat a digitális feltámadás

A Philosophy and Technology című folyóiratban megjelent publikáció arra figyelmeztet: egyes vállalatok az elhunytakhoz való érzelmi kötődést kihasználva, bújtatottan reklámozhatnak termékeket, és nyomasztólag hathatnak az elhunytak gyermekeire azzal, hogy azt sugallják, eltávozott szülőjük még mindig itt van velük.

Még akik eleinte vigaszt találnak egy holtbottal való beszélgetésben, azok is egy idő után belefáradhatnak a napi szintű interakcióba, amely nehezen viselhető érzelmi terhet ró rájuk – fogalmaznak a kutatók –, mégis képtelenek lehetnek kilépni az MI csapdájából, hiszen elhunyt szerettük az, aki a szolgáltatásról szóló szerződést megkötötte.

„A generatív MI terén lezajlott robbanásszerű fejlődés eredményeképp most már szinte bárki, aki hozzáfér az internethez és van egy minimális felhasználói ismerete, képes lehet életre kelteni elhunyt szeretteit – mondta el Katarzyna Nowaczyk-Basińska, az LCFI kutatója és a tanulmány társszerzője. –

Nagyon fontos például, hogy mindig az elhunyt személy emberi méltósága legyen az elsődleges szempont, és biztosítani kell, hogy erre ne telepedjenek rá a digitális túlvilág szolgáltatóinak üzleti érdekei. Az is megeshet továbbá, hogy valaki búcsúajándéknak hagy hátra egy MI-szimulációt a szerettei számára, akik viszont nincsenek felkészülve arra, hogy ilyen módon birkózzanak meg a gyászukkal. Minden szereplő jogait szem előtt kell tartanunk: az örökhagyók mint adatdonorok és az MI-túlvilággal érintkezésbe lépő gyászolók érdekeit egyaránt védenünk kell.”

Lehetetlen ígéretek

A cikkben felhozott egyik példa egy halálosan beteg nő történetét írja le, aki a nyolcéves fia számára hagy hátra egy holtbotot abban a reményben, hogy az segítséget jelent majd neki a gyász feldolgozásában. Bár a holtbot kezdetben csakugyan terápiás haszonnal bír, a mögötte álló mesterséges intelligencia kisvártatva zavarba ejtő válaszokat kezd generálni, ahogy próbál a gyerek igényeihez alkalmazkodni, például előrevetíti egy küszöbön álló személyes találkozás lehetőségég.

A cikkben tárgyalt másik hipotetikus forgatókönyvben egy idős személy titokban előjegyzi magát egy holtbotra, és letesz egy húszévnyi előfizetést abban a reményben, hogy a feltámasztott énje vigaszt jelent majd felnőtt gyermekei számára, és lehetővé teszi, hogy az unokái megismerjék őt.

A halála után a szolgáltatás a megállapodásnak megfelelően elindul. Az egyik felnőtt gyermeke nem kíván részt venni ebben, ezért a holtbot elárasztja őt e-mailekkel, amelyekben a halott szülő hangján szól hozzá. A másik gyermeke belemegy az interakcióba, amely azonban érzelmileg kimeríti, és bűntudata támad a holtbot balul alakult sorsa miatt. A holtbot működésének felfüggesztésével ugyanakkor megszegnék az elhunyt szülő és a szolgáltató között köttetett szerződést.

Szigorúbb szabályozásra lenne szükség

„Roppant lényeges, hogy a digitális túlvilág-szolgáltatások nemcsak az általuk újraalkotott örökhagyó, de a szimulációval kapcsolatba lépő utókor érdekeit és hozzájárulási jogát is tekintetbe vegyék – emelte ki Hollanek. –

A kutatók üdvözlendőnek tartanák, ha a szolgáltatások tervezői beépítenének olyan lemondási lehetőségeket, amelyek révén a leendő felhasználók véget vethetnek a holtbotokkal kialakult kapcsolatuknak, méghozzá oly módon, hogy a búcsú ennek a felemás viszonynak az érzelmi lezárását jelentse. Nowaczyk-Basińska végül hozzátette: „Nagyon is ideje elgondolkodnunk azon, miként mérsékeljük a digitális halhatatlanság társadalmi és pszichológiai kockázatait, mert a technológia már készen áll.”