Po śmierci bliskich pozostają fotografie, nagrania i listy. Rozwój sztucznej inteligencji umożliwia dziś tworzenie ich cyfrowych reprezentacji, z którymi można prowadzić rozmowy. O możliwościach i zagrożeniach związanych z takimi technologiami opowiadała PAP dr Ada Florentyna Pawlak z Uniwersytetu SWPS.
Wyobraźmy sobie córkę, która po śmierci ojca odsłuchuje jego wiadomość głosową. Zna ją niemal na pamięć, a jednak wraca do niej, żeby jeszcze raz usłyszeć, jak wymawiał jej imię. Teraz wyobraźmy sobie, że może na tę wiadomość odpowiedzieć. Że znajomy głos pyta o jej dzień i mówi o wydarzeniach, których ojciec nie dożył. Między tymi sytuacjami otwiera się przestrzeń, którą próbujemy opisać pojęciem „cyfrowej nieśmiertelności
– mówiła antropolożka technologii, prawniczka i historyczka sztuki.
Trzy formy „cyfrowej nieśmiertelności”
Badaczka rozróżnia trzy formy „cyfrowej nieśmiertelności”.
Pierwsza jest archiwalna: zachowujemy zdjęcia, listy, filmy, profile społecznościowe. Człowiek pozostawia ślady, a my nadajemy im znaczenie. Nagranie nie dopowiada kolejnego zdania
– wymieniała.
Druga forma ma charakter rekonstrukcyjny – algorytm na podstawie zgromadzonych materiałów odtwarza głos, wygląd lub charakterystyczny sposób wypowiadania się danej osoby.
Trzecia forma ma charakter interaktywny – cyfrowa reprezentacja zmarłego może odpowiadać na nowe pytania.
Do tej kategorii należą deadboty (czyli boty odtwarzające osobę zmarłą) i część systemów nazywanych griefbotami (czyli botami umożliwiającymi interakcję z cyfrową reprezentacją zmarłego). Model tworzy wypowiedzi, których zmarły nigdy nie sformułował, a czasem sam inicjuje kontakt. To ogromna zmiana w kulturze pamięci. List pozostawiony przez babcię miał ostatnie zdanie. System generatywny może dopisywać następne przez wiele lat. Archiwum staje się miejscem rozmowy, a możliwość usłyszenia odpowiedzi usługą dostępną na żądanie
– podkreślała naukowczyni.
Dr Pawlak przestrzegła jednak przed dosłownym rozumieniem pojęcia „nieśmiertelności”.
Technologia może odtworzyć sposób, w jaki ktoś do nas mówił, ale nie mamy podstaw, aby uznać, że ocala jego wewnętrzne doświadczenie
– wskazała.
Technologicznym zapleczem cyfrowej nieśmiertelności jest grieftech, czyli rozwiązania służące upamiętnianiu zmarłych, wspieraniu osób w żałobie i zarządzaniu cyfrowym dziedzictwem. Systemy te wykorzystują m.in. prywatne wiadomości, nagrania i rodzinne filmy. Zgromadzone materiały są porządkowane w archiwum, które umożliwia odtwarzanie autentycznych wypowiedzi lub generowanie nowych.
Ada Florentyna Pawlak przestrzegła jednak przed traktowaniem takiego rozbudowanego archiwum jako sposobu na zatrzymanie zmarłego.
Łatwo przedstawić żałobę jako cierpienie, któremu zaradzi odpowiednio zaprojektowana aplikacja. Tymczasem ból po stracie bywa częścią powolnego przekształcania własnego życia. Potrzebuje czasu, obecności innych ludzi i miejsca na uczucia, które nie układają się w harmonogram poprawy. Szczególnie silna może być pokusa rozmowy z awatarem tam, gdzie tego wsparcia brakuje. Aplikacja odpowie także o trzeciej nad ranem. Ta dostępność może mieć znaczenie, choć nie obejmuje całego bogactwa ludzkiej obecności: czyjejś dłoni, wspólnego milczenia, gotowości do pomocy poza ekranem
– opowiadała.
Sztuczna inteligencja może porządkować rozproszone nagrania, tworzyć transkrypcje i ułatwiać rodzinom odnajdywanie materiałów, których samodzielne archiwizowanie wymagałoby czasu i odpowiednich umiejętności. Nie oznacza to jednak, że griefboty mogą zastąpić terapię.
Trzeba uważnie obserwować, czy kontakt pomaga człowiekowi żyć dalej i budować inne relacje
– podkreśliła dr Pawlak, wskazując też na ryzyko uzależnienia się od tego typu aplikacji.
Zdaniem badaczki technologia ta odpowiada na rozbieżność między trwałością więzi ze zmarłym a brakiem możliwości bezpośredniego kontaktu z nim.
Przecież biologiczne odejście nie kończy społecznego istnienia człowieka. Zmarli są obecni w rodzinnych opowieściach, rytuałach, genealogiach i zobowiązaniach. Ich imionami nazywamy dzieci, ich zdania wracają przy stole. Jednak cyfrowy awatar dopisuje do długiej historii pamiętania nową możliwość: przodek może sprawiać wrażenie, że słyszy pytanie i właśnie na nie odpowiada
– mówiła.
Jednak negatywne konsekwencje mogą dotknąć też samą osobę, której wizerunek i wypowiedzi są odtwarzane. System może bowiem przypisać jej poglądy, których nie miała, ujawnić informacje dotyczące jej prywatności lub wykorzystać wizerunek w sposób, na który za życia nie wyraziłaby zgody.
Pojawiają się również wątpliwości prawne dotyczące możliwości tworzenia griefbotów z prywatnych wiadomości i nagrań zmarłych oraz wykorzystywania ich do generowania wypowiedzi w ich imieniu.
Prawo musi zmierzyć się z sytuacją, w której bardzo osobiste pragnienie spotyka możliwość techniczną i ofertę handlową. Powinno chronić autonomię, prywatność oraz swobodę decyzji osób korzystających z usługi. Punktem wyjścia jest wola człowieka dotycząca pośmiertnego odtwarzania. Potrzebujemy jasności, co oznacza zgoda: czy obejmuje głos, wizerunek, korespondencję, a także tworzenie nowych wypowiedzi. Pokrewieństwo ani posiadanie plików nie zamyka wszystkich pytań o dopuszczalny zakres ich wykorzystania
– mówiła antropolożka technologii.
Archiwum zmarłego może zawierać również informacje dotyczące prywatności innych osób. – Są w nim odpowiedzi partnera, zdjęcia dzieci, rodzinne zwierzenia. Fakt, że RODO co do zasady nie obejmuje danych osób zmarłych, nie usuwa ochrony danych osób żyjących. Osobny problem stanowią wypowiedzi, które system dopiero tworzy. Cyfrowy ojciec może powiedzieć córce, że zawsze był z niej dumny, albo wygenerować zdanie okrutne. Żadne z nich nie musi mieć podstaw w źródłach. Potrzebne są też zasady odpowiedzialności za wprowadzające w błąd przypisywanie intencji i za krzywdę wyrządzoną żyjącym – podkreślała.
Zdaniem dr Pawlak, choć sam rozwój technologii nie oznacza jeszcze jej powszechnej akceptacji, to widać już mechanizmy, które mogą sprzyjać upowszechnieniu tego typu usług.
Techniczna możliwość jest dopiero początkiem drogi do społecznego zwyczaju. To zjawisko wpisuje się jednak w coś, co nazywam ekonomią przywiązania. Podobny proces obserwujemy przy towarzyszach AI: wartość usługi rośnie wraz z emocjonalnym znaczeniem, jakie nadajemy relacji
– wyjaśniała.
Dodała, że silne przywiązanie emocjonalne do cyfrowego rozmówcy może sprawić, że zmiana aplikacji będzie odczuwana jak utrata kontaktu z kimś, z kim użytkownika łączy osobista historia.
Jeżeli możliwość usłyszenia głosu ojca zależy od abonamentu, rezygnacja z opłaty może być odczuwana jako kolejne rozstanie. Pojawia się niepokojąca zależność: przedsiębiorstwo zarabia na powrotach użytkownika, podczas gdy jego dobro może czasem wymagać rzadszego otwierania aplikacji
– podsumowała dr Ada Florentyna Pawlak.
