Meta si patentovala AI, která bude postovat i po vaší smrti

Pokud je něco jisté, je to smrt. Jenže ne pro Metu a dystopický svět, do kterého se krok za krokem přesouváme. Zpráva, která působí jako vystřižená z Black Mirror, je ve skutečnosti velmi konkrétní. V prosinci 2023 Meta získala patent na systém umělé inteligence schopný simulovat aktivitu uživatele na sociálních sítích ve chvíli, kdy je mimo síť, například během dlouhé pauzy, nebo pokud zemřel. Účet zemřelého na instagramu by teoreticky mohl dál komentovat, dávat lajky a publikovat, díky patentu podepsanému technologickým šéfem Meta Andrewem Bosworthem.

Podle Business Insider patent popisuje, jak by velký jazykový model mohl simulovat chování člověka na sociálních sítích analýzou jeho historických dat na platformě. Výsledkem má být digitální klon, který interaguje se skutečnými lidmi a reaguje na jejich příspěvky tak, jako by byl naživu. Patent přímo říká, že „dopad na uživatele je mnohem závažnější a trvalejší, pokud je uživatel po smrti a nikdy se na platformu nevrátí“. Paradox je zřejmý. Celé řešení se dá rámovat jako dobrý skutek, jenže v jádru jde o to předstírat, že tu zesnulý pořád je.

Problém se smutečními technologiemi

Patent počítá i s další vrstvou, možností vytvořit několik modelů pro jednoho člověka, navázaných na různé fáze života. Jedna verze vašeho digitálního já trénovaná na datech z doby, kdy vám bylo 20, další z třicítky, další ze čtyřicítky. Jako by smrt sama o sobě nebyla dost složitá na zpracování, přidává se nabídka návratu v čase. Mluvčí Meta podle Business Insider uvedl, že aktuálně nemají v plánu pokračovat s tímto příkladem, jenže samotná existence patentu ukazuje, jakým směrem velké technologické firmy uvažují.

Zároveň to otevírají nepříjemné otázky, kdo skutečně vlastní naši digitální identitu. Meta v tom není sama. Obor takzvané grief tech rychle roste. Startupy jako HereAfter AI, Eternos nebo StoryFile už nabízejí služby, které vytvářejí interaktivní avatary zemřelých. V Číně firmy typu Super Brain slibují digitální vzkříšení zesnulého za 20 jüanů, tedy zhruba šedesát korun, a stačí jim k tomu jen 30 vteřin audiovizuálního materiálu.

Jenže výzkumníci z univerzity v Cambridge varují, že jde o etické minové pole. Doktorka Katarzyna Nowaczyk Basińska z Leverhulme Centre for the Future of Intelligence míní, že je důležité upřednostnit důstojnost zemřelých a zajistit, aby nebyla porušována finančními motivy služeb digitálního posmrtného života. Cambridge navíc popsal tři znepokojivé scénáře, jak mohou griefboti ublížit živým. Avatary vytvořené bez souhlasu zesnulého, které začnou zobrazovat reklamy, například babička doporučuje objednat jídlo přes konkrétní rozvoz. Chatboti, kteří mohou narušit děti tím, že jim tvrdí, že zesnulý rodič je stále s nimi. A simulace, které vytvoří tak silné emoční vazby, že může vzniknout potřeba protokolů, jak vztah ukončit.

Kdo vlastní vaše data po smrti?

Meta patent otevírá ještě jednu zásadní otázku: co se děje s našimi účty a digitálními daty, když zemřeme? Právní odpověď je složitá a dramaticky se liší podle toho, kde žijete. Ve Spojených státech existuje Revised Uniform Fiduciary Access to Digital Assets Act, zkráceně RUFADAA, který dává správcům pozůstalosti právo přistupovat k digitálním datům a aktivům zesnulého a spravovat je. Podle Digital Watch Observatory ale existují problémy, zákon může narážet na soukromí zesnulého a navíc ho nepřijaly všechny státy.

V Evropě GDPR výslovně neplatí pro data zemřelých, případně nevyjasňuje, jak se na situaci po smrti vztahuje. V praxi rodinám často nezbývá než se řídit podmínkami platformy, pokud zesnulý nezanechal jasné instrukce a přístupové údaje. Právě v této legislativní mlze Meta už před téměř dekádou zavedla funkci legacy contact, tedy možnost určit člověka, který bude účet po smrti spravovat. A potom přišel patent z roku 2023.

Zůstává nejasné, jestli Meta někdy patent skutečně promění v realitu a nechá mrtvé dál postovat. Jenže už samotný fakt, že byl podán, naznačuje, kam se jako společnost posouváme. Do světa, kde se hranice mezi živými a mrtvými rozmazává, kde je možné monetizovat smutek a kde nás mohou přežít digitální klony. Otázka už nezní, jestli to technologie umožní. Otázka zní, jestli to vůbec chceme. A pokud vám jednou někdo okomentuje instagram, jak si budete jistí, že je to opravdu on, a ne jen algoritmus natrénovaný tak, aby zněl jako on?