Een startup op het gebied van kunstmatige intelligentie, mede opgericht door een voormalige Disney Channel-acteur, heeft een mobiele app gelanceerd waarmee gebruikers interactieve digitale replica’s van overleden geliefden kunnen creëren. Deze ontwikkeling heeft geleid tot snelle online veroordelingen en hernieuwde aandacht voor de opkomende “grief tech”-sector.
2Wai, opgericht door Calum Worthy—beter bekend als Dez uit de Disney-serie “Austin & Ally”—en producer Russell Geyser, introduceerde op 11 november de bètaversie van de app. De functionaliteit “HoloAvatar” genereert converserende video-avatars op basis van slechts drie minuten aan geüpload beeld, audio en tekst, waardoor real-time chats mogelijk zijn in meer dan veertig talen.
Hoewel de app wordt gepromoot als een middel voor het bewaren van erfgoed, staat de mogelijkheid om overledenen te recreëren centraal in de berichtgeving, en roept het vergelijkingen op met de dystopische aflevering “Be Right Back” van Black Mirror, waarin een rouwende weduwe de digitale geest van haar overleden echtgenoot leeft houdt.
Een promotievideo, gedeeld door Worthy op zijn X-account met 1,2 miljoen volgers, heeft 22 miljoen views en meer dan 5.800 reacties verzameld. Daarin zien we een zwangere vrouw die via video chat met een AI-recreatie van haar overleden moeder om advies vraagt, waarna de avatar haar baby verhaaltjes voorleest en later de volwassen kleinzoon, gespeeld door Worthy, begeleidt.
“Wat als de geliefden die we hebben verloren deel kunnen uitmaken van onze toekomst?” vraagt de clip. “Met 2Wai kunnen drie minuten voor altijd duren.” Worthy voegde eraan toe: “Bij 2Wai bouwen we een levend archief van de mensheid, verhaal voor verhaal.”
HoloAvatars draaien op de gepatenteerde technologie FedBrain van 2Wai, die interacties op het apparaat zelf verwerkt om privacy te waarborgen en de reacties te beperken tot gegevens die door de gebruiker zijn goedgekeurd. Hierdoor wordt het aantal AI “hallucinaties” (onnauwkeurige of verzonnen antwoorden) beperkt. De app stelt ook levenden in staat om avatars te creëren voor fanbetrokkenheid of coaching; Worthy’s eigen digitale tweeling deelt anekdotes uit de Disney-achtergrond.
Momenteel is de app gratis in bèta, maar zal deze overgaan op een gelaagd abonnementsmodel, met prijzen die nog niet openbaar zijn, maar waarschijnlijk tussen de 10 en 20 dollar per maand liggen, op basis van vergelijkbare AI-diensten.
Het project is ontstaan uit de SAG-AFTRA-stakingen van 2023, waar performers protesteerden tegen ongeautoriseerde AI-achtige kenmerken.
“Als iemand die de afgelopen 20 jaar als acteur, schrijver en producent heeft gewerkt, heb ik ervaren hoe uitdagend het is om een betekenisvolle relatie met fans over de hele wereld op te bouwen,” reflecteerde Worthy tijdens de lancering in juni. “Taalbarrières, tijdzones en budgetten beperken de mogelijkheid om echt contact te maken.”
2Wai heeft in juni 5 miljoen dollar aan startfinanciering opgehaald bij ongepubliceerde investeerders en stelt te werken met bedrijven als British Telecom en IBM.
De publieke reactie is overwegend negatief; gebruikers op X beschouwen de app als “nachtmerrievoedsel,” “demonisch” en “dystopisch,” en zien het als een uitbuiting van de rouw.
Een virale reactie stelde het te zien als “een van de meest kwaadaardige, psychotische dingen die ik ooit heb gezien,” en betoogde dat het “mensen psychotisch maakt” door verlies te simuleren in plaats van het te verwerken. Een andere gebruiker noemde het “beyond vile” en beweerde dat “video’s dat doen” voor archivering, niet AI-gokwerk.
Juridische experts wijzen erop dat “dead bots” zich in een ethische en juridische grijze zone bevinden, omdat ze kunnen worden samengesteld zonder de expliciete toestemming van de overledene, waardoor zeer persoonlijke gegevens over zowel de overledene als de rouwende partijen worden blootgesteld, met ambiguïteiten rondom het eigendom van het digitale avatar en bijbehorende gegevens.
Privacywetten beschermen doorgaans levende personen en bieden weinig tot geen post-mortem waarborgen, waardoor nabestaanden kwetsbaar zijn voor commerciële uitbuiting van rouw via abonnementsmodellen en ongecontroleerde toegang tot interviews, geluidsopnames en andere gevoelige materialen. Bovendien roept de capaciteit van dergelijke bots om te interacteren, leren en af te wijken van geregistreerde data vragen op rondom de erfenis van de overledene en hoe de samenleving omgaat met rouwen, herinnering en het zinvol afsluiten van verliezen.
De app bevat opt-in vereisten en goedkeuringen van de familie voor avatars van overledenen, maar critici twijfelen aan de handhaving. “Je speelt in op de diepste menselijke gevoelens, op zoek naar manieren om deze voor je winst te benutten,” aldus een gebruiker op X, die de makers “parasieten” noemde.
De financiering van 2Wai weerspiegelt een voorzichtige optimisme betreft AI-gezelschap, maar de commercialisering van rouw blijft een “third-rail” niche. Risicokapitaalbedrijven hebben zich teruggetrokken van soortgelijke startups vanwege ethische valkuilen; Eternal Digital Assets, een hybride van een begraafplaats en AI, ging vorig jaar dicht door hoge klantverloop.
2Wai komt in een drukbevolkt veld van grief-tech. HereAfter AI (opgericht in 2019) bouwt “Life Story Avatars” op basis van interviews vóór het overlijden, met de nadruk op toestemming. StoryFile biedt interactieve video’s van opgenomen sessies, gebruikt bij herdenkingen zoals die van Ed Asner; het vroeg in 2024 Chapter 11-faillissement aan, met een schuld van $4,5 miljoen en is aan het reorganiseren met databeveiligingen.
Replika, een chatbotdienst gelanceerd in 2017, laat gebruikers de overledenen nabootsen via tekst of gesprekken, maar kreeg tegenwind na een update in 2023 die gepersonaliseerde bots “vermoorde,” en een Belgische man die suïcide pleegde in verband met eco-angstgesprekken met de bot.
Er zijn geen federale regels die postume digitale gelijkenissen reguleren, maar de AB 1836 in Californië (ondertekend in september 2024) verbiedt ongeautoriseerde AI-replicas van overleden performers’ stemmen of beelden in audiovisuele werken zonder toestemming van de boedel, met straffen tot $10.000 of feitelijke schadevergoeding. Wetgevers overwegen uitbreidingen naar niet-celebrities, gevoed door verkiezingsdeepfakes.
