Cum este falsificat sindromul Down prin tehnici deepfake pentru profit

Alice își amintește ziua în care a văzut pentru prima dată contul deepfake de pe Instagram care folosea imaginea ei.

„Ce simțeam erau doar șoc și umilință”, spune adolescenta de 17 ani pentru BBC.

Contul fals folosea fotografii și videoclipuri cu corpul ei, iar fața îi fusese editată folosind inteligența artificială, făcând să pară că are sindromul Down.

Profilul, care avea 25.000 de urmăritori, direcționa utilizatorii către conținut pentru adulți pe site-uri externe.

Alice a trimis de mai multe ori mesaje directe către cont, cerând creatorilor să-l șteargă și informându-i că este minoră, dar nu a primit niciun răspuns.

„A fost destul de înfricoșător să văd lipsa totală de respect față de vârsta mea sau de sentimentele mele”, spune ea.

Profilul face parte dintr-o tendință alarmantă de conturi care falsifică dizabilități pentru profit, conform descoperirilor BBC-ului. Pentru ca IA să genereze personajele de pe Instagram sunt folosite imagini cu corpuri reale ale femeilor fără consimțământul lor - probabil furate din conturi publice de pe rețelele sociale - și se aplică filtre IA peste fețele lor pentru a imita persoane cu sindromul Down.

Conturile false postează mesaje cu tentă sexuală pentru a genera interacțiune. La rândul lor, utilizatorii care consumă acest conținut răspund cu remarci explicit sexuale.

Aceste conturi, spune Eleanor Drage, cercetătoare principală în etica IA la Universitatea din Cambridge, preiau datele femeilor „fără consimțământul lor și le folosesc pentru a capitaliza pe dizabilitate ca modalitate de a face bani”.

„Este dăunător în mod activ pentru persoane precum Alice”, afirmă ea.

Monetizarea acestei tendințe are loc altundeva. Toate conturile identificate de BBC direcționează utilizatorii către alte profiluri de pe serviciul cu abonament plătit OnlyFans, cunoscut pentru găzduire de conținut sexual.

Profilurile de pe OnlyFans folosesc același nume precum cele de pe conturile false de Instagram, dar nu prezintă filtrul pentru sindromul Down și arată corpurile unor femei diferite, care au fețele ascunse sau decupate. OnlyFans interzice conținutul generat de IA fără consimțământ, lucru care ar putea fi motivul strategiei de a ascunde fețele femeilor, în loc de a le falsifica.

Nu am putut stabili dacă celelalte femei au consimțit ca trupurile lor să apară pe conturile OnlyFans.

Având „multiple femei diferite sub umbrela unui singur profil”, rezultatul este „o rețea de exploatare”, spune cercetătoarea Drage.

Alice spune că a raportat contul către Instagram, dar a primit un răspuns automat care spunea că acesta nu încalcă regulile platformei.

Deși deepfake-urile sexuale sunt împotriva politicii Instagram, videoclipurile deepfake care foloseau corpul lui Alice nu prezentau conținut sexual grafic.

Căutând persoanele care creează aceste conturi, BBC a investigat universul celor care se autointitulează „manageri IA OnlyFans” - oameni care creează influenceri IA ce promovează conturi cu conținut pentru adulți și obțin profit de pe urma acestora.

Am găsit un „manager” francez numit Dorian, al cărui canal de YouTube conținea sute de tutoriale video despre cum să creezi influenceri IA, iar canalul său de Telegram avea mii de abonați.

Într-unul dintre tutorialele sale pe YouTube, el spune că „unul dintre cele mai bune lucruri la IA este că poți crea orice nișă, la cerere”.

„Vrei o e-girl gotică? Hai să facem asta. Un model de fitness latino? Bine. Vrei să mergem și mai departe?” întreabă el, menționând alte exemple din ceea ce el numește o piață „de nișă”, precum un model trans sau unul care suferă de nanism.

„Poți crea instantaneu orice personaj și să domini nișele care sunt insuficient reprezentate sau care sunt la modă”, spune el.

Analizând conturile pe care pretinde că le deține pe canalul său de Telegram și imaginile personajelor IA pe care le-a creat, vizibile în tutorialele sale de pe YouTube, BBC a găsit dovezi că una dintre aceste „nișe” exploatate de Dorian este sindromul Down.

Pe Telegram, el a distribuit o captură de ecran a unuia dintre conturile sale de „creator de conținut”, ascunzându-i fața. Am găsit o compatibilitate între silueta, fundalul și secvența postărilor cu cele de pe un cont deepfake de pe Instagram, care pretindea că aparține unei persoane cu sindromul Down. Am identificat, de asemenea, un model generat de IA cu sindromul Down, în fundalul unuia dintre tutorialele lui Dorian.

Nu am găsit dovezi care să sugereze că Dorian a realizat deepfake-urile lui Alice. BBC a încercat să ia legătura cu Dorian pe Telegram și Instagram și a scris la ambele adrese asociate afacerii sale, dar nu a primit niciun răspuns.

Aceste tipuri de conturi nu afectează doar persoanele ale căror imagini sunt furate. Ele afectează și comunitatea persoanelor cu sindromul Down. Activiștii și realizatorii de podcast americani care susțin persoanele cu sindromul Down, Jeremy și Audrey, sunt profund îngrijorați de această tendință.

„Cred că nu este în regulă ca ei să aibă o abilitate falsă”, spune Audrey. „Eu și Jeremy avem sindromul Down și ne place că-l avem. Este unic și îl iubesc. Este cel mai bun lucru din viața mea. Iar cu aceste deepfake-uri, simt că sunt folosită.”

„O fac pentru bani”, spune Jeremy. „Vă rog, opriți-vă.”

YouTube a răspuns la descoperirile noastre, spunând că au închis acum canalele lui Dorian pentru încălcarea politicilor privind spamul, practicile înșelătoare și escrocheriile.

Meta, compania-mamă a Instagram, ne-a spus că toate conturile pe care le-am semnalat, cu excepția unuia, fuseseră deja eliminate pentru încălcarea regulilor lor - cum ar fi interzicerea impersonării altora sau promovarea serviciilor sexuale. Contul care folosea imaginea lui Alice nu mai este activ.

Am împărtășit concluziile noastre și cu OnlyFans, care ne-a spus că „toți creatorii trec printr-un proces extins de verificare a identității pentru a ne asigura că au peste 18 ani și consimt ca imaginile lor să fie utilizate”. Ei au declarat că întreg conținutul este moderat și că imagini de acest tip nu vor fi permise pe platformă.

Acest articol a fost scris și revizuit de jurnaliști BBC, folosind inteligența artificială pentru a ajuta în procesul de localizare, ca parte a unui proiect pilot.

Editat de Teodora Coroiu.