Scrolling, like, share sunt acțiuni de bază pentru care în anul 2024 inevitabil dedicăm aproximativ 143 de minute pe zi. Dacă în trecut am acordat like-uri prietenilor, celebrităților și influencerilor, astăzi, odată cu avansarea inteligenței artificiale, nu tot ceea ce apare în feed-ul nostru reprezintă conținut real. Mai mult decât atât, uneori acest conținut poate fi abuziv și periculos pentru anumite categorii vulnerabile de public, cum ar fi copiii. În anul 2023 la nivel mondial au fost raportate 85 de milioane de fotografii și videoclipuri care reprezintă materiale de abuz sexual asupra copiilor (MASC). La fiecare două minute, specialiștii analizează un material de abuz online asupra copiilor. În acest context, specialiștii în siguranța online susțin că, pe lângă like și share, o altă acțiune care obligatoriu trebuie să fie inclusă în lanțul nostru zilnic de activități pe internet este report.
Deși inteligența artificială generativă aduce numeroase beneficii, cum ar fi crearea rapidă și precisă a conținutului, trebuie să recunoaștem că accesibilitatea acesteia la un click distanță pentru orice utilizator formează și consecințe negative semnificative. Printre acestea se numără proliferarea conținutului fals și abuziv asupra copiilor în mediul digital.
Cum recunoaștem materialele de abuz
Potrivit Victoriei Gribinet, specialistă în siguranța online, materialele de abuz asupra copiilor, inclusiv cele ce implică inteligența artificială, pot fi descrise prin următorii termeni și caracteristici.
# Materiale de abuz sexual asupra copiilor (MASC) – abreviere pentru orice material, în format digital sau analogic, care prezintă sau înfățișează abuz sexual asupra unui copil. Este ilegal și reprezintă o formă gravă de abuz sexual.
# Material de exploatare sexuală a copilului (MESC). Această denumire se referă la conținut sexual ce implică minori, având un caracter de exploatare, însă nu se încadrează în categoria materialului ilegal de abuz sexual asupra copiilor (MASC). De asemenea, acesta poate cuprinde imagini ilegale în asociere cu MASC-ul, din considerente investigative și în contextul exploatării în care au fost generate.
# Pornografie Deep Fake – un tip de pornografie care utilizează tehnologia deep learning (învățare profundă) pentru a crea videoclipuri în care fețele actorilor sunt înlocuite cu fețe ale altor persoane. Această tehnologie poate fi folosită pentru a crea conținut pornografic fals cu persoane care nu au consimțit participarea lor.
# Material de abuz sexual asupra copilului generat de IA. Aceasta se referă la conținut sexual explicit care este creat sau generat folosind inteligența artificială (IA). Poate include imagini, videoclipuri sau alte forme de conținut care sunt generate sau manipulate utilizând algoritmi IA.
Primele rapoarte despre materiale de abuz sexual generate de IA
În 2023, Internet Watch Foundation (IWF) a investigat primele rapoarte despre materialele de abuz sexual asupra copiilor (MASC) generate de inteligența artificială (IA). Investigațiile inițiale au descoperit că imaginile IA pot fi atât de convingătoare, încât sunt de nediferențiat de imaginile reale.
Principalele constatări ale acestui raport sunt următoarele.
# În total, 20 254 de imagini generate de IA au fost găsite postate pe un forum dark web într-un interval de o lună.
# Dintre acestea, 11 108 imagini au fost selectate pentru evaluare de către analiștii IWF. Acestea au fost imagini considerate cel mai probabil să fie criminale. (Celelalte 9 146 de imagini generate de IA fie nu conțineau imagini reprezentând copii, fie conțineau imagini cu copii, dar erau clar noncriminale ca natură.)
# 12 analiști IWF au dedicat un total combinat de 87,5 ore evaluării acestor 11 108 imagini generate de IA.
Potrivit raportului, infractorii pot descărca legal toate materialele de care au nevoie pentru a genera aceste imagini, apoi le pot multiplica offline, fără posibilitatea detectării. Există diverse instrumente pentru îmbunătățirea și editarea imaginilor generate până când arată exact cum își dorește infractorul. Raportul mai indică și faptul că marea majoritate a imaginilor AI identificate sunt acum suficient de realiste pentru a fi tratate ca materiale de abuz „reale”. Cel mai convingător MASC generat de IA este de nediferențiat vizual de MASC „real”, chiar și pentru analiștii IWF antrenați.
Conform datelor furnizate de Serviciul național de raportare a materialelor de abuz sexual asupra copilului Siguronline Hotline, gestionat de Centrul Internațional „La Strada”, observăm o creștere semnificativă a numărului de materiale generate de inteligența artificială. Numărul acestora a crescut de la cinci raportări recepționate în primele luni de activitate a serviciului până la 18. În plus, în comparație cu anul trecut, materialele generate de inteligența artificială primite în prezent prezintă imagini cu un grad de realism destul de înalt.
De ce ar trebui să fim preocupați de această problemă?
IWF precizează că există dovezi rezonabile că MASC generate de IA au crescut potențialul de victimizare a copiilor celebri și a copiilor cunoscuți infractorilor. IWF a găsit multe exemple de imagini generate de inteligența artificială cu victime cunoscute și copii celebri. De asemenea, MASC generate de IA oferă o altă cale pentru ca infractorii să obțină profit din abuzul sexual asupra copiilor. Primele exemple ale acestei noi comercializări au fost identificate de IWF. Crearea și distribuirea ghidurilor pentru generarea de MASC cu utilizarea IA nu este în prezent o infracțiune, dar ar putea fi făcută una.
Republica Moldova este nemijlocit afectată de fenomenul răspândirii materialelor de abuz sexual asupra copiilor. Victoria Gribinet, specialistă în siguranța online, a menționat că țara noastră a fost clasată în anul 2021 în top 10 țări unde sunt găzduite materiale de abuz sexual asupra copiilor la nivel global, înregistrând un număr de 6 085 de adrese URL (2 %).
Specialista ne-a explicat importanța sensibilizării societății în legătură cu materialele de abuz asupra copilului generate de inteligența artificială, enumerând un șir de riscuri și probleme asociate acestui fenomen vicios.
Persoanele rău intenționate utilizează inteligența artificială, pentru că nu sunt limitați. În multe țări imaginile ce reprezintă abuz sexual asupra copilului, generate de IA, nu sunt pedepsite prin lege, nu sunt reglementate, infractorii pot fi siguri că nu vor fi pedepsiți pentru acțiunile comise. De asemenea, de obicei, aceste materiale generate prin inteligența artificială le folosesc pentru a atrage noi persoane în cercuri de vizualizări. Ele sunt folosite mai mult ca fotografii de album pentru a atrage potențiale vizualizări ale materialelor reale. De ce optează pentru inteligența artificială? Pentru că este mult mai ușor să o folosești. Mai puțin timp pentru obținerea materialelor și mai puține riscuri, dar cu același rezultat de a obține anumite venituri prin comercializarea acestora pe dark web. Pe termen lung, trebuie să înțelegem că materialele generate de inteligența artificială sunt un declanșator puternic. De la început, persoana se mulțumește cu imagini generate, ulterior caută deja imagini reale. Este un stimul, o sursă de inspirație pentru persoanele care până acum nu s-au hotărât să vizualizeze materiale de abuz.
Victoria Gribinet
În încercarea de a limita răspândirea conținutului abuziv online, numeroase platforme IA generative utilizează tehnologii pentru a împiedica crearea materialelor. Potrivit Victoriei Gribinet, aceste eforturi nu aduc rezultate. Deși există restricții etice impuse asupra generării de conținuturi violente, infractorii găsesc adesea modalități de a ocoli barierele.
„Fiecare platformă care generează astfel de conținuturi are anumite limitări în legătură cu mai multe aspecte ce implică violența, dar inteligența artificială încă nu a ajuns la așa un nivel ca să depisteze intențiile reale ale persoanelor. Infractorii învață să scrie prompt-uri care să mintă inteligența artificială, nu cer direct o imagine ce reprezintă abuz.”
În lumina riscurilor asociate cu materialele deep fake, Victoria Gribinet subliniază necesitatea ca marile companii și platformele de socializare să implementeze măsuri de protecție adecvate. Există o preocupare constantă pentru faptul că, în era prezenței noastre online extinse, ne urmărește un pericol real ca imaginile noastre să fie manipulate și folosite în scopuri neadecvate. Sfaturile tradiționale, cum ar fi evitarea postării de fotografii de înaltă calitate, nu mai sunt funcționale. Astfel, specialista evidențiază importanța educării adolescenților cu privire la impactul profund al deep fake-urilor atât pe termen scurt, cât și pe termen lung. Este esențial să se pună la dispoziție mecanisme de sprijin și informare în școli și în mediul familial în cazul în care reputația unui copil este afectată de un deep fake. Monitorizarea atentă a schimbărilor de comportament ale copilului și construirea unor relații bazate pe încredere și deschidere sunt cruciale pentru a asigura un mediu sigur în care copilul să se simtă confortabil să-și exprime emoțiile.
„Imperfecțiunea legislației face deosebit de atractivă Republica Moldova pentru circulația materialelor de abuz asupra copiilor”
În Republica Moldova, pornografia infantilă, distribuirea sau producerea materialelor de abuz asupra copilului cad sub incidența Articolului 208/1 din Codul penal. Astfel, persoanele care produc, distribuie, procură, difuzează sau dețin imagini sau alte reprezentări ale copiilor implicați în activități sexuale reale sau simulate riscă pedeapsă cu închisoare de la unu la trei ani, cu amendă, aplicată persoanei juridice, de la 3 000 la 5 000 de unități convenționale cu privarea de dreptul de a exercita o anumită activitate.
Conform legislației în vigoare, materialele de abuz sexual asupra copiilor (pornografie infantilă) reprezintă doar acele materiale în care copiii sunt implicați în activități sexuale reale sau simulate. La moment, legislația nu incriminează materialele care reprezintă vizual orice persoană care pare a fi copil implicat într-un comportament sexual explicit, real sau simulat ori imaginile realiste ale unui copil implicat într-un comportament sexual explicit. Astfel, materialele de abuz generate de inteligența artificială generativă în prezent nu sunt ilegale conform legislației din Republica Moldova, nefiind posibilă solicitarea înlăturării ori blocării acestor conținuturi. Mai mult decât atât, lacunele legislative de reglementare a activității companiilor de hosting, lipsa obligațiunilor pentru companiile din sectorul TIC de protecție a copiilor online, pedepsele mici pentru infracțiunea de pornografie infantilă fac deosebit de atractivă Republica Moldova pentru circulația materialelor de abuz asupra copiilor.
„Internetul este un spațiu public, așa cum este un parc”
Victoria Gribinet a explicat faptul că dezvoltarea unor mecanisme de reglementare solide reprezintă cea mai eficientă soluție pentru a trage la răspundere persoanele care generează materiale de abuz asupra copiilor, însă un instrument foarte puternic rămâne și activitatea de raportare a conținutului de abuz sexual întâlnit online.
Raportarea materialelor de abuz sexual asupra copiilor are un rol important în lupta împotriva abuzului sexual online și în furnizarea sprijinului necesar copiilor care devin victime. Prin raportare putem să intervenim rapid pentru a elimina aceste materiale și pentru a reduce expunerea copiilor la traume și riscuri. De asemenea, ne ajută să asigurăm că cei vinovați sunt trași la răspundere și că acei copiii care au fost supuși abuzului primesc sprijinul și îngrijirea de care au nevoie pentru a se recupera. Astfel, atunci când vedem un conținut suspect în feed-ul nostru sau pe siteuri web, este important să conectăm gândirea critică și să nu trecem cu vederea un potențial pericol pentru utilizatori.
În perioada 25 aprilie – 31 decembrie 2023, Serviciul de raportare a materialelor de abuz sexual asupra copilului www.siguronline.md a înregistrat un număr total de 2 366 de raportări, iar 90 % dintre ele conțineau materiale ce reprezintă abuz sexual asupra copilului. Doar 5 % din numărul total de raportări au fost primite de la public.
Specialista de la siguronline.md a menționat că pe lângă pasivitatea la nivel de raportări din partea publicului, munca analiștilor este îngreunată de faptul că utilizatorii obișnuiesc să distribuie conținutul de abuz sexual prin chaturi private, spații din care înlăturarea este practic imposibilă chiar și după raportare.
Luând în considerare aceste circumstanțe, Victoria Gribinet a formulat un șir de recomandări pentru a promova o cultură digitală sigură.
Este nevoie de educarea unei generații respectuoase în mediul online. Fiecare dintre noi trebuie să înțeleagă că internetul este totuși un spațiu public, în care fiecare persoană ar trebui să se simtă confortabil, așa cum este un parc. Fiecare persoană care se plimbă în parc vrea să se simtă în siguranță, vrea să se simtă confortabil, nu dorește să audă cum cineva ascultă muzică la boxă. De asemenea, trebuie să ne asumăm responsabilitatea pentru acțiunile pe care le facem online, înțelegând că pe internet nu există butonul Delete. Oricât am șterge ceea ce am scris sau am postat, oricum acest conținut rămâne în mediul online. Este important ca părinții să discute cu copilul, pentru că mulți părinți se tem de internet și găsesc argumentul că «ei știu mai multe decât noi». Da, posibil, din punct de vedere tehnic copilul cunoaște mai multe despre internet decât părintele, însă nu și din punct de vedere social, din punctul de vedere al construirii relațiilor. Adolescenții trebuie mereu să fie pregătiți și ajutați de către adulții de încredere.
Victoria Gribinet
Vă îndemnăm să contribuiți la crearea unui spațiu sigur pe internet raportând orice conținut de abuz sexual asupra copiilor, dar și orice conținut violent direct pe platformele de distribuire a acestuia. Totodată, orice persoană care își face griji pentru un copil poate raporta anonim un material prezumat de abuz sexual asupra copiilor prin intermediul formularului disponibil pe portalul www.siguronline.md.
Acest articol a fost elaborat în cadrul proiectului UNICEF Moldova „Consolidarea mecanismului de prevenire și protecție a fetelor și băieților împotriva violenței sexuale în mediul online, inclusiv a violenței în bază de gen”, implementat de Centrul Internațional „La Strada” cu suportul financiar al KFW. Opiniile expuse aparțin autorului.
