Inteligența artificială și imaginile sexualizate cu copii: UNICEF avertizează asupra unui pericol crescând

Advertisement

Advertisement

UNICEF își exprimă îngrijorarea crescândă cu privire la proliferarea rapidă a imaginilor cu conținut sexual explicit create cu ajutorul inteligenței artificiale, inclusiv situații în care fotografiile copiilor au fost alterate, fiind eliminate elemente vestimentare. Un studiu recent, efectuat în 11 țări, a relevat că cel puțin 1,2 milioane de copii au mărturisit că au fost victime ale manipulării imaginilor lor în deepfakes cu conținut sexual explicit în ultimul an. Organizația subliniază că, din păcate, copiii sunt conștienți de riscul ca inteligența artificială să fie utilizată pentru a crea materiale false cu caracter sexual, reprezentând abuz asupra copiilor. Deepfake-urile, adică imagini, videoclipuri sau înregistrări audio generate sau modificate prin IA, sunt create pentru a părea autentice.

Un studiu recent, efectuat de UNICEF, ECPAT și INTERPOL în 11 țări, a scos la iveală o problemă alarmantă: peste 1,2 milioane de copii au fost victime ale manipulării imaginilor lor în deepfakes cu conținut sexual explicit în ultimul an. Această cifră îngrijorătoare indică faptul că, în anumite țări, unul din 25 copii este afectat de această formă de abuz, o situație echivalentă cu prezența unui copil victimizat în fiecare clasă de elevi.

Copiii sunt conștienți de pericolele pe care le prezintă inteligența artificială. Studiile arată că, în anumite țări, până la două treimi dintre ei se tem că ar putea fi victime ale unor imagini sau videoclipuri false, cu conținut sexual. Această îngrijorare diferă de la o țară la alta, ceea ce demonstrează că este crucial să se intensifice eforturile de informare, prevenire și protecție. Este esențial să înțelegem că astfel de imagini, create sau modificate cu ajutorul AI, reprezintă abuz asupra copiilor, iar trauma și prejudiciul cauzat de aceste deepfake-uri sunt reale și devastatoare.

Conform sursei menționate, folosirea imaginii sau a identității unui copil îl plasează direct în postura de victimă.

Chiar dacă nu există o persoană specifică care să fi fost afectată, crearea de materiale cu abuz sexual asupra copiilor prin intermediul inteligenței artificiale este extrem de periculoasă. Aceasta nu doar că încurajează și normalizează exploatarea sexuală a minorilor, dar și stimulează cererea pentru astfel de conținut, îngreunând enorm munca poliției în a identifica și proteja copiii vulnerabili.

UNICEF apreciază foarte mult inițiativele companiilor care dezvoltă inteligență artificială și care pun accent pe siguranță încă de la început, implementând măsuri eficiente pentru a evita utilizarea incorectă a tehnologiilor lor.

Deși există progrese, situația actuală este inegală, iar multe sisteme de inteligență artificială nu includ suficiente garanții de siguranță. Această problemă se amplifică atunci când IA generativă este integrată în rețelele sociale, facilitând răspândirea rapidă a imaginilor false.

Organizația UNICEF avertizează cu seriozitate și solicită acțiuni imediate pentru a combate pericolul tot mai mare al materialelor create cu ajutorul inteligenței artificiale care ilustrează abuzuri asupra copiilor.

Toate guvernele ar trebui să actualizeze legile privind materialele care exploatează sexual copiii, astfel încât să acopere și conținutul creat cu ajutorul inteligenței artificiale. Aceasta ar implica pedepsirea persoanelor care creează, cumpără, stochează sau distribuie astfel de materiale.

Dezvoltatorii de inteligență artificială ar trebui să integreze măsuri de siguranță robuste în proiectarea sistemelor IA, chiar de la început, pentru a evita utilizarea lor în scopuri dăunătoare.

Este esențial ca firmele din industria digitală să acționeze proactiv pentru a împiedica răspândirea materialelor cu abuz sexual asupra copiilor create cu ajutorul inteligenței artificiale, nu doar să le șteargă ulterior. Ar trebui investit masiv în tehnologii de detectare avansate, care să permită eliminarea imediată a acestor conținuturi, nu abia după câteva zile de la sesizarea victimei sau a reprezentantului său legal.

UNICEF subliniază că efectele negative ale utilizării abuzive a tehnologiei deepfake sunt deja resimțite și necesită o acțiune imediată, în special pentru a proteja copiii, care nu pot aștepta modificarea legislației.