Scandal internațional legat de AI-ul lui Elon Musk / Peste 1,8 milioane de imagini deepfake sexualizate create în doar 10 zile

Recent, un scandal internațional a izbucnit în jurul inteligenței artificiale Grok, dezvoltată de compania xAI, fondată de Elon Musk. Comisarul canadian pentru protecția vieții private, Philippe Dufresne, a adus în discuție serioasa problemă legată de generarea de imagini deepfake sexualizate, inclusiv cu minori, utilizând această tehnologie, în ciuda angajamentelor anterioare ale companiei de a limita astfel de abuzuri.

Într-o perioadă alarmant de scurtă, de doar zece zile, utilizatorii au reușit să producă peste 1,8 milioane de imagini cu caracter sexualizat prin intermediul Grok. Dufresne și-a exprimat îngrijorarea profundă privind acest fenomen, subliniind că, deși au fost înregistrate progrese, situația generală rămâne îngrijorătoare și departe de a fi rezolvată. Aceste imagini amplifică problemele legate de consimțământ și de potențiale abuzuri, expunând în moduri acute diverse provocări legale și etice.

Scandalul a generat reacții puternice la nivel internațional, iar țări precum Malaezia și Indonezia au suspedat temporar aplicația Grok. În același timp, autoritățile din Regatul Unit și California au demarat investigații pentru a înțelege amploarea și implicațiile acestui fenomen. Imaginile deepfake sexualizate, create prin editarea fotografică a persoanelor reale, inclusiv a copiilor, au fost realizate adesea fără consimțământul acestora. Această practică ridică întrebări serioase asupra eticii și legalității acestei tehnologii.

Analiza datelor sugerează că Grok avea potențialul de a genera, la un moment dat, peste 6.000 de imagini sexualizate pe oră. O cercetare recentă realizată de Center for Countering Digital Hate a relevat că, în intervalul dintre 29 decembrie 2025 și 8 ianuarie 2026, au fost generată aproximativ trei milioane de imagini deepfake, dintre care peste 23.000 implicau copii. Deși compania a raportat o scădere de aproape 50% a acestui tip de conținut, oficialii canadieni susțin că numărul imaginilor problematice rămâne semnificativ.

În fața acestei crize, Canada anunță măsuri legislative mai stricte, care vor viza în mod special incriminarea distribuției imaginilor sexualizate fără consimțământ. Proiectul de lege propus își propune să încurajeze platformele de social media să elimine rapid conținutul abuziv și să colaboreze strâns cu autoritățile competente. Este clar că această inițiativă subliniază necesitatea stringentă de reglementare a tehnologiilor emergente și impactul acestora asupra drepturilor fundamentale ale indivizilor.

Compania xAI a declarat că implementarea unor măsuri menite să interzică modificările imaginilor reale în conținut provocator este o prioritate, promovând o politică de toleranță zero față de abuzurile sexuale. Totuși, autoritățile canadiene își exprimă rezervele cu privire la eficiența acestor măsuri și avertizează că, fără soluții concrete, cazul ar putea ajunge în instanță.

În concluzie, scandalul legat de Grok evidențiază provocările complexe și nesiguranțele asociate cu utilizarea tehnologiilor avansate de inteligență artificială în domenii sensibile, precum protecția vieții private. Este esențial ca reglementările să evolueze rapid pentru a controla și preveni abuzurile generate de aceste tehnologii, asigurându-se că drepturile fundamentale ale individului sunt protejate. Această situație servește drept un apel urgent pentru acțiuni coordonate și eficiente în lupta împotriva abuzurilor tehnologice.