Platforma X, sub ancheta autorităților britanice: suspiciuni grave pentru deepfake-uri sexuale, inclusiv cu minori

Autoritatea de reglementare în domeniul media din Regatul Unit, Ofcom, a anunțat luni declanșarea unei investigații oficiale asupra platformei X, deținută de Elon Musk.

Ancheta vizează modul în care chatbot-ul de inteligență artificială Grok ar fi fost folosit pentru a crea și distribui imagini deepfake cu caracter sexual, inclusiv conținut care ar putea fi ilegal potrivit legislației britanice.

Suspiciuni grave privind încălcarea protecției utilizatorilor

Potrivit Ofcom, există rapoarte extrem de îngrijorătoare conform cărora chatbot-ul Grok ar fi fost utilizat pentru a genera imagini cu persoane dezbrăcate fără consimțământul acestora, fapt care ar putea constitui o încălcare gravă a dreptului la viață privată sau pornografie ilegală.

Citește și: EXCLUSIV România a plătit avocaților 1,4 milioane de euro pentru a bloca un tablou de El Greco la New York. Pictura, revendicată și de un oligarh rus apropiat de Trump

Autoritatea a subliniat că unele dintre imaginile raportate ar avea un caracter și mai grav, fiind vorba despre conținut sexual care implică minori.

Posibile materiale de abuz sexual asupra copiilor

În comunicatul oficial, Ofcom precizează că au fost semnalate imagini cu caracter sexual „ale unor copii care ar putea reprezenta material de abuz sexual asupra copiilor”.

Astfel de suspiciuni ridică probleme majore privind respectarea obligațiilor legale ale platformelor online de a proteja utilizatorii, în special minorii, de conținut dăunător sau ilegal.

Ce riscă platforma X dacă se confirmă încălcarea legii

Dacă investigația va stabili că platforma X a încălcat legislația din Regatul Unit, compania va fi obligată să adopte măsuri concrete pentru remedierea neconformităților identificate.

Acestea pot include modificări ale sistemelor de moderare, restricții suplimentare privind utilizarea chatbot-ului Grok sau alte măsuri de siguranță.

Amenzi de până la 10% din veniturile globale

În cazul în care platforma nu va respecta cerințele impuse de autoritatea de reglementare, Ofcom are posibilitatea de a aplica sancțiuni financiare severe.

Conform legislației britanice, amenda poate ajunge până la 10% din veniturile globale ale companiei, o penalitate cu impact major pentru orice platformă digitală de mari dimensiuni.