Франція розслідує дипфейки жінок, роздягнених Гроком догола
Двоє законодавців підтвердили POLITICO, що вони подали звіти владі. | Матеуш Слодковський/SOPA Images/LightRocket через Getty Images Клари Дюран,Осеан Ерреро та Еміль Марцольф
PARIS — Французька влада розслідуватиме розповсюдження відверто сексуальних дипфейків, створених платформою штучного інтелекту Grok on X, повідомила паризька прокуратура POLITICO.
Французькі законодавці Артур Делапорт і Ерік Боторель зв’язалися з прокуратурою 2 січня після того, як Grok створив і опублікував на X тисячі відверто сексуальних дипфейків без згоди.
“Ці факти були додані до існуючого розслідування щодо X”, – заявила прокуратура, зазначивши, що це правопорушення карається двома роками позбавлення волі та штрафом у розмірі €60 000.
Двоє законодавців підтвердили POLITICO, що вони подали звіти владі.
Протягом останніх двох днів сотні жінок і підлітків повідомили, що їхні фотографії, опубліковані в соціальних мережах, були “роздягнені ” Grok — штучним інтелектом, інтегрованим у соціальну мережу X — на прохання користувачів. Ці фотомонтажі, створені штучним інтелектом “, порушують гідність зображених людей, стверджує Делапорт у своєму листі до прокурора, побаченому POLITICO.
Коли POLITICO зв’язався з французьким офісом цифрових справ, сказав, що три міністри уряду — Роланд Лескюр, міністр економіки та промисловості; Анн Ле Енанфф, молодший міністр штучного інтелекту та цифрових справ; і Ауроре Берже, міністр рівності —, повідомили про “явно незаконний контент” прокурору та урядовій онлайн-платформі спостереження Pharos, щоб “отримати його негайне видалення”
Верховний комісар Франції у справах дітей Сара Ель Хайрі заявила, що вона “обурена” цією практикою.
Справа посилить розслідування, яке вже розпочав французький підрозділ з кіберзлочинності проти X, яке було розширено в листопаді, щоб включити антисемітські заяви та заяви про заперечення Голокосту, поширені Гроком.
Коли POLITICO зв’язався з ним, X не відповів на момент публікації.
У дописі Грока на X у відповідь на занепокоєння щодо “надзвичайно невідповідних” зображень неповнолітніх говориться: “Є поодинокі випадки, коли користувачі спонукали та отримували зображення ШІ, що зображують неповнолітніх у мінімальному одязі”
“xAI має гарантії, але вдосконалення тривають, щоб повністю блокувати такі запити”, – сказав Грок.
Європейська комісія не відповіла на запит про коментар до моменту публікації.
Еліза Гкріці внесла свій внесок у цю історію.
