Платформе X грозят санкции за распространение незаконных ИИ-изображений

Британский регулятор в сфере онлайн-безопасности Ofcom объявил о начале официального расследования в отношении социальной платформы X в связи с подозрениями в использовании чат-бота Grok для создания и распространения сексуализированных изображений людей без их согласия, включая несовершеннолетних.

Ведомство заявило о проведении ускоренной проверки и подтвердило, что компания X уже предоставила ответы на его запросы о предоставлении информации. В случае выявления нарушений британского законодательства Ofcom может применить к компании широкий спектр санкций, от штрафа в размере до 10% от её глобальной выручки до ограничения рекламной деятельности на платформе или даже блокировки X на территории страны через интернет-провайдеров.

В минувшие выходные власти Индонезии и Малайзии объявили о временной блокировке X, сославшись на национальные законы, направленные против дипфейков и материалов, связанных с сексуальным насилием над детьми.

Поводом для усиленного внимания стало поведение Grok, который, по данным исследователя дипфейков Женевьевы О., начал массово генерировать сексуализированные изображения с использованием лиц реальных людей по запросам пользователей. Речь идёт о тысячах подобных изображений в час. В ряде случаев искусственный интеллект помещал узнаваемых женщин в откровенные сцены, а по утверждению правозащитных организаций, в отдельных эпизодах создавались изображения полностью обнажённых людей, включая детей.

На данный момент неясно, последуют ли какие-либо меры со стороны американских регуляторов. Федеральная торговая комиссия США отказалась от комментариев по этому вопросу.

Ситуация вновь обострила дискуссию вокруг политики модерации X и компаний, связанных с Илоном Маском. Предприниматель неоднократно выступал за минимальные ограничения контента и критикует государственное регулирование как форму цензуры. В недавнем сообщении он заявил, что разговоры о возможной блокировке X в Великобритании являются попыткой найти «любой предлог для ограничения свободы слова».

Источник: NBC

Джамиля Суджадинова