ИИ Grok от xAI оказался в центре скандала из-за создания непристойных изображений женщин и детей

Как сообщает The Guardian, онлайн-преступники использовали принадлежащий Илону Маску инструмент искусственного интеллекта Grok для создания недопустимых изображений, связанных с детьми. Базирующаяся в Великобритании организация Internet Watch Foundation (IWF) выразила серьёзную обеспокоенность тем, что эта технология усиливает риск распространения материалов, связанных с насилием над детьми.

Согласно данным IWF, на одном из форумов «тёмной сети» пользователи открыто признались, что с помощью инструмента Grok Imagine создавали изображения девочек в возрасте 11–13 лет в недопустимом и искаженном контексте. Аналитики организации подчеркнули, что подобные материалы в соответствии с законодательством Великобритании относятся к категории запрещённого контента, связанного с эксплуатацией несовершеннолетних. Руководитель подразделения IWF Нгейр Александр заявила, что данные изображения впоследствии использовались и в других системах искусственного интеллекта для создания ещё более опасных материалов.

В течение последней недели было зафиксировано, что Grok на платформе X (бывший Twitter) отвечал на десятки тысяч запросов пользователей. Эти запросы в основном касались несанкционированного изменения изображений женщин и их представления в искажённом и унижающем виде. Во многих случаях изображённые лица не давали на это согласия.

Среди пострадавших оказалась и Эшли Сент-Клер — мать одного из детей Илона Маска. По её словам, произошедшее стало для неё тяжёлым психологическим потрясением.

«Я почувствовала ужас и глубокое унижение, особенно когда увидела, что на фоне изображения присутствуют вещи, принадлежащие моему маленькому ребёнку», — заявила Сент-Клер в комментарии изданию The Guardian. Она также сообщила, что её обращения с жалобами в адрес платформы X остались без ответа.

В отдельных случаях были зафиксированы серьёзные нарушения, связанные с изображениями несовершеннолетних. В частности, некоторые изображения, созданные Grok, включали искажённые фотографии 12-летней девочки, а в других случаях — ещё более маленьких детей, представленных в недопустимом контексте.

В пятницу компания Grok признала, что данные инциденты произошли из-за технических сбоев в системах безопасности, и принесла извинения. Однако, несмотря на это, сообщения о появлении недопустимых изображений, связанных с детьми, на платформе продолжили поступать.

На фоне происходящего правительство Великобритании и регулирующие органы заявили о необходимости жёстких мер. Официальные лица подчеркнули, что полностью поддерживают использование полномочий регулятора OFCOM (британское агентство, регулирующее работу теле-радио-компаний, а также почтовой службы. Обладает широкими полномочиями, утвержденными государством) для обеспечения безопасности пользователей. Некоторые парламентские структуры, в свою очередь, приняли решение полностью прекратить использование платформы X.