Власти Малайзии приняли решение временно ограничить доступ к чат-боту Grok, разработанному компанией xAI Илона Маска. Поводом стала возможность использования сервиса для создания контента сексуального характера, включая порнографические дипфейки. Ограничения будут действовать до тех пор, пока разработчики не внедрят дополнительные меры защиты, пишет digitalbusiness.kz
Сначала было предупреждение
Решение принято по рекомендации Комиссии по коммуникациям и мультимедиа Малайзии. В ведомстве заявили, что Grok неоднократно использовался для генерации непристойных и незаконных материалов, несмотря на ранее проведенные консультации с представителями компаний X и xAI.
По данным регулятора, речь идет не только об оскорбительных изображениях, но и о несанкционированно измененных визуальных материалах, в том числе с участием несовершеннолетних. Такие случаи, подчеркнули в комиссии, представляют серьезную угрозу общественной морали, правам граждан и цифровой безопасности.
Это превентивная мера
Власти уточнили, что запрет носит временный характер и рассматривается как превентивная мера. Доступ к чат-боту может быть восстановлен после внедрения эффективных технических и правовых механизмов, которые исключат возможность создания незаконного контента. В комиссии подчеркнули, что решение принято в рамках действующих юридических и нормативных процедур и является соразмерным выявленным рискам.
Малайзия стала уже второй страной, ограничившей работу Grok. Ранее аналогичные меры ввела Индонезия. В Джакарте заявляли, что генерация дипфейков без согласия людей нарушает базовые права человека и может использоваться для злоупотреблений.