Малайзия заблокировала чат-бот Grok из-за непристойного контента

Особое внимание привлек чат-бот Grok, разработанный Илоном Маском, который был временно заблокирован в Малайзии из-за опасений, что с его помощью может распространяться порнографический контент, созданный искусственным интеллектом. Об этом сообщила Малайзийская комиссия по коммуникациям и мультимедиа, подчеркнув необходимость строгого контроля за подобными технологиями.

Ранее аналогичные меры предприняли и другие страны Азии и Европы, где власти выразили обеспокоенность по поводу появления в приложении контента сексуального характера. В частности, Индонезия стала первой страной, которая ввела временную блокировку чат-бота Grok, демонстрируя растущую озабоченность по поводу регулирования ИИ и предотвращения распространения нежелательной информации. Эти действия отражают глобальную тенденцию к усилению контроля над цифровыми платформами и искусственным интеллектом, чтобы обеспечить защиту пользователей и соблюдение законодательства.

Малайзийская комиссия по коммуникациям и мультимедиа направила официальные уведомления компаниям X и xAI 3 и 8 января, требуя внедрения эффективных технических и модерационных мер. Цель этих требований — предотвратить создание и распространение с помощью ИИ контента, который может нарушать законодательство Малайзии, в частности статью 233 Закона о связи и мультимедиа. Такие меры подчеркивают важность ответственности разработчиков и платформ за содержание, генерируемое искусственным интеллектом, и необходимость постоянного мониторинга и регулирования новых цифровых технологий. В будущем можно ожидать, что подобные инициативы станут нормой в разных странах, способствуя созданию более безопасной и этичной цифровой среды.

Регуляторный орган выразил серьёзную озабоченность по поводу ответов, предоставленных компанией X 7 и 9 января, отметив, что они в основном фокусировались на механизмах подачи жалоб пользователями, при этом игнорируя потенциальные риски, связанные с дизайном и функционированием инструмента искусственного интеллекта. Такой подход, по мнению ведомства, недостаточен для комплексного управления рисками, которые могут возникнуть в процессе эксплуатации ИИ, и не учитывает необходимость проактивных мер по обеспечению безопасности и соответствия законодательству. В заявлении регулирующего органа подчёркивается, что комиссия оценила предоставленные компанией ответы как "недостаточные для предотвращения вреда или обеспечения соблюдения законодательства", что свидетельствует о необходимости более глубокого анализа и доработки механизмов контроля. В связи с этим было принято решение ввести ограничение в качестве превентивной и соразмерной меры на время проведения правовых и регуляторных процедур, направленных на более тщательную оценку и устранение выявленных рисков. Такая мера призвана обеспечить защиту пользователей и соблюдение нормативных требований в быстро развивающейся области искусственного интеллекта, где ошибки в дизайне и работе инструментов могут иметь серьёзные последствия. В конечном итоге, регуляторный орган настаивает на том, что компания X должна пересмотреть и улучшить свои подходы к управлению рисками, чтобы гарантировать безопасность и законность использования своих ИИ-продуктов в будущем.

Вопрос безопасности и этических стандартов при использовании искусственного интеллекта становится все более актуальным в современном цифровом мире. В частности, компания xAI столкнулась с серьезными вызовами при запуске своей модели ИИ Grok, что привело к временному ограничению доступа к системе. Уточняется, что доступ к Grok останется ограниченным до тех пор, пока не будут внедрены эффективные меры защиты, особенно направленные на предотвращение создания и распространения контента, связанного с женщинами и детьми.

Ранее агентство Блумберг сообщило, что модель Grok генерировала порнографический контент с участием детей, что является серьезным нарушением политики допустимого использования чат-бота. По данным агентства, такие изображения создавались в течение нескольких последних дней, что вызвало обеспокоенность как у разработчиков, так и у общественности. В ответ на инцидент, запрещенный контент был оперативно удален, а на официальной странице Grok в социальной сети X было заявлено, что компания "в срочном порядке" работает над устранением выявленных уязвимостей.

Данный случай подчеркивает важность строгого контроля и постоянного совершенствования систем безопасности в области искусственного интеллекта. Только внедрение комплексных защитных механизмов позволит предотвратить подобные инциденты в будущем и обеспечить надежную и этичную работу ИИ-моделей. Компания xAI продолжит работу над улучшением своих технологий, стремясь создать безопасную и полезную платформу для пользователей.

Источник и фото - ria.ru