В Госдуме предложили маркировать медицинские рекомендации нейросетей

МОСКВА, 21 ноября — РИА Новости. Борис Чернышов, вице-спикер Государственной думы от ЛДПР, направил официальное обращение главе Министерства цифрового развития Максуту Шадаеву и руководителю Роскомнадзора Андрею Липову с инициативой ввести обязательную маркировку ответов нейросетей, содержащих медицинские рекомендации. Кроме того, в документе содержится предложение запретить российским нейросетям давать советы по применению лекарственных препаратов.

Депутат подчеркнул, что широкое использование искусственного интеллекта для получения медицинских консультаций вызывает серьёзные опасения. По его мнению, многие граждане начинают воспринимать алгоритмы как полноценную замену квалифицированным врачам, несмотря на отсутствие у таких систем ответственности за точность и безопасность предоставляемой информации. Это может привести к неправильному лечению и ухудшению здоровья населения.

Введение обязательной маркировки позволит пользователям чётко понимать, что рекомендации исходят от нейросети, а не от лицензированного специалиста, что повысит уровень информированности и снизит риски неправильного использования данных. Запрет на рекомендации лекарств со стороны нейросетей направлен на защиту здоровья граждан и предотвращение возможных злоупотреблений. В целом, эти меры призваны обеспечить баланс между инновациями в цифровой сфере и сохранением безопасности и качества медицинской помощи для населения.

В современном цифровом пространстве, где искусственный интеллект всё активнее входит в повседневную жизнь, особенно важно установить чёткие и строгие правовые нормы, регулирующие работу российских нейросетей при обработке медицинских запросов пользователей. Такая необходимость продиктована стремительным развитием технологий и рисками, связанными с возможным распространением недостоверной или непроверенной медицинской информации. В связи с этим предлагается внедрить инициативу, основанную на трёх ключевых принципах, направленных на повышение безопасности и ответственности в сфере использования ИИ.

Первым и основным принципом является обязательная маркировка всех ответов нейросетей, которые содержат медицинские рекомендации, описания симптомов, методы диагностики или лечения. Каждый такой ответ должен сопровождаться чёткой, хорошо заметной и постоянно присутствующей надписью: «Данный совет сгенерирован искусственным интеллектом и не является медицинской консультацией. Для диагностики и лечения обратитесь к врачу». Эта мера призвана предотвратить неправильное истолкование информации и защитить пользователей от потенциально опасных последствий самолечения на основе данных, полученных от ИИ.

Кроме того, важно подчеркнуть, что введение таких правовых рамок будет способствовать формированию доверия между пользователями и разработчиками технологий искусственного интеллекта, а также повысит уровень ответственности компаний, предоставляющих подобные сервисы. В долгосрочной перспективе это позволит создать более безопасную и прозрачную среду для использования нейросетей в медицинской тематике, что особенно актуально в условиях быстрого роста цифровых сервисов и увеличения числа пользователей, обращающихся за медицинской информацией онлайн.

Таким образом, установление строгих правовых норм и обязательная маркировка медицинских ответов нейросетей являются необходимыми шагами для обеспечения безопасности и информированности пользователей. Только при условии чёткого регулирования и прозрачности можно рассчитывать на эффективное и ответственное использование искусственного интеллекта в области здравоохранения.

В современных условиях защиты персональных данных и обеспечения безопасности пользователей в сфере здравоохранения особенно важно внедрять дополнительные меры контроля при предоставлении медицинской информации. В рамках предложенной инициативы планируется ввести механизм явного подтверждения согласия пользователя перед тем, как он получит доступ к медицинским сведениям. Это означает, что каждый пользователь обязан будет нажать на кнопку с текстом: «Я понимаю, что это не диагноз врача, и принимаю на себя риски, следуя этим советам», тем самым подтверждая свое осознанное согласие. Без такого четкого и добровольного подтверждения система не сможет предоставить результаты по соответствующему запросу, что гарантирует более ответственное отношение к получаемой информации и снижает риски неправильного толкования данных.

Кроме того, инициатива предусматривает полный запрет на рекламу и рекомендации лекарственных средств в подобных сервисах. Это направлено на предотвращение недобросовестного влияния на выбор пользователя и исключение коммерческого давления при получении медицинских консультаций в онлайн-формате. Запрет рекламы способствует повышению объективности и безопасности предоставляемой информации, что особенно важно в условиях растущего спроса на дистанционные медицинские услуги.

Таким образом, данные меры призваны повысить уровень доверия пользователей к цифровым медицинским платформам, обеспечить их безопасность и защитить от возможных негативных последствий самостоятельного использования медицинских советов без консультации с врачом. Внедрение таких стандартов станет важным шагом к более этичному и ответственному использованию технологий в здравоохранении.

В современном обществе вопросы безопасности и этики использования искусственного интеллекта становятся всё более актуальными. В связи с этим вице-спикер Государственной Думы предложил ввести полный запрет на функционал нейросетей, который позволяет рекламировать, рекомендовать или упоминать конкретные торговые наименования лекарственных препаратов и биологически активных добавок. Такая мера направлена на предотвращение распространения недостоверной или потенциально опасной информации, которая может привести к неконтролируемому самолечению и ухудшению здоровья граждан.

«Эти инициативы имеют целью защитить жизнь и здоровье наших граждан, а также минимизировать риски, связанные с неправильным использованием медицинских средств без консультации специалистов», — отметил Чернышов, подчёркивая важность формирования ответственного и осознанного подхода к применению технологий искусственного интеллекта. Внедрение подобных ограничений позволит создать более безопасную цифровую среду и повысить доверие общества к инновационным технологиям.

Кроме того, регулирование рекламы и рекомендаций в сфере медицины с помощью нейросетей способствует развитию этических стандартов и законодательных норм, которые обеспечивают баланс между технологическим прогрессом и сохранением общественного здоровья. Таким образом, предлагаемые меры станут важным шагом на пути к гармоничному и безопасному использованию искусственного интеллекта в повседневной жизни.

Источник и фото - ria.ru