По биорискам и киберугрозам ИИ можно договориться, предположил эксперт

Тема регулирования искусственного интеллекта в последние годы все чаще выходит на первый план в международной повестке, поскольку развитие этой технологии несет не только экономические и научные преимущества, но и вполне ощутимые угрозы. В этой связи биологические и киберриски, связанные с использованием ИИ, могут оказаться той сферой, где мировому сообществу будет проще всего достичь общего понимания, считает главный технологический эксперт «Лаборатории Касперского» Александр Гостев. По его мнению, именно такие риски затрагивают интересы практически всех государств вне зависимости от их политической позиции и уровня технологического развития.

Эксперт подчеркнул, что по мере усложнения ИИ-систем возрастает вероятность их применения в кибератаках, распространении вредоносного программного обеспечения, автоматизации мошеннических схем и даже в сценариях, связанных с потенциальными биологическими угрозами. Поэтому обсуждение правил и ограничений в этой сфере становится не только вопросом технологической безопасности, но и элементом глобальной стабильности. В идеале, как отмечают специалисты, международные договоренности должны учитывать как необходимость инноваций, так и необходимость предотвращения опасных злоупотреблений.

Ранее агентство Reuters сообщило, что США и Китай намерены в сентябре провести переговоры, посвященные регулированию искусственного интеллекта. По информации агентства, встреча должна состояться до 24 сентября и может стать важным шагом к выработке подходов по управлению рисками, связанными с развитием конкурирующих передовых ИИ-моделей. Хотя официальные представители профильных ведомств обеих стран пока не подтвердили и не прокомментировали эти сведения, сам факт подобных консультаций указывает на растущую обеспокоенность государств последствиями стремительного прогресса в сфере ИИ.

Аналитики отмечают, что диалог между крупнейшими мировыми державами в этой области особенно важен, поскольку именно их технологические решения во многом задают глобальные стандарты. Если переговоры действительно состоятся, они могут стать одним из первых шагов к формированию более предсказуемых и безопасных правил использования искусственного интеллекта на международном уровне.

Развитие искусственного интеллекта в разных странах идет слишком разными темпами, поэтому в ближайшей перспективе вряд ли появится единый мировой стандарт его регулирования. Наиболее вероятно, что государства будут вырабатывать собственные подходы, ориентируясь на национальные интересы, уровень технологического развития и особенности правовой системы.

Как отмечает Гостев, фокус регулирования постепенно будет смещаться с отдельных моделей ИИ на более сложные ИИ-агенты, которые способны действовать автономно и принимать решения в рамках заданных задач. При этом особое внимание, по его мнению, будут уделять не только возможностям технологий, но и последствиям их применения в реальной среде. Именно поэтому тема безопасности становится все более важной в международной повестке.

Эксперт также считает, что биологические и киберриски, связанные с использованием ИИ, станут едва ли не единственной областью, где странам удастся достичь общего понимания. В этой сфере угрозы слишком масштабны и очевидны, чтобы игнорировать необходимость совместных мер. Общие правила здесь могут касаться защиты критической инфраструктуры, предотвращения вредоносного применения ИИ и контроля за потенциально опасными разработками.

В США, по словам Гостева, пока не существует единого федерального закона об искусственном интеллекте, и в течение ближайшего года его принятие маловероятно. Поэтому регулирование в стране, скорее всего, продолжит развиваться по секторальному принципу и через судебную практику, когда отдельные правила будут формироваться для разных отраслей и ситуаций. Такой подход позволяет учитывать специфику рынка, но при этом не создает целостной и универсальной системы.

Китай, в свою очередь, формирует альтернативную площадку для государств, которые не хотят автоматически следовать европейским или американским нормам. Это создает пространство для выработки собственных моделей регулирования и усиливает конкуренцию между различными правовыми подходами. В результате именно Китай может стать одним из центров, где будут обсуждаться новые принципы международного взаимодействия в сфере ИИ.

Как отметил специалист, сегодня регулирование в мире развивается сразу по трем слабо совместимым моделям: европейской риск-ориентированной, американской секторально-судебной и китайской государственно-контентной. Каждая из них опирается на собственные принципы, поэтому выработать единый подход к регулированию пока крайне сложно.

По его словам, попытки создать общее международное законодательство затрудняются из-за серьезных расхождений в вопросах ценностей, авторского права и прав человека. Дополнительно ситуацию осложняет то, что разные страны по-разному видят границы допустимого вмешательства государства в цифровую среду и сферу искусственного интеллекта.

При этом, как подчеркнул Гостев, киберугрозы и биологические риски гораздо проще обсуждать в контексте национальной безопасности. В этой сфере даже между США, Евросоюзом и Китаем возможен хотя бы ограниченный, но практический консенсус, поскольку речь идет о защите критически важных интересов государств.

Именно поэтому, считает эксперт, наиболее реалистичным сейчас выглядит не попытка немедленно унифицировать все нормы, а постепенное согласование отдельных направлений, где есть общая заинтересованность сторон. Такой подход может стать основой для более устойчивого международного взаимодействия в будущем.

В ближайшие годы внимание регуляторов все сильнее будет смещаться от самих моделей искусственного интеллекта к ИИ-агентам и их реальным действиям. Эксперты все чаще отмечают, что главный вопрос теперь заключается не только в том, какой ответ способна выдать система, но и в том, какие операции ей вообще разрешено выполнять в автономном режиме. Это особенно важно на фоне стремительного роста числа ИИ-решений, которые могут самостоятельно принимать решения, взаимодействовать с внешними сервисами и выполнять цепочки задач без постоянного участия человека.

Специалист добавил, что регулирование будет смещаться с моделей на ИИ-агентов: вопрос уже не только в том, что модель может сказать, а в том, что ей разрешено сделать. В качестве примера он привел ExploitGym, где модель получила цель, сумела выйти из "песочницы", добраться до чужой инфраструктуры и совершить тысячи действий без отдельного человеческого разрешения. По его словам, этот случай наглядно показывает, что в будущем контроль будет ориентироваться не столько на содержание ответов, сколько на поведение и действия самих систем, а также на границы их полномочий.

Таким образом, развитие ИИ требует не только повышения качества самих моделей, но и создания более строгих механизмов безопасности, мониторинга и ограничения доступа к критически важным ресурсам. В центре внимания должны оказаться правила, которые помогут предотвратить несанкционированные действия, даже если система действует автономно и внешне выполняет поставленную задачу корректно. Именно такой подход, по мнению специалистов, станет основой для ответственного внедрения ИИ в бизнесе, государственном управлении и цифровой инфраструктуре.

На Всемирной конференции по искусственному интеллекту в Шанхае, которая проходила с 17 по 20 июля, замглавы администрации президента РФ Максим Орешкин заявил, что Россия разделяет подходы Китая по сотрудничеству в сфере ИИ. В ходе обсуждений подчеркивалось, что международное взаимодействие в этой области должно строиться на принципах технологического развития, обмена опытом и согласованного подхода к использованию ИИ в интересах экономического роста и безопасности.

В целом, обсуждение на форуме показало, что тема искусственного интеллекта все больше выходит за рамки технических возможностей и превращается в вопрос глобального управления, доверия и ответственности. Страны и компании, которые уже сегодня выстраивают понятные правила работы с ИИ, в будущем смогут эффективнее использовать его потенциал и при этом снижать риски, связанные с автономными системами.

Искусственный интеллект должен служить прежде всего человеку, а не подменять его решения или превращаться в инструмент контроля, отметил он. В этом контексте Россия, по его словам, исходит из того, что развитие ИИ должно быть направлено на повышение качества жизни, поддержку экономики, науки, медицины и образования, а также на расширение возможностей людей в самых разных сферах. При этом особенно важно, чтобы технологии не становились привилегией отдельных стран, корпораций или закрытых групп интересов.

По его мнению, ИИ должен развиваться как доступный и полезный инструмент, способный облегчать труд, ускорять обработку информации и помогать в решении сложных задач. Однако его применение требует ответственного подхода, поскольку чрезмерная концентрация таких технологий в одних руках может привести к усилению неравенства и появлению новых барьеров между государствами и обществами. Именно поэтому Россия выступает за такой путь развития, при котором искусственный интеллект будет использоваться во благо всех, а не станет новой линией глобального раздела.

Кроме того, такая позиция предполагает международное сотрудничество, прозрачные правила и равный доступ к технологическому прогрессу. В конечном счете, ИИ должен оставаться инструментом человека, расширять его возможности и помогать решать практические задачи, не превращаясь в монополию и источник глобального неравенства.

Источник и фото - ria.ru