Интеллектуальные системы распознавания образов и смысла в системе предупреждения правонарушений, совершаемых с использованием Сети

Введение

Интернет является не только коммуникационной средой, но и технологией, с использованием которой совершаются противоправные действия. Несмотря на то, что Федеральная служба по надзору в сфере связи, информационных технологий и массовых коммуникаций (Роскомнадзор) и правоохранительные органы занимаются защитой прав и свобод человека, количество правонарушений, совершаемых с использованием Сети, не становится значительно меньше. Все социальные институты могут сталкнуться с правонарушениями, происходящими с использованием Сети, результатом которых зачастую являются серьезные негативные последствия как для отдельных лиц, так и для общества в целом.

Предотвращение таких социальных отклонений, происходящих с использованием Сети, возможно путем организации взаимодействия провайдеров хостинга, использующих интеллектуальные системы распознавания образов и смысла (далее – ИИ), и правоохранительных органов. ИИ позволяет распознать стадии преступления, намерение совершить противоправные действия, а взаимодействие с правоохранительными органами – минимизировать риск перехода в следующие стадии преступления.

В связи с этим в статье поставлена задача дать ответ на вопросы, могут ли провайдеры хостинга быть отнесены к субъектам предупреждения преступности или к лицам, участвующим в профилактике преступлений, а также может ли искусственный интеллект распознать в Сети стадии совершения преступлений.

Для поиска ответа на поставленную задачу были применены следующие методы: моделирования условий, теории множеств, теории графов, а также анализа, сравнения и синтеза.

Результаты исследования

Предупреждение и профилактика правонарушений. Общее и отличия

Под правонарушением понимается «преступление или административное правонарушение, представляющее собой противоправное деяние (действие, бездействие), влекущее уголовную или административную ответственность»¹. В законодательстве и научном сообществе для описания системы объективных и субъективных предпосылок преодоления правонарушений используются понятия «профилактика правонарушений, преступности» и «предупреждение правонарушений, преступлений». Например, в Руководящих принципах Организации Объединенных Наций для предупреждения преступности среди несовершеннолетних (Эр-Риядские руководящие принципы, 1990 г.).

УК РФ оперирует понятием «предупреждение преступлений»², МВД России – понятиями «профилактика правонарушений»³, «предупреждение преступлений»⁴. В соответствии с Методическими рекомендациями по организации в Федеральной службе судебных приставов работы по предупреждению преступлений⁵ «предупреждение преступлений имеет как процессуальные формы, т. е. предусмотренные Уголовно-процессуальным кодексом Российской Федерации, – внесение дознавателем в порядке ч. 2 ст. 158 УПК РФ в соответствующую организацию или соответствующему должностному лицу представления о принятии мер по устранению обстоятельств, способствующих совершению преступления или других нарушений закона, так и иные формы профилактики (проведение разъяснительной работы среди населения, выступления в образовательных учреждениях, трудовых коллективах, в средствах массовой информации по вопросам предупреждения преступлений; публикация материалов в печати, в информационной сети Интернет и т. п.)»⁶.

В соответствии с Федеральным законом «Об основах системы профилактики правонарушений в Российской Федерации» под понятием «профилактика правонарушений» понимается «совокупность мер социального, правового, организационного, информационного и иного характера, направленных на выявление и устранение причин и условий, способствующих совершению правонарушений, а также на оказание воспитательного воздействия на лиц в целях недопущения совершения правонарушений или антиобщественного поведения»⁷. В соответствии с тем же законом лицами, участвующими в профилактике правонарушений, являются «граждане, общественные объединения и иные организации, оказывающие помощь (содействие) субъектам профилактики правонарушений в рамках реализации своих прав в сфере профилактики правонарушений в соответствии с Федеральным законом «Об основах системы профилактики правонарушений в Российской Федерации» и другими федеральными законами»⁸.

В научной литературе представлены различные точки зрения на понятия «профилактика правонарушений, преступлений» и «предупреждение правонарушений, преступлений». Так, А. А. Савченко считает, что предупреждение преступлений включает в себя различные меры и действия, направленные на ограничение возможности совершения преступлений, охрану общества в целом и индивида в частности. Она пишет: «…профилактика преступлений сводится к своевременному обнаружению и искоренению предпосылок. Соответственно, предупреждение преступлений должно носить общий характер, а профилактика – более индивидуальный» (Савченко, 2010). Другие авторы считают, что профилактика, предотвращение и пресечение преступлений являются этапами предупреждения преступлений (Малков, 2014)⁹ или что профилактика и предупреждение правонарушений – это этапы концепции предотвращения правонарушений¹⁰.

Наша точка зрения, что формы профилактики правонарушений и процессуальные формы предупреждения преступлений являются подмножеством множества предупреждения правонарушений. Это разные понятия, которые в целом направлены на предотвращение антиобщественных и негативных явлений. Анализ законодательства и Методических рекомендаций по организации в Федеральной службе судебных приставов работы по предупреждению преступлений позволяет представить следующую схему множества «Предупреждение правонарушений» (рис. 1).

В виде графа связи между подмножествами можно представить следующим образом (рис. 2).

Подмножество «Формы профилактики» пересекается с подмножеством «Процессуальные формы» в части «принятия мер по устранению обстоятельств, способствующих совершению преступления или других нарушений закона»¹¹, что образует их общую часть, принадлежащую двум подмножествам. Иными словами, общей частью двух подмножеств является множество действий, направленных на устранение обстоятельств, способствующих совершению правонарушения.

Однако нужно отметить, что подмножество «Формы профилактики» предусматривает действие «выявление причин и условий, способствующих совершению правонарушений», которое не входит в подмножество «Процессуальные формы». Тем самым можно сделать вывод, что представление вносится, когда уже установлен факт правонарушения или обстоятельств, облегчающих его совершение.

В таком случае для моделирования условий применения форм профилактики правонарушений и процессуальных форм предупреждения правонарушений определим, что наступлением правонарушения является «1», отсутствием правонарушения – «0».

Для применения форм профилактики правонарушений вероятность возникновения антиобщественного или негативного события должна быть отлична от нуля, но не близка к единице. Иными словами, профилактика правонарушения возможна, когда эксперты фиксируют и наблюдают признаки возникновения антиобщественных событий, могут оценить риски и угрозы развития этих событий и спрогнозировать их динамику, а также имеются предпосылки для их реализации. Например, профилактика возможна в случаях пандемии, преступности, правонарушений.

Процессуальные формы предупреждения правонарушений так же, как и профилактика правонарушений, означают совокупность мер и действий, направленных на предупреждение антиобщественного события, но в случае, когда вероятность возникновения такого события близка к единице. Иными словами, когда событие из множества негативных событий формализуется в конкретное событие. Например, предупреждение теракта может включать в себя оперативные мероприятия правоохранительных органов для предотвращения его совершения.

Таким образом, отличие между формой профилактики правонарушений и процессуальной формой предупреждения правонарушений заключается в том, что профилактика нацелена на предотвращение предпосылок, приводящих к возникновению антисоциальных событий, тогда как процессуальные формы предупреждения нацелены на предотвращение конкретного антисоциального события.

Могут ли провайдеры хостинга быть отнесены к субъектам предупреждения преступности или к лицам, участвующим в профилактике правонарушений

Анализ правовых актов позволяет сделать вывод, что предупреждение преступлений имеет процессуальные формы и формы профилактики. Причем процессуальные формы предупреждения правонарушений могут использовать субъекты, имеющие определенный круг задач и обладающие определенными правами и обязанностями, а также компетенциями в области криминологии. Например, к субъектам предупреждения экономической преступности относятся конкретные государственные структуры, обладающие компетенциями и полномочиями в данной области.

Провайдеры хостинга обладают совокупностью прав и обязанностей в области предоставления услуг хранения информации третьих лиц в Сети, предоставления доступа к ней и использования технологических мощностей для осуществления этих действий. Круг задач, прав и обязанностей провайдеров хостинга не входит в область криминологии. Хотя в случаях, предусмотренных законодательством, провайдеры хостинга обязаны взаимодействовать с Роскомнадзором и уполномоченными органами обеспечения безопасности, в том числе национальной безопасности.

Однако, как мы видели, Федеральным законом «Об основах системы профилактики правонарушений в Российской Федерации» предусмотрена такая форма профилактики предупреждения правонарушений, как «выявление и устранение причин и условий, способствующих совершению правонарушений»¹², т. е. для случая, когда правонарушение еще не установлено. В то же время провайдеры хостинга обладают технологическими мощностями, которые позволяют выявлять и в определенных случаях устранять причины и условия, способствующие совершению правонарушений. Например, в случае распространения вредоносной информации в Сети провайдеры хостинга могут путем мониторинга информации выявить ее и заблокировать к ней доступ.

Исходя из положений ФЗ «Об основах системы профилактики правонарушений в Российской Федерации», мы можем сделать вывод, что если определенные аспекты деятельности юридических лиц, например провайдеров хостинга, которые могут быть связаны с профилактикой правонарушений путем содействия работе иных структур по предупреждению правонарушений, то они могут быть отнесены к лицам, участвующим в профилактике правонарушений.

Таким образом, с точки зрения законодательства провайдеров хостинга можно отнести к лицам, участвующим в профилактике правонарушений, но нельзя – к субъектам предупреждения правонарушений. Поскольку провайдер хостинга не обладает определенными правами и обязанностями, не имеет определенный круг задач и не обладает определенной компетенцией в области криминологии.

В то же время такие лица, участвующие в профилактике правонарушений, могут претендовать на правовую, финансовую, административную, материально-техническую помощь со стороны государства¹³.

Участие провайдеров хостинга в системе профилактики преступности будет эффективным, поскольку они могут предоставить правоохранительным органам доступ к информации, сохраненной на их серверах, для расследования преступлений и их предотвращения. В более широком контексте признание провайдеров хостинга субъектами профилактики преступности может быть полезным для повышения безопасности в Сети.

Исходя из задач, которые стоят перед лицами, участвующими в профилактике правонарушений, перед интернет-провайдерами должны быть поставлены задачи выявления вредного содержания и общественно опасных действий в Сети, например, посредством применения ИИ, анализа больших данных.

ИИ в системе предупреждения правонарушений

Все чаще мы встречаем примеры применения систем ИИ в различных областях экономики и общественных отношений. В Указе Президента РФ от 10 октября 2019 г. № 490 «О развитии искусственного интеллекта в Российской Федерации» определена одна из целей развития искусственного интеллекта в Российской Федерации – это «обеспечение национальной безопасности и правопорядка» (п. 23)¹⁴.

Возможности ИИ могли бы служить инструментом выявления точек напряженности в Сети (Филипова, Коротеев, 2023), а объединение ИИ и уполномоченных органов в области обеспечения общественной безопасности как комбинации взаимодействия позволило бы не только получить смысловой анализ таких признаков преступного деяния, как противоправность, общественная опасность, содержащаяся в размещенной информации (Громова, Петренко, 2023), оценить реальность намерений человека совершить противоправные действия, но и вовремя отреагировать уполномоченным органам в области обеспечения общественной безопасности и тем самым предотвратить правонарушения.

ИИ – это «комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые как минимум с результатами интеллектуальной деятельности человека»¹⁵. В комплекс технологических решений входят информационно-коммуникационная инфраструктура, программное обеспечение (в том числе в котором используются методы машинного обучения), процессы и сервисы по обработке больших данных и поиску решений (п. 5 пп. «а»)¹⁶.

Поскольку ИИ может выявлять нездоровую активность в любых информационных системах, его использование провайдерами хостинга позволит предупредить правонарушение. Такой нездоровой активностью могут быть подготовка к преступлению, намерение совершить преступление, и в этих случаях ИИ может вычислить вероятность совершения преступления, построить причинно-следственные связи развития событий и передать эту информацию правоохранительным органам. Например, такая информационная модель взаимодействия могла предотвратить совершение преступлений, информацию о планировании которых преступники выкладывали в Сеть задолго до его реализации^{17, 18}. После совершения преступления следственные органы исследуют страницы преступника в социальных сетях, выявляют и блокируют такую информацию.

В соответствии с ч. 4 ст. 12 Федерального закона «О полиции» к обязанностям полиции отнесено «выявление лиц, имеющих намерение совершить преступление»¹⁹. Понятие «намерение совершить преступление» включает оценку вероятности совершения уголовно наказуемых действий, что, в свою очередь, является прогнозированием.

В зарубежной научной литературе обсуждается возможность использования ИИ в целях прогнозирования преступлений (Navalgund & Priyadharshini, 2018)²⁰ и уделяется внимание проблеме использования ИИ для предсказательной аналитики и предотвращения преступлений. В российском научном пространстве исследований, посвященных этой тематике, меньше (Расторопов, 2020; Сретенцев, Волкова, 2021) и основное внимание в них уделено применению ИИ на этапе расследования преступления (Sukhodolov & Bychkova, 2018). Например, программе «Конструктор места происшествия», системам моделирования различных следственных действий (Смушкин, 2023; Яшин, 2022). Но эти отечественные системы не решают проблему прогнозирования преступления, хотя еще в 2008 г. авторы предлагали использовать методы предиктивной аналитики в целях принятия обоснованных управленческих решений (Горбенко, Мамасуев, 2008).

Актуальность проблемы применения ИИ подтверждает поставленная в Ведомственной программе цифровой трансформации МВД России на 2022–2024 гг.²¹ задача ликвидации имеющихся отставаний по вопросам применения технологий ИИ.

Несмотря на то, что в зарубежных исследованиях имеются результаты прогнозирования преступления, закономерен вопрос о том, можно ли прогнозировать совершение преступления. Иными словами, имеются ли у преступления те параметры или признаки, которые подлежат вероятностной оценке.

Прогнозирование преступления

В криминологическом исследовании может быть выявлено, что определенные социальные, экономические, демографические или географические факторы связаны с повышенной вероятностью совершения преступлений в определенном районе или сообществе. Эти данные затем могут использоваться для создания моделей предиктивной аналитики. Задачи криминологического прогнозирования включают прогнозирование «преступности, личности преступника, факторы (причины и условия) преступности, последствия преступности, меры борьбы с преступностью»²². Причем преступность рассматривается на трех уровнях интерпретации: свойства преступности как массового явления, свойства преступника, признаки преступного деяния.

Рассмотрим вопрос признаков преступного деяния, который является одним из ключевых в области использования ИИ для прогнозирования преступлений. Ученые пытаются выявить параметры и признаки, связанные с совершением преступлений, для того чтобы определить вероятностную оценку.

Если подходить к оценке преступления как преступного деяния, то построение системы установленных причинно-следственных связей и закономерностей, сопровождающих преступные деяния, позволит дать оценку состояния и вероятного направления его развития. Принимая во внимание, что преступление является конкретным юридическим фактом, он должен обладать определенными закономерностями и признаками, подлежащими оценке.

Т. Н. Долгих считает, что в теории уголовного права, несмотря на сформулированное понятие преступления, вопрос о перечне признаков преступления является дискуссионным, поскольку УК РФ не определяет понятие и виды признаков преступления (Долгих, 2023). С учетом анализа определения, сформулированного в ч. 1 ст. 14 УК РФ, выделяются следующие признаки преступления как деяния: общественная опасность, противоправность, виновность, наказуемость. Эти признаки присущи уже совершенному деянию, у которого в связи с его реальностью можно определить и оценить вышеобозначенные признаки.

ИИ можно доверить оценку только двух признаков: общественной опасности и противоправности. Два других признака – наказуемость и виновность – должны быть оценены только человеком, ИИ в этом случае может дать только рекомендацию, окончательное решение должно принимать уполномоченное лицо.

Например, для получения ответа, является ли смысловая конструкция в Интернете общественно опасной и содержит ли она признаки противоправности, интеллектуальной системе необходимо оценить не только смысл текста, но и все связанные с размещением этого текста события, например, провести анализ всей информации, которая размещена на странице социальной сети преступника, его социальных связей, поскольку одна и та же информация может носить различную окраску в зависимости от контекста. Например, словосочетание «я тебя убью» может быть как выражением любви, так и угрозой совершения убийства. Для оценки реальности угрозы интеллектуальные системы должны проанализировать множество данных, оставленных человеком, разместившим текст, – его цифровые следы и цифровые тени (Жарова и др., 2022). В этом случае получаемый результат работы интеллектуальной системы будет отвечать требованию смыслового толкования обстоятельств криминальной ситуации в неразрывной связи со всеми сведениями по делу (Халиков, 2021).

Хотя в целях объективности необходимо отметить, что не существует абсолютно точных технологий и возможны ошибки в оценке данных. Ошибки в оценке данных могут возникать из-за различных факторов, включая неполные данные, недостаточную контекстуальную информацию или проблемы с алгоритмами анализа. Но задача ИИ – не принять решение за уполномоченное лицо, а передать результат своей работы – вероятностную оценку опасности, противоправности и реальности намерений человека, полученную на основе совокупности цифровых данных, уполномоченным органам в области обеспечения безопасности.

Фактически оценка ИИ признаков деяния позволит ответить, можно ли отнести это деяние к преступлению. В случае прогнозирования развития событий необходимо проанализировать совокупность данных, оставленных человеком в Сети. Прогнозирование вероятности совершения преступлений конкретным человеком происходит на основе анализа его криминогенных качеств (Антонян, Аминов, 2019)²³. В этом случае ИИ анализирует существующие отношения, действия, совершаемые человеком. Результаты работы таких математических моделей уже представлены общественному обсуждению (Завьялов, 2021)²⁴.

Таким образом, вопрос отнесения параметров и признаков, которые могут быть подвергнуты вероятностной оценке в контексте прогнозирования преступлений, остается сложным и часто вызывает споры в научном сообществе.

Оценка ИИ стадий преступления

Возможным этапом оценки преступных деяний является оценка стадий совершения преступлений. С. В. Расторопов считает, что «преступные действия достаточно предсказуемы и прогнозируемы, необходимо лишь правоохранительным органам найти в больших объемах данных эти закономерности» (Расторопов, 2020).

Такой анализ может помочь правоохранительным органам эффективнее предотвращать правонарушения и бороться с преступностью, а также улучшить стратегии противодействия преступлениям.

Для анализа больших данных в целях выявления в них преступных действий можно использовать различные методы машинного обучения, анализа текстов, образов и другие технологии, чтобы выявлять закономерности и предсказывать действия человека. Анализ больших данных может позволить оценить преступные действия на предмет их соответствия стадиям преступления: приготовлению, покушению и оконченному действию. В этом случае ИИ должен оценить вероятность перерастания одной стадии преступления в другую, выявить сопровождающие преступные действия события и явления, распознать их, сравнить полученные данные с другими данными, построить причинно-следственную связь и предотвратить переход стадий преступления в последующие стадии (Жарова, 2022). Хотя оценка стадий возможна не для любых преступлений. Специалисты в области уголовного права считают, что стадии преступлений возможны только для умышленных преступлений²⁵. В таком случае закономерен вопрос: может ли ИИ выявить преступный умысел в размещенной информации. Иными словами, может ли ИИ построить вероятностную модель перерастания преступного умысла в совершение преступных действий определенным человеком?

Преступный умысел как отражение преступных намерений может быть выражен посредством телодвижения, слов, символов, фото- и видеоматериалов. Современные возможности ИИ позволяют оценить всю связанную с человеком информацию и выявить, например, в Сети предварительную преступную деятельность.

Необходимо оговориться, что, хотя большая часть российских специалистов уголовного права не относят формирование преступного умысла к стадиям преступления (Андрусенко и др., 2012), есть и те, кто считает это нулевой стадией подготовки преступления (Ситникова, 2015; Баев, 2017).

В зарубежной научной литературе ученые представляют результаты своих работ, связанные с выявлением ИИ преступных намерений, умысла по результатам проведенного анализа пользовательского контента на платформах социальных сетей (Bokolo et al., 2023). В проведенном авторами статьи эксперименте использование методов машинного обучения позволило понять и проанализировать настроения пользователей в социальной сети, связанные с возможными преступными действиями. ИИ достаточно точно определил преступные намерения, отраженные в пользовательском контенте, что позволило правоохранительным органам усилить свои упреждающие меры.

Обсуждая возможность предотвращения преступлений, мы должны исходить из того, что распознание ИИ преступного умысла, выраженного в информации, размещенной в Сети, позволит оценить вероятность перерастания умысла в реальность преступных действий и заблаговременно отправить эту информацию уполномоченным органам в области обеспечения безопасности. Тем самым риск развития преступных действий будет минимизирован, а правоохранительные органы примут соответствующие профилактические меры.

Заключение

Таким образом, можно сделать вывод, что предупреждение правонарушений содержит формы профилактики и процессуальные формы предупреждения правонарушений. Объединяет эти два подмножества форм принятие мер по устранению обстоятельств, способствующих совершению преступления или других нарушений закона. Однако нужно отметить, что выявление причин и условий, способствующих совершению правонарушений, не входит в подмножество процессуальных форм предупреждения правонарушений.

Процессуальные формы направлены на предотвращение конкретных видов правонарушений, в то время как профилактика в какой-то мере применяет методы предиктивной аналитики, предполагая возможность наступления негативного антисоциального события и используя различные организационные, технологические и правовые инструменты и меры.

Таким образом, прогнозирование преступных действий – это один из этапов предупреждения правонарушений, осуществляемый с использованием методов предиктивной аналитики данных, оставленных человеком. Точность вычислений, проводимых ИИ, с каждым годом увеличивается, в связи с чем растет и точность полученных вероятностей и прогнозов.

Применение ИИ уполномоченными органами охраны правопорядка, их взаимодействие с провайдерами хостинга позволяют не только выявить противоправный и общественно опасный контент, но и оценить вероятность совершения преступления конкретным человеком. Применение ИИ провайдерами хостинга позволит обеспечить профилактику противоправных действий, выявить стадию формирования преступного умысла, выраженного в размещенной им информации, и тем самым минимизировать возможность перерастания умысла в реальность преступных действий.