rusjelRussian Journal of Economics and LawRussian Journal of Economics and Law2782-2923"TCE "Taglimat"" Ltd.10.21202/2782-2923.2023.3.571-585HZDUBNrusjel-2441Research ArticleЦИФРОВАЯ БЕЗОПАСНОСТЬDIGITAL SECURITYКриминальные риски оборота медицинских роботовCriminal risks of medical robots turnoverhttps://orcid.org/0000-0003-3015-3684ШутоваА. А.ShutovaA. A.

Шутова Альбина Александровна, кандидат юридических наук, старший научный сотрудник Научно-исследовательского института цифровых технологий и права, доцент кафедры уголовного права и процесс

Scopus Author ID: https://www.scopus.com/authid/detail.uri?origin=resultslist&author Id=57219032918Web of Science Researcher ID: https://www.webofscience.com/wos/author/rid/ GOG-9089-2022eLIBRARY ID: AuthorID: 835100

 

Albina A. Shutova, Candidate of Juridical Sciences, Senior Researcher of Scientificresearch Institute for digital technologies and law, Associate Professor of the department of Criminal Law and Procedure

Scopus Author ID: https://www.scopus.com/authid/detail.uri?origin=resultslist&author Id=57219032918 Web of Science Researcher ID: https://www.webofscience.com/wos/author/rid/ GOG-9089-2022 LIBRARY ID: AuthorID: 835100

Kazan

shutova1993@inbox.ruКазанский инновационный университет имени В. Г. ТимирясоваРоссияKazan Innovative University named after V. G. TimiryasovRussian Federation202313092023173571585Copyright © Шутова А.А., 20232023Шутова А.А.Shutova A.A.Данная работа распространяется под лицензией Creative Commons Attribution 4.0.This work is licensed under a Creative Commons Attribution 4.0 License.https://www.rusjel.ru/jour/article/view/2441Цель

Цель: выявление криминальных рисков, свойственных медицинскому роботу, с учетом его аппаратно-технологических (технологических и цифровых) особенностей, а также построение на основе данного анализа авторской классификации криминальных рисков и моделей уголовно-правовой охраны общественных отношений, возникающих в процессе оборота медицинских роботов.

Методы

Методы: в статье используются общенаучные методы познания (анализ, синтез, индукция, дедукция, классификация), а также частнонаучные методы познания, логико-юридический метод.

Результаты

Результаты: уязвимость безопасности медицинских роботов вызывает серьезную озабоченность у производителей, программистов и тех, кто взаимодействует с ними в отрасли здравоохранения. В медицинских учреждениях роботы взаимодействуют в тесном контакте с детьми, пожилыми и людьми с ограниченными возможностями, и пациенту может быть неясно, работает ли робот должным образом или подвергается нападению. Любой вред, причиненный хирургическим роботом в результате неправомерного доступа (или иных противоправных действий), может подорвать веру общественности в медицину и в целом в систему здравоохранения. Угрозы безопасности медицинских роботов могут иметь дальнейшие негативные последствия для них самих, так как подобные факты неправомерного воздействия могут привести к тому, что роботы сломаются или нанесут вред другому близлежащему оборудованию, являющемуся имуществом данного учреждения системы здравоохранения, а хуже – жизни и здоровью пациентов или медицинским работникам. В связи с этим в работе выявлены криминальные риски и угрозы, свойственные медицинским роботам, сформулированы меры по совершенствованию уголовного законодательства, направленного на противодействие преступлениям, возникающим против законного оборота медицинских роботов (ст. 2352 УК РФ).

Научная новизна

Научная новизна: на данный момент имеется небольшое количество отечественных исследований, посвященных правовому регулированию и охране медицинских роботов. В основном подобные наработки являются результатом исследований ученых-медиков. Однако в Российской Федерации специальные теоретико-правовые исследования, в том числе посвященные изучению уголовно-правовых вопросов охраны указанных правоотношений, практически отсутствуют, что подтверждает актуальность и значимость проводимого нами исследования.

Практическая значимость

Практическая значимость: положения и выводы статьи могут использоваться для дальнейшего совершенствования уголовного законодательства, а также закладывают основу для дальнейших исследований в уголовно-правовой науке.

Objective

Objective: to identify criminal risks inherent in a medical robot, taking into account its hardware-technological (technological and digital) features, and to construct, based on this analysis, the author’s classification of criminal risks and models of criminal-legal protection of public relations arising in the medical robots’ turnover.

Methods

Methods: the article uses general scientific (analysis, synthesis, induction, deduction, classification) and specific scientific methods of cognition, and the logical-legal method.

Results

Results: The security vulnerability of medical robots causes serious concern in manufacturers, programmers and those interacting with the robots in the healthcare industry. In medical institutions, robots interact closely with children, the elderly and the disabled, and it may not be clear to the patient whether the robot is working properly or being attacked. Any harm caused by a surgical robot as a result of unauthorized access (or other illegal actions) can undermine the public’s faith in medicine and in the healthcare system as a whole. Threats to the safety of medical robots can have further negative consequences for themselves, as such facts of unlawful influence can lead to robots breaking down or harming other nearby equipment that is the property of the healthcare institution, and worse – the life and health of patients or medical workers. In this regard, the paper identifies criminal risks and threats inherent in medical robots, and formulates measures to improve criminal legislation aimed at countering crimes arising against the legal turnover of medical robots (Article 2352 of the Criminal Code of the Russian Federation).

Scientific novelty

Scientific novelty: at the moment there are few Russian studies devoted to the legal regulation and protection of medical robots. Basically, such researches are done by medical scientists. However, in the Russian Federation, there are practically no special theoretical-legal studies, including those devoted to the study of criminal law issues of the protection of these legal relations, which confirms the relevance and significance of our research.

Practical significance

Practical significance: the provisions and conclusions of the article can be used to further improve criminal legislation, and also lay the foundation for further research in criminal law science.

искусственный интеллектмедицинский роботмедицинское изделиеответственностьпреступлениярискроботуголовное правоцифровизацияцифровые технологииartificial intelligencemedical robotmedical deviceliabilitycrimesriskrobotcriminal lawdigitalizationdigital technologiesReferencesБабурин, В. В. (2010). Правомерное причинение вреда при рискованном поведении, направленном на достижение общественно полезной цели: проблемы определения обоснованности. Научный вестник Омской академии МВД России, 1, 11–17.Alemzadeh, H., Raman, J., Leveson, N., Kalbarczyk, Z., & Iyer, R. K. (2016). Adverse events in robotic surgery: a retrospective study of 14 years of FDA data. PLoS ONE, 11(4), 1–20. https://doi.org/10.1371/journal.pone.0151470Бегишев, И. Р. (2022). Уголовно-правовая охрана общественных отношений, связанных с робототехникой: дис. … д-ра юрид. наук. Казань. EDN: CCHSGSAsimov, I. (2019). Runaround. In Astounding Science Fiction (pp. 94–103). New York: Street & Smith Publication Inc.Бегишев, И. Р. (2022). Уголовно-правовое регулирование робототехники: монография. Москва: Блок-Принт.Baburin, V. V. (2010). Legal infliction of harm during a risky behavior aimed at achieving a socially useful objective: problems of determining reasonability. Scientific Bulletin of the Omsk Academy of the MIA of Russia, 1, 11–17.Галлезе-Нобиле, К. (2023). Регулирование умных роботов и искусственного интеллекта в Европейском союзе. Journal of Digital Technologies and Law, 1(1), 33–61. https://doi.org/10.21202/jdtl.2023.2Begishev, I. R. (2022). Criminal-legal protection of social relations associated with robotics: thesis for a Doctoral Degree in Jurisprudence. Kazan.Грачева, Ю. В., Арямов, А. А. (2020). Роботизация и искусственный интеллект: уголовно-правовые риски в сфере общественной безопасности. Актуальные проблемы российского права, 15(6), 169–178. https://doi.org/10.17803/1994-1471.2020.115.6.169-178Begishev, I. R. (2022). Criminal-legal regulation of robotics: monograph. Moscow: Blok-Print.Гуляева, П. С. (2023). Медицинские нанороботы в фокусе права. Journal of Digital Technologies and Law, 1(1), 89–122. https://doi.org/10.21202/jdtl.2023.4Fiorini, P., Goldberg, K. Y., Liu, Y., & Taylor, R. H. (2022). Concepts and Trends in Autonomy for Robot-Assisted Surgery. In Proceedings of the IEEE, 110(7), 993–1011. https://doi.org/10.1109/jproc.2022.3176828Записная, Т. В. (2022). О формировании цифрового медицинского права. Медицинское право, 1, 34–38.Gallese Nobile, C. (2023). Regulating Smart Robots and Artificial Intelligence in the European Union. Journal of Digital Technologies and Law, 1(1), 33–61. https://doi.org/10.21202/jdtl.2023.2Истратова, Е. Е., Молчанов, А. А. (2015). Особенности защиты персональных данных в медицинских информационных системах. Journal of Siberian Medical Sciences, 6, 59.Gracheva, Yu. V., & Aryamov, A. A. (2020). Robotization and Artificial Intelligence: Criminal Law Risks in the Field of Public Security. Actual Problems of Russian Law, 15(6), 169–178. https://doi.org/10.17803/1994-1471.2020.115.6.169-178Карцхия, А. А. (2021). Формирование цифрового здравоохранения как вызов времени. Право и цифровая экономика, 3, 39–46.Gulyaeva, P. S. (2023). Medical nanorobots in the focus of law. Journal of Digital Technologies and Law, 1(1), 89–122. https://doi.org/10.21202/jdtl.2023.4Малеина, М. Н. (2023). Правовое регулирование применения медицинских роботов-хирургов в комплексе цифровых технологий. Медицинское право, 1, 2–5.Istratova, E. E., & Molchanov, A. A. (2015).Features of protection of personal information in medical information systems. Journal of Siberian Medical Sciences, 6, 59.Михалева, Е. С., Шубина, Е. А. (2019). Проблемы и перспективы правового регулирования робототехники. Актуальные проблемы российского права, 12(109), 26–35. https://doi.org/10.17803/1994-1471.2019.109.12.026-035Kartskhia, A. A. (2021). A modern challenge of the digital healthcare emergence. Law and Digital Economy, 3, 39–46.Приженникова, А. Н. (2020). Правовое поле роботизации: пути решения. Образование и право, 9, 308–317.Langman, S., Capicotto, N., Maddahi, Y., & Zareinia, K. (2021). Roboethics principles and policies in Europe and North America. SN Applied Sciences, 3, 857. https://doi.org/10.1007/s42452-021-04853-5Прохорова, М. Л., Иликбаева, Е. С. (2017). Специфика медицинских изделий как предмета преступления, предусмотренного ст. 238. 1 УК РФ. Общество: политика, экономика, право, 12, 111–114.Lutz, C., Schöttler, M., & Hoffmann, C. P. (2019). The privacy implications of social robots: scoping review and expert interviews. Mobile Media & Communication, 7(3), 412–434. https://doi.org/10.1177/2050157919843961Рарог, А. И. (2018). Незаконное производство лекарственных средств и медицинских изделий (Статья 235.1 УК РФ). Всероссийский криминологический журнал, 6. https://cyberleninka.ru/article/n/nezakonnoe-proizvodstvo-lekarstvennyh-sredstv-imeditsinskih-izdeliy-statya-235-1-uk-rfMaleina, M. N. (2023). Legal regulation of of using medical robots-surgeons in a complex of digital technologies. Medical Law, 1, 2–5.Цомартова, Ф. В. (2020). Роботизация в здравоохранении: правовая перспектива. Здравоохранение Российской Федерации, 2(64), 88–96.Mikhaleva, E. S., & Shubina, E. A. (2019). Challenges and Prospects of the Legal Regulation of Robotics. Actual Problems of Russian Law, 1(12), 26–35. (In Russ.). https://doi.org/10.17803/1994-1471.2019.109.12.026-035Alemzadeh, H., Raman, J., Leveson, N., Kalbarczyk, Z., & Iyer, R. K. (2016). Adverse events in robotic surgery: a retrospective study of 14 years of FDA data. PLoS ONE, 11(4), 1–20. https://doi.org/10.1371/journal.pone.0151470Nissenbaum, H. (2001). Securing trust online: wisdom or oxymoron. Boston Univ Law Revew, 81(3), 635–664.Asimov, I. (2019). Runaround. In Astounding Science Fiction (pp. 94–103). New York: Street & Smith Publication Inc. Fiorini, P., Goldberg, K. Y., Liu, Y., & Taylor, R. H. (2022). Concepts and Trends in Autonomy for Robot-Assisted Surgery.Osborne, Ch. (2022). Critical vulnerabilities uncovered in hospital robots. ZDNet. https://www.zdnet.com/article/critical-vulnerabilities-uncovered-in-medical-robots/In Proceedings of the IEEE, 110(7), 993–1011. https://doi.org/10.1109/jproc.2022.3176828Pasquale, F. (2020). Introduction. In New Laws of Robotics (pp. 1–32). Belknap Press.Langman, S., Capicotto, N., Maddahi, Y., & Zareinia, K. (2021). Roboethics principles and policies in Europe and North America. SN Applied Sciences, 3, 857. https://doi.org/10.1007/s42452-021-04853-5Prizhennikova, A. N. (2020). Legal field of robotics: solutions. Education and Law, 9, 308–317.Lutz, C., Schöttler, M., & Hoffmann, C. P. (2019). The privacy implications of social robots: scoping review and expert interviews. Mobile Media & Communication, 7(3), 412–434. https://doi.org/10.1177/2050157919843961Prokhorova, M. L., & Ilikbaeva, E. S. (2017). The specific nature of medical devices as a target of crime stipulated by Article 238.1 of the Criminal Code of the Russian Federation. Society: Politics, Economics, Law, 12, 111–114.Nissenbaum, H. (2001). Securing trust online: wisdom or oxymoron. Boston Univ Law Revew, 81(3), 635–664.Rarog, A. I. (2018). Illegal production of medical agents and equipment (Article 235.1 of the Criminal Code of the Russian Federation). Russian Journal of Criminology, 6. https://cyberleninka.ru/article/n/nezakonnoe-proizvodstvo-lekarstvennyh-sredstvi-meditsinskih-izdeliy-statya-235-1-uk-rfOsborne, Ch. (2022). Critical vulnerabilities uncovered in hospital robots. ZDNet. https://www.zdnet.com/article/critical-vulnerabilities-uncovered-in-medical-robots/Schmitz-Luhn, B., Chandler, J., & on Behalf Of The iCARE-Pd Consortium. (2022). Ethical and Legal Aspects of TechnologyAssisted Care in Neurodegenerative Disease. Journal of Personalized Medicine, 12(6), 1011. https://doi.org/10.3390/jpm12061011Pasquale, F. (2020). Introduction. In New Laws of Robotics (pp. 1–32). Belknap Press.Tsomartova, F. V. (2020). Robotization in healthcare: legal perspective. Health care of the Russian Federation, 64(2), 88–96. https://doi.org/10.46563/0044-197X-2020-64-2-88-96Schmitz-Luhn, B., Chandler, J., & on Behalf Of The iCARE-Pd Consortium. (2022). Ethical and Legal Aspects of Technology-Assisted Care in Neurodegenerative Disease. Journal of Personalized Medicine, 12(6), 1011. https://doi.org/10.3390/jpm12061011Weng, Y. H, & Hirata, Y. (2022). Design-Centered HRI Governance for Healthcare Robots. Journal of Healthcare Engineering, 2022. https://doi.org/10.1155/2022/3935316Weng, Y. H, & Hirata, Y. (2022). Design-Centered HRI Governance for Healthcare Robots. Journal of Healthcare Engineering, 2022. https://doi.org/10.1155/2022/3935316Yew, G. Ch. K. (2021). Trust in and Ethical Design of Carebots: The Case for Ethic of Care. International Journal of Social Robotics, 13, 629–645. https://doi.org/10.1007/s12369-020-00653-wYew, G. Ch. K. (2021). Trust in and Ethical Design of Carebots: The Case for Ethic of Care. International Journal of Social Robotics, 13, 629–645. https://doi.org/10.1007/s12369-020-00653-wZapisnaya, T. V. (2022). On the establishment of the digital medical law. Medical Law, 1, 34–38.

The authors declare that there are no conflicts of interest present.