Предсказуемость алгоритмического поведения искусственного интеллекта как критерий гражданско-правовой ответственности и нормативного контроля

Цель: обоснование концептуальных ограничений рискориентированного подхода при применении к гражданскоправовой ответственности за вред, причиненный искусственным интеллектом, и аргументация критерия предсказуемости алгоритмического поведения.

Методы: исходя из сформировавшейся в правовой доктрине фикции полной управляемости алгоритмических систем, автор обосновывает комплексную методологию, сочетающую сравнительное правоведение (сопоставление рискориентированной модели AI Act с российским правом), формально-юридический анализ (ст. 1, 10, 15, 393, 401, 404, 1079, 1083 ГК РФ) и герменевтический метод для перевода технических понятий («галлюцинации», «воспроизводимость») в юридически значимые категории.

Результаты: авторы ставят вопрос о различии риска и предсказуемости: риск описывает вероятность и масштаб вреда (post hoc), предсказуемость характеризует управляемость поведения системы ex ante. Авторы обосновывают, что предсказуемость позволяет трансформировать инженерные параметры (автономность, стохастичность) в юридически значимые критерии оценки добросовестности и разумности (ст. 1, 401 ГК РФ). На примере «галлюцинаций» генеративных моделей авторы демонстрируют, что статистически ожидаемые отклонения квалифицируются в рамках обычного предпринимательского риска, а выход за документально подтвержденные пределы тестирования может свидетельствовать о нарушении требований к управляемости системы. Показано, что низкая предсказуемость при высокой автономности подрывает основания субъективной ответственности и обосновывает обращение к режиму источника повышенной опасности (ст. 1079 ГК РФ) – дифференциация ответственности корреспондирует с градуируемым характером предсказуемости (ст. 404, 1083 ГК РФ).

Научная новизна: авторы обосновывают необходимость смещения акцента с ретроспективного распределения вреда на предварительную оценку решений о внедрении алгоритмических систем через институционализацию процедур algorithmic due diligence, включающих документированное подтверждение предсказуемости.

Практическая значимость: предложен алгоритм судебной оценки из трех групп обстоятельств (информация о системе, эмпирическая проверка, организационные механизмы контроля), а также рекомендация закрепить требование обеспечения и оценки предсказуемости для систем ИИ, отнесенных к высокому риску, в специальном законе об ИИ.

1. Ерахтина, О. С. (2022). Риск-ориентированный подход к правовому регулированию отношений в сфере разработки и применения технологий искусственного интеллекта. Законы России: опыт, анализ, практика, 10, 101–104. EDN: ESDERP

2. Карапетов, А. Г. (ред.). (2020). Основные положения гражданского права: постатейный комментарий к статьям 1–16.1 Гражданского кодекса Российской Федерации. Москва: М-Логос.

3. Мельникова, Е. Н. (2024). Проблема «разрыва ответственности» за вред, причиненный использованием систем и приложений искусственного интеллекта. Российский юридический журнал, 4. EDN: ZUBUUU

4. Новицкий, И. Б. (1916). Принцип доброй совести в проекте обязательственного права. Вестник гражданского права, 6–8.

5. Селиванова, Е. С., Саркисян, В. В. (2025). Правовые модели ответственности за вред, причиненный системами ИИ: основания, механизмы и критерии формирования. Вестник юридического факультета Южного федерального университета, 12(3), 68–77. EDN: FIQWIA. DOI: 10.18522/2313-6138-2025-12-3-9

6. Ширвиндт, А. М. (2014). Принцип добросовестности в ГК РФ и сравнительное правоведение. В кн. Aequum ius. От друзей и коллег к 50-летию профессора Д. В. Дождева (с. 231). Москва: Статут.

7. Amodei, D., Olah, C., Steinhardt, J., Christiano, P., Schulman, J., & Mané, D. (2016). Concrete Problems in AI Safety. arXiv:1606.06565v2 [cs.AI]. https://arxiv.org/pdf/1606.06565

8. Baldwin, R., Cave, M., & Lodge, M. (2011). Risk-based Regulation. In Understanding Regulation: Theory, Strategy, and Practice (Chapter 13, pp. 281–295. 2nd ed.). Oxford: Oxford University Press. https://doi.org/10.1093/acprof:osobl/9780199576081.003.0013

9. Benk, M., et al. (2022). The value of measuring trust in AI – A socio-technical system perspective, 12. arXiv:2204.13480. https://doi.org/10.48550/arXiv.2204.13480

10. Bostrom, N. (2014). Superintelligence: Paths, Dangers, Strategies. Oxford: Oxford University Press. Brownsword, R. (2025). Law, Technology and Governance (1st ed.) Routledge. https://doi.org/10.4324/9781003658917

11. Dignum, V. (2019). Responsible Artificial Intelligence: How to Develop and Use AI in a Responsible Way. Springer. https://doi.org/10.1007/978-3-030-30371-6

12. Fraser, H., & Bello y Villarino, J.-M. (2023). Acceptable risks in Europe’s proposed AI Act: Reasonableness and other principles for deciding how much risk management is enough. arXiv:2308.02047. https://doi.org/10.48550/arXiv.2308.02047

13. Gawlikowski, J., Njieutcheu, C. R., Tassi, F., Ali, M., Lee, J., Humt, M., Feng, J., Kruspe, A., Triebel, R., Jung, P., Roscher, R., Shahzad, M., Yang, W., Bamler, R., & Zhu, X. X. (2023). A survey of uncertainty in deep neural networks. Neural Computing and Applications, 56, 1513–1589. EDN: WWXVBA. DOI: 10.1007/s10462-023-10562-9

14. Gellert, R. (2020). Fundamental notions: Risk and regulation. In The Risk-Based Approach to Data Protection. Oxford: Oxford University Press (online). https://academic.oup.com/book/40487/chapter-abstract/347671254

15. Goldberg, Y., Jacovi, A., Marasović, А., & Miller, Т. (2021). Formalizing trust in artificial intelligence: Prerequisites, causes and goals of human trust in AI. In Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency. https://doi.org/10.1145/3442188.3445923

16. Grabosky, P. (2017). Meta-regulation. In P. Drahos (Ed.), Regulatory theory: Foundations and applications (pp. 149–171). Canberra: ANU Press.

17. Grieman, K., & Early, J. (2023). A Risk-based Approach to AI Regulation: System Categorisation and Explainable AI Practices. SCRIPTed, 20(1), 56–88.

18. Hildebrandt, M. (2018, September 13). Algorithmic regulation and the rule of law. Philosophical Transactions A: Mathematical, Physical and Engineering Sciences, 376(2128). https://doi.org/10.1098/rsta.2017.0355

19. Hüllermeier, E., & Waegeman, W. (2019). Aleatoric and Epistemic Uncertainty in Machine Learning: An Introduction to Concepts and Methods. arXiv:1910.09457. https://arxiv.org/abs/1910.09457

20. Königs, P. (2022) Artificial intelligence and responsibility gaps: what is the problem? Ethics and Information Technology, 24(36) 11. EDN: WPXOPQ. DOI: 10.1007/s10676-022-09643-0

21. Kustitskaya, T. A., Esin, R. V., & Noskov, M. V. (2025). Model Drift in Deployed Machine Learning Models for Predicting Learning Success. Computers, 14(9), 351. EDN: SIDSHU. DOI: 10.3390/computers14090351

22. Kuteynikov, D., & Izhaev, O. (2023). Analysing Risk-Based Approach in the Draft EU Artificial Intelligence Act. Legal Issues in the Digital Age, 4(3), 97–116.

23. Orwat, C., Bareis, J., Folberth, A., Jahnel, J., & Wadephul, C. (2022). Normative Challenges of Risk Regulation of Artificial Intelligence and Automated Decision-Making. Karlsruhe. EDN: CZOIIB. https://arxiv.org/pdf/2211.06203

24. Pearl, J. (2018). Theoretical Impediments to Machine Learning With Seven Sparks from the Causal Revolution. University of California*, Los Angeles.

25. Pearl, J., Glymour, M., & Jewell, N. (2019). Causal Inference in Statistics: A Primer A Primer Judea Pearl, Maria Glymour, and Nicholas Jewell, John Wiley & Sons, Ltd., Chichester, UK. Biometrics, 75(2), 708–709. https://doi.org/10.1111/biom.13079

26. Perrow, C. (1999). Normal Accidents: Living with High Risk Technologies. Princeton: Princeton University Press. https://archive.org/details/normalaccidentsl00perr

27. Pourkamali-Anaraki, F., Husseini, J. F., & Stapleton, S. E. (2024). Probabilistic Neural Networks (PNNs) for Modeling Aleatoric Uncertainty in Scientific Machine Learning. arXiv:2402.13945v1. https://arxiv.org/html/2402.13945v1

28. Rathkopf, C. (2026). From Hallucination to Reliability: Generative Modeling and the Structure of Scientific Inference. arXiv:2504.08526. https://arxiv.org/abs/2504.08526

29. Rudin, C. (2019). Stop explaining black box machine learning models for high stakes decisions and use interpretable models instead. Nature Machine Intelligence, 1, 206–215. https://doi.org/10.1038/s42256-019-0048-x

30. Rudin, C., Chen, C., Chen, Z., Huang, H., Semenova, L., & Zhong, C. (2021). Interpretable Machine Learning: Fundamental Principles and 10 Grand Challenges. Duke University & University of Maine. https://arxiv.org/pdf/2103.11251

31. Russell, S. (2019). Human Compatible: Artificial Intelligence and the Problem of Control. New York: Penguin. https://books.google.at/books/about/Human_Compatible.html?id=M1eFDwAAQBAJ&redir_esc=y

32. Santoni de Sio, F., & Mecacci, G. (2021). Four Responsibility Gaps with Artificial Intelligence: Why they Matter and How to Address them. Philosophy & Technology, 34, 1057–1084. https://doi.org/10.1007/s13347-021-00450-x

33. Szegedy, C., Zaremba, W., Sutskever, I., Bruna, J., Erhan, D., Goodfellow, I., & Fergus, R. (2013). Intriguing properties of neural networks. https://arxiv.org/abs/1312.6199

34. Yeung, K. (2017). Algorithmic regulation: A critical interrogation. Regulation & Governance, 12(6). https://doi.org/10.1111/rego.12158

35. Zhou, L., Moreno-Casares, P. A., Martínez-Plumed, F., Burden, J., Burnell, R., Cheke, L., Ferri, C., Marcoci, A., Mehrbakhsh, B., Moros-Daval, Y., Ó hÉigeartaigh, S., Rutar, D., Schellaert, W., Voudouris, K., & Hernández-Orallo, J. (2023). Predictable Artificial Intelligence. arXiv:2310.06167. https://doi.org/10.48550/arXiv.2310.06167