Искусственный интеллект и киберутопизм в правосудии. Почему ИИ – не интеллект; борьба человека за собственное выживание

Введение

Max Tegmark в своей концептуальной книге “Life 3.0 – Being human in the era of artificial intelligence” («Жизнь 3.0 – как быть человеком в эпоху искусственного интеллекта», 2018) предложил сценарий применения ИИ к области права. Он пишет:

Помня об этом тезисе, углубимся в лежащий в его основе метод:

В главе «Логика и мышление» в книге Steven Pinker “Rationality: What it is, why it seems scarce, why it matters” («Рациональность: что это такое, почему она представляется недостаточной и почему она имеет значение») (Pinker, 2022) всесторонне разобраны такие понятия, как формальные и неформальные заблуждения.

Имеющиеся предпосылки приводят к негативным последствиям:

Манифест киберутопизма

Суть киберутопизма (Morozov, 2012) почти полностью выражена в этой реконструкции, основанной на эмоциональной предпосылке в виде явных недостатков дорогостоящего, часто несовершенного и не всегда быстрого процесса правосудия. На смену человеческой необъективности должно прийти быстрое, экономичное и «определенное» решение машины. Эта предпосылка апеллирует к общепринятому мнению, однако она совершенно неполна и основана на очень опасном допущении: «юридические процессы можно абстрактно рассматривать как вычислительную задачу, где доказательства и законы являются входными данными, а на выходе мы получаем решение». Здесь кроется первая ошибка. Этот подход оказывает определенное влияние на обычного человека, но вряд ли может заменить собой полный и глубокий анализ проблемы.

Юридические процессы – это не вычисления, а размышления. Они касаются людей и фактов, которые никогда не бывают полностью идентичными. Математические правила нельзя применить к конкретным делам. Математические алгоритмы создаются именно для того, чтобы абстрагировать, обобщить, применить единую формулу к множеству различных данных.

Кроме того, не следует забывать об очевидном: если не право в целом, то судебная практика, безусловно, меняется, а «алгоритм» – нет. При ближайшем рассмотрении обнаруживается фундаментальная ошибка – теперь уже историческая, порожденная сходством между нейронными и вычислительными сетями. Человеческий мозг сравнивают с компьютером, что уже было опровергнуто теорией вычислений. Основатели теории вычислений, а в какой-то мере и творцы так называемого искусственного интеллекта, интуитивно понимали это на концептуальном уровне.

Таким образом, прежде чем рассуждать о предполагаемом (ошибочно) применении искусственного интеллекта и роботов-судей к праву и судопроизводству, стоит вернуться к некоторым соображениям о сходстве мозга и компьютера. Важно отметить, что киберутопизм, преследуя цель стимулировать рост вычислительных мощностей и распространение приложений ИИ, провозглашает основополагающую ценность «материально ничем не ограниченной памяти и способности к обучению», но при этом сознательно отбирает и распространяет лишь некоторые из гипотез основателей теории вычислений.

Это не голословное обвинение. Если так поступают разработчики нового искусственного интеллекта, то как мы можем верить в беспристрастность, нейтральность и «всеобщность» их творений? Вспомните об этом, когда в следующий раз услышите об ИИ, который «содержит в себе все», потому что в «очень большом» легко потерять что-то количественно незначительное, но содержательно и концептуально важное.

Результаты исследования

Короткая память киберутопистов о теории вычислений и ИИ

Alan Turing в работе “Proposed electronic calculator” («Проект электронного вычислителя») (Turing, 1946)¹ утверждал:

Основоположник теории вычислений уверенно обозначает три типа ошибок. Третий тип, вероятно, свидетельствует о некоем технократическом утопизме: это идея, что делаться будет то, что должно быть сделано, как если бы это была научная потребность, которую он не принимает во внимание из экономических интересов (в соответствии с подходом и видением A. Turingʼа). Но из задач проверки киберутопистов действительно волновала только одна: внушить доверие. Остальные воспринимались как неважные и часто упускались из виду.

В работе 1948 г. “Intelligent machinery: a report” («Интеллектуальные машины: доклад») Turing писал:

К этим, казалось бы, схематичным и упрощенным утверждениям Turing, однако, добавляет два соображения, очень важные для целей нашего анализа:

Таким образом, выходя далеко за рамки технологического аспекта и обращаясь к основам теории вычислений, Turing еще семьдесят лет назад предостерегал от двух грубых заблуждений, о которых сегодня, очевидно, забыли (как будто технический прогресс, увеличивая вычислительные мощности, избегает фундаментальных ошибок): то, что машина не должна совершать ошибок, не является критерием интеллекта (тем более искусственного) и что интеллект машин – это лишь отражение интеллекта их создателя (идея, используемая для успокоения). Наконец, общая тема, над которой необходимо подумать (человеческим интеллектом), такова:

В этом контексте заслуживает внимания и тот момент, который, по сути, стал провокационным вызовом (хотя вовсе не задумывался как таковой!) «проверке» машинного интеллекта. Alan Turing предвидел многие из самых серьезных возражений, которые могут быть выдвинуты против искусственного интеллекта. В своей фундаментальной статье “Computing machinery and intelligence” («Вычислительные машины и интеллект») (Turing, 1950) он перечисляет девять из них и цитирует отрывок из речи Geoffrey Jefferson:

Все мы знаем основные правила и условия «игры Тьюринга», которую он придумал и описал в статье, процитированной выше. Менее известен один из вариантов игры, предложенный Turingʼом, который показывает механизм решения на чисто логической или почти логической основе. В этом варианте машина должна действовать совместно с человеком. Два участника заперты в разных комнатах и печатают свои ответы на ряд вопросов, с помощью которых допрашивающий пытается выяснить их пол. В контексте игр Turingʼа важно помнить, что участник не обязан говорить правду.

Не следует забывать, что Turing никогда не обещал создать машину, абсолютно неотличимую от человека с любой точки зрения (именно за эту задачу взялись компании, заинтересованные в прибылях, полагая, что они могут это сделать). Он скорее стремился прояснить вопрос о том, могут ли машины мыслить. Он принимал как факт, что люди мыслят, а в качестве критерия того, может ли машина мыслить, предлагал построить такую машину, чтобы человек не мог отличить ее результаты от ментальных продуктов другого человека.

Другим авторитетом в области теории вычислений является Jeremy Bernstein (Bernstein, 1978; Bernstein, 1990), автор основополагающего труда “Science Observed” («Наблюдаемая наука») (Bernstein, 1982). Работа Bernsteinʼа актуальна по двум причинам. Во-первых, она «упорядочивает и суммирует» большую часть того, что было сделано в течение около тридцати лет в области теории вычислений и ИИ. Во-вторых, она рассматривает вопрос о сходстве между мозгом как разумом (интеллектом человека и животных) и вычислительной машиной (искусственным интеллектом), показывая огромные концептуальные различия задолго до известных открытий в нейробиологии.

Один из отцов теории вычислений Marvin Minsky (Minsky, 1965, p. 4; см. также Bernstein, 1990, p. 16) писал:

Bernstein продолжает эту мысль:

Он также писал о компьютере, созданном в 1951 г.:

По описанию Minsky, машина, построенная в Гарварде, была в основе своей скиннеровской. Ее действия без обратной связи были более или менее случайными, что ограничивало возможности для ее обучения; она так и не смогла создать план действий.

Здесь мы возвращаемся к параллелизму вычислительных сетей и нейросетей. Вопрос, на который пытались ответить McCulloch и Pitts (1943), заключается в том, на что способна нейронная сеть такого рода. Список их аксиом выглядит следующим образом:

1) активность нейрона – это процесс «все или ничего» (нейрон либо активен, либо нет);

2) в любой момент времени для возбуждения нейрона необходимо, чтобы в течение латентного периода сложения возбудилось определенное количество синапсов;

3) единственной значимой задержкой в нервной системе является синаптическая задержка;

4) если активен какой-либо тормозной синапс, возбуждение нейрона в этот момент абсолютно исключено (теперь мы знаем, что они добавляются к остальным входным сигналам на синапсе);

5) структура сети не меняется со временем (это требует переосмысления).

Последняя аксиома предположительно означает, что эта идеальная сеть бессмертна.

Конец эпохи равенства между мозгом и компьютером

Через несколько лет после появления вышеупомянутой статьи создатель как минимум трех первых в истории суперкомпьютеров von Neumann (1958) написал, вдохновившись их результатами:

Следующее наблюдение было сделано F. Crickʼом (Crick, 1955) в статье, опубликованной в журнале Scientific American:

В 1966 г. von Neumann:

На конференции в Ванзе физик Freeman Dyson (Freeman, 1970) соотнес элементы машины von Neumann’а с их биологическими аналогами. Мастерская соответствует рибосомам, копировальная машина – ферментам РНК-полимеразы и ДНК-полимеразы, бригадир – это управляющие молекулы: репрессор и индуктор, а проект – РНК и ДНК. Von Neumann был первым, кто это понял.

Как создать систему, которая будет надежной, даже если операции, на которых она основана, не вполне надежны? Von Neumann понял, что ключ лежит в избыточности – наличии множества идентичных устройств с одинаковыми функциями. Он предположил, что центральная нервная система должна иметь избыточную организацию, чтобы функционировать с приемлемым уровнем ошибок. Он также понимал, что если универсальную машину, созданную Turing’ом, заставить воспроизводить саму себя, то она сможет эволюционировать. Если бы программа была изменена мутацией и, несмотря на это изменение, машина могла продолжать воспроизводиться, то возник бы модифицированный потомок.

По мнению исследователей F. J. Dyson (1985) и G. Dyson (2012), von Neumann был убежден, что сама возможность существования универсального автомата в конечном итоге делает мыслимой неограниченную биологическую эволюцию. В процессе эволюции простых организмов в более сложные нет необходимости каждый раз переделывать фундаментальный биохимический механизм, достаточно лишь модифицировать и расширять генетические инструкции. Von Neumann ясно выразил это в работе “The Computer and the Brain” («Компьютер и мозг») (von Neumann, 1958), но с оговоркой, которая должна была – но не сделала этого – закрепить симметрию и предполагаемое сходство между мозгом (интеллектом) и машиной (искусственным интеллектом):

Киберутописты и вопрос «кто умнее»

Фраза «...ни одна известная вычислительная машина не может работать...» предопределила «гонку вооружений» в сфере искусственного интеллекта: чтобы опровергнуть рассуждения фон Неймана, одного из самых блестящих умов в истории, нужно было создать «неизвестную» машину. Она должна была называться искусственным интеллектом, должна была (как предписывал Turing) «внушать доверие», и по этой причине параллель с человеческим мозгом – вынужденная и фальсифицирующая научную реальность – была названа «безвредной», чтобы «познакомить» нас с новым творением.

Другой величайший ум XX в. также должен был быть повержен одним ударом: Alan Turing, играющий в свою игру (первую, а не вторую, которая была бы слишком сложной).

Вызов киберутопизму был брошен.

Киберутопизм права: как роботы-судьи будут судить человека

Существует множество различных точек зрения на связь между искусственным интеллектом и уголовным правосудием. Эта отрасль права вызывает наибольшее количество споров и сравнений; она также требует важнейших навыков регулирования и защиты прав, которые не входят в компетенцию других отраслей знания. Дебаты ведутся вокруг вопросов неприкосновенности частной жизни и таких все более узких областей, как защита нейронных прав, авторское право, защита конфиденциальности персональных данных и биологических метаданных вплоть до области эмоционального ИИ.

Оставив пока в стороне эти аспекты, которые тем не менее очень важны, выделим некоторые из наиболее значимых позиций в сфере уголовного правосудия.

Как считает P. M. Morhat, искусственный интеллект может выполнять такие функции в отправлении правосудия, как рутинная работа судьи, включая контроль за ходом судебного заседания, обработка информации, оформление документов, экспертно-аналитическое, лингвистическое и организационное обеспечение судопроизводства (Morhat, 2018, pp. 25–27). Более того, существующая практика использования ИИ в судопроизводстве показала, что невозможно разграничить действия судьи-человека и ИИ, особенно в сложных делах; напротив, они должны сотрудничать, чтобы судья-человек мог контролировать ИИ. Ключевым вопросом является анализ алгоритма коммуникации между искусственным интеллектом и человеком (Buocz, 2018).

Исследователи Andreev, Laptev и Chucha (2020, p. 31) отмечают, что работа ИИ в судебном процессе не может быть изолирована от действий судьи-человека. Получить независимые «решения машины» (судебные акты) пока невозможно. Оценка человека-судьи необходима в таких вопросах, как юридическая квалификация и др. Решение судьи принимается в ходе самого процесса. Однако машина определяет приговор без учета взаимодействия подсудимого с судьей (судом). Она не оценивает вербальные и невербальные средства общения (тон голоса, мимику, жесты, позу). Эти и другие наблюдения формируют психологический портрет подсудимого и способствуют тому, чтобы объем исправительного воздействия был адекватен уголовному делу (Alikperov, 2018, p. 21).

Эти вопросы рассматриваются в концептуально важной части труда “Life 3.0” («Жизнь 3.0») M. Tegmark’а, где говорится о применении ИИ к праву. Однако его рассуждения следует с осторожностью применять к другим сферам человеческой деятельности: медицине, вождению автомобилей, научным исследованиям или преподаванию. Некоторые сложности нельзя устранить, используя машину вместо человека. В сфере закона и права ситуация выглядит следующим образом:

Что такое (человеческий) интеллект и почему ИИ – не интеллект

В своем выступлении на тему «Алгоритмы и искусственный интеллект. Люди совершают ошибки, именно поэтому они лучше машин» Ginevra Cerrina Feroni (2020), вице-президент Управления по защите персональных данных Италии, заявила:

Однако она добавляет:

Возможно, настало время рассмотреть первый вопрос.

Определение интеллекта

Даже в случае общего понятия его определение нельзя выбрать произвольно, или путем максимального обобщения, или по критерию «наибольшей объяснительной эффективности». Дело в том, что большая часть представителей киберутопизма не инженеры или программисты, не математики или специалисты в науках об информации, что было бы логично, а мыслители и популяризаторы, которых щедро финансируют для того, чтобы создать «видимость достоверности» и ощущение близости к «чужой» реальности.

В бестселлере “Machine, platform, crowd: Harnessing our digital future” («Машина, платформа, толпа: наше цифровое будущее») (McAfee & Brynjolfsson, 2017) термин «защита частной жизни» не используется ни разу на 350 страницах! Однако текст на задней обложке гласит:

При этом подразумеваются соответственно директор и главный научный сотрудник Центра цифрового бизнеса Массачусетского технологического института; их исследования финансируются Илоном Маском на сумму около 10 млн долл. Было бы уместно выяснить определение интеллекта у нейробиологов, психологов и антропологов (возможно, из числа тех, кого не финансируют компании или магнаты новой экономики).

Существуют простые определения интеллекта, например, способность адаптироваться к окружающей среде. Некоторые из них более всеобъемлющие и сложные, с большим количеством элементов. Хорошим примером является современная концепция окружающей среды, где она определяется не просто как место проживания, а как активный элемент, способный изменять тех, кто в ней живет. Аналогичным образом, вероятно, и интеллекту человека невозможно дать одно-единственное определение.

Мы также можем обнаружить, что единого интеллекта не существует.

Профессор Гарвардского университета Howard Gardner в своей авторитетной книге “Formae mentis. Essay on the plurality of intelligence” («Структура разума: теория множественного интеллекта») (Gardner, 1983, см. также комментарии Di Salvo (2024) ) предложил теорию множественного интеллекта. Он опроверг концепцию интеллекта как единого фактора, измеряемого с помощью коэффициента интеллекта (IQ), и дал более динамичное определение, выделив субфакторы, дифференцированные друг от друга.

В ходе эмпирических исследований, подкрепленных множеством источников в области нейропсихологических патологий, он выделил по меньшей мере семь различных типов интеллекта: лингвистический, музыкальный, логико-математический, пространственный, телесно-кинестетический, личностный и межличностный. Gardner также предположил, что эти формы (или специализации) человеческого интеллекта не являются чем-то исключительным, а представляют собой уникальную личностную комбинацию каждого индивидуума. По утверждению автора, в одном и том же человеке присутствуют все упомянутые типы интеллекта (а также другие, которые еще предстоит должным образом классифицировать), но с разной степенью качественного и количественного развития. Это сочетание типов интеллекта с абсолютно разным процентным соотношением, уникальное для каждого человека, определяет жизнь и адаптацию как отдельных людей и групп, так и общества и вида в целом.

ИИ, которому можно доверять

В апреле 2019 г. Европейская комиссия разработала «Этические принципы для надежного ИИ», в которых говорится, что «процессы должны быть прозрачными, возможности и назначение систем ИИ должны открыто сообщаться, а решения, по мере возможности, объясняться тем, кого они прямо или косвенно затрагивают. Без такой информации решение не может быть должным образом оспорено» (European Commission, 2019, p. 13).

Известный исследователь G. Cerrina Feroni отмечает:

Принцип понятности предполагает, что алгоритмы, особенно прогностические, основаны на логике, т. е. на прослеживаемой и проверяемой последовательности аргументов. Проблема в том, что большинство алгоритмов нового поколения не ограничиваются детерминированным выведением следствий из заданных аксиом, но благодаря системам автоматического обучения сами вырабатывают критерии, которые во многих случаях непонятны даже программистам (Simoncini, 2019).

G. Cerrina Feroni далее поясняет:

Предполагаемый технологический нейтралитет

Прежде чем вернуться к исходной гипотезе, т. е. к предполагаемой гиперэффективности робота-судьи, уместно рассмотреть еще одно допущение, которое киберутописты считают само собой разумеющимся и громко декларируют с единственной целью – представить ИИ надежным и безопасным. Речь идет о предполагаемой «нейтральности» технологий.

В своей работе “Artificial intelligence and the risks of a ‘disruption’ of legal regulation” («Искусственный интеллект и риски “нарушения” правового регулирования») Giuseppe Mobilio раскрывает эту тему:

Столкнувшись с таким предположением, можно вспомнить C. Schmitt’а и его книгу “The concept of ‘political’” («Понятие политического») (Schmitt, 1927). Говоря о «вере в технику», он писал: «Техника всегда только инструмент и оружие, и именно потому, что она служит всем, она не нейтральна... Это оружие, которое можно повернуть в сторону любой цели и которое остается культурно и нравственно слепым».

Tegmark писал, что роботы-судьи «могут быть запрограммированы так, чтобы быть одинаковыми и относиться ко всем одинаково, применяя закон прозрачно и действительно объективно. Они также могли бы устранять случайные, непреднамеренные проявления предвзятости человека». Отвечая на это предположение, Mobilio уточняет:

Вычислительный не-интеллект, или дефект искусственности

Возвращаясь к модели интеллекта Gardner’а, мы можем сразу же заметить двусмысленность термина «искусственный интеллект» и попытаться сделать его чуть менее «знакомым», а значит, приемлемым для человеческого сообщества.

Gardner выделил (как минимум) семь различных типов интеллекта: лингвистический, музыкальный, логико-математический, пространственный, телесно-кинестетический, личностный и межличностный. Из этих типов машина и ее алгоритмы, конечно же, не могут обладать лингвистическим и музыкальным творческими типами интеллекта, но могут обладать чисто исполнительскими. Это связано с тем, что «художественное» творчество требует взаимодействия интеллекта со средой, во-первых, движения (рецептивного взаимодействия) и, во-вторых, ценностного опосредования чувств (которые являются квалификаторами опыта).

ИИ также может обладать пространственным, телесно-кинестетическим, чисто вычислительным интеллектом: он может получать исходные данные из среды и обрабатывать их, управлять опытом в своей памяти, но не может выйти за пределы исходных данных в область ценностного опыта.

Машина полностью (онтологически) лишена личного и межличностного интеллекта, за исключением чисто самодиагностических (механическая математика для собственной диагностики) и релятивистских (механические вычисления во взаимосвязи – но не в отношениях – с «другими») задач. Она, несомненно, обладает логико-математическим интеллектом (в той мере, в какой эффективны и оптимизированы ее логико-математические вычислительные способности), но, конечно, не творческо-изобразительно-абстрактным (проще говоря, не может «изобрести или открыть» что-либо, начиная с категоризации и абстрагирования реальности).

Робот-судья

Робот, прекрасно умеющий играть в шахматы и решать сложнейшие уравнения, но лишенный лингвистического, музыкального, личностного и межличностного интеллекта, сопоставимого с человеческим, и имеющий пространственный, телесно-кинестетический интеллект, развитый лишь с технической и технологической точек зрения, – такой робот-судья предназначен для того, чтобы судить человека. Судить того, чья идентичность основана именно на сочетании всех типов интеллекта – лингвистического, музыкального, логико-математического, пространственного, телесно-кинестетического, личностного и межличностного, причем это сочетание субъективно-индивидуально, в нем присутствуют все эти типы, по-разному модулированные (качественно и количественно), развившиеся не только в среде, но и из среды, с которой машина не имела никаких значимых отношений.

Очевидно, что каждый судья при вынесении каждого отдельного решения, с учетом фактов и обстоятельств, а также людей, стоящих перед ним, будет судить по-разному (даже если эти различия невелики). Судье требуется время, чтобы рассмотреть все обстоятельства и принять решение о наказании: свобода человека не должна решаться за секунды. Поскольку суждение – это не «вычисление», а «размышление», его краеугольным камнем остается то, что судья – хотя бы по основным биологическим и неврологическим параметрам – должен быть «равен» подсудимому. При всех рисках неточности и неидеальности человеческих суждений, они остаются, безусловно, предпочтительнее любых математико-механистических решений.

ТРИ ЗАМЕТКИ НА ПОЛЯХ

О книге «Жизнь 3.0 – быть человеком в эпоху искусственного интеллекта» Макса Тегмарка
(“Life 3.0 – Being human in the era of artificial intelligence” by Max Tegmark)

1. О сознании машин

«PHI. Путешествие от мозга к душе» – так называется книга Giulio Tononi (Tononi, 2012). PHI придает теории сознания форму нарратива (чего никогда не сможет сделать ChatGPT). Oliver Sacks дал лучшее резюме этой работе, сказав: «Giulio Tononi придал телесность и духовность последним достижениям нейробиологии и превратил их в прекрасный роман».

Tononi писал:

В конце своей книги Tegmark вводит элемент сознания в вычислительные машины через развитие ИИ, приступая к рассмотрению теорий о сознании; однако он упомянул лишь некоторые из них, описав их в самом общем виде, чтобы работа была более информативной. Однако эта тема заслуживает большего внимания.

Верной представляется следующая мысль Tononi:

Как мы уже говорили, и о чем напоминал Giulio Tononi, Turing, первым начавший дебаты об искусственном интеллекте, предложил, как проверить, может ли машина думать и, возможно, демонстрировать сознание. Данный тест сегодня носит его имя. Эксперимент заключается в следующем: интеллектуальная машина и человек помещаются в одну комнату и общаются по телетайпу с человеком, находящимся в другой комнате. Если последний не сможет отличить ответы машины от ответов человека, то машина может считаться разумной.

В продолжение этой темы философ John Searle утверждал, что машина, выполняющая набор инструкций, не мыслит, не обладает сознанием и не понимает смыслов, даже если она достаточно адекватно отвечает на всевозможные вопросы и выполняет тест Turing’а. В работе «Разум, мозг и программы» (Searle, 1980) он предложил эксперимент: представьте, что вы заперты в комнате, имея набор карточек с китайскими иероглифами и инструкцию о том, какие карточки передавать вовне в ответ на входящие карточки; вы сможете выполнить программу, не понимая ни слова по-китайски. Этот аргумент подтверждает тезис о невозможности извлечения смысла (семантики) из механизмов (синтаксиса), но он также подтверждает, что сознание не может быть выведено из вычислений.

Gregory Bateson в работе “Steps to an ecology of mind” («Шаги к экологии разума») (Bateson, 1972) определил информацию как «разницу, которая делает разницу». Создателем теории информации является инженер и математик Cloud Shannon (Shannon, 1950). В своей работе он говорит о том, что информация – это число и что оно отделено от смысла. Аналогично тому, как расцвет науки произошел после того, как Galileo отделил наблюдателя от природы, так и коммуникации и хранение данных начали бурно развиваться после того, как Shannon разделил смысл и информацию.

Давняя традиция атомизма утверждает, что все можно объяснить, исходя из простых элементов и их взаимодействий. Является ли изображение просто набором точек? Это именно так: камера видит изображение как набор точек, поэтому на самом деле она его не видит.

Tononi продолжает:

2. О теории утопической киберзанятости и оплаты труда

Киберутописты настаивают, что новые технологии, в частности искусственный интеллект, создают и будут создавать все новые и новые механизмы для улучшения нашей жизни, сокращения или упразднения тяжелой, опасной, изнурительной работы, обеспечивая нам безбедную жизнь без усилий. В представлении киберутопистов мир состоит из менеджеров, управляющих всем на свете, которые работают мало (часто очень мало), а богатства, распределяемые в виде зарплаты, волшебным образом приумножаются (в гораздо больших масштабах, чем хлеба и рыбы). Само собой разумеется, что благодаря ИИ в мире больше не будет голода, а болезни если не исчезнут, то резко сократятся (и почти все они будут излечимы). Люди будут иметь «цели без работы» и «доход без работы».

В книге Tegmark’а “Near future” («Ближайшее будущее») (глава 3, называемая, разумеется, «Ближайшее будущее») этот удивительный мир описывается на десятке страниц в разделе «Занятость и вознаграждение», где также даются ценные советы о том, какие рекомендации по карьере следует давать нашим детям, чтобы быть уверенными, что завтра они окажутся «в нужном месте с правильной подготовкой». Очевидно, что нам показывают (ближайшее) будущее, которое не требует источников, исследований и документации. Дело в том, что, даже когда документация существует и ситуация кажется предсказуемой и почти само собой разумеющейся, история идет своим путем: алгоритмы не делают историю.

В 1917 г. все бы поставили на то, что если коммунистическая, или социалистическая, революция и произойдет, то в промышленно развитой Германии, а уж никак не в отсталой и, по сути, крестьянско-феодальной России. Никто бы не поверил, что в кайзеровской Германии возможна демократия. Смысл пророчества почти банален: если оно сбудется, то мы были правы, если не сбудется, то это потому, что государства увлеклись регулированием и люди «недостаточно верили». На самом деле все говорит о том, что антиутопический мир, подобный тому, что описан в “Brave New World” («Дивном новом мире») Aldus Huxley (Huxley, 1932), – это «ближайшее будущее», пророчески гораздо более вероятное в утопическом сценарии кибернетического ИИ по сравнению со сценарием Tegmark и McAfee.

В подтверждение этого пророчества на десятке страниц и еще более длинных пророчеств в тексте МакАфи можно обратиться к книге «Эра капитализма наблюдения: Борьба за человеческое будущее на новой границе власти» Shoshana Zuboff (Zuboff, 2019), американского социолога и эссеиста, получившей докторскую степень по социальной психологии в Гарвардском университете и степень по философии в Чикагском университете. Если для подтверждения идеи вам нужны академические титулы, то вы можете прочитать 630 страниц данных, конкретной информации и реальных фактов, собранных в книге. Однако не стоит забывать и о «нобелевской болезни», т. е. о всеобщем когнитивном предубеждении, которое называется «апелляция к авторитету» в поддержку своей теории.

В своей статье «Нобелевская болезнь: Когда интеллект не защищает от иррациональности» Candice Basterfield и соавт. (Basterfield et al., 2020) рассказывают о многочисленных случаях, когда мнение научных авторитетов, даже знаменитых нобелевских лауреатов, вне их собственной области специализации оказалось неверным. Эти мнения варьировались от евгеники до расовых заболеваний, от гомеопатии до астрологии, от СПИДа и ВИЧ до аутизма! И в этом случае немного здорового здравого смысла и «гуманного» использования человеческого интеллекта могут помочь не поддаться на легкие и удобные утопические пророчества-обещания, которые – в данном случае явно – не бескорыстны, а обоснованы огромными экономическими интересами.

3. Голодный судья более жесток

Tegmark пишет, что робосудьи «могли бы также устранить те человеческие предубеждения, которые являются случайными, а не преднамеренными» (Tegmark, 2018, p. 137). Он подтверждает это следующей цитатой:

Процитированное исследование (Danziger et al., 2011a) было раскритиковано как «некорректное» в работе Weinshall-Margel & Shapard (2011), хотя в ответ Denzinger и соавт. (Danziger et al., 2011b) продолжали настаивать на своих выводах.

Возможно, эти статистические данные показывают, что лучше представать перед судом в 9 часов утра, а не в 12, и что полезно будет предложить судье круассан; но представляется несколько натянутым считать их доказательством того, что человека – который должен сам себя кормить – нужно заменить компьютером, подключенным к электрическому кабелю.

Статистические данные показывают, что человека лучше заменить компьютером, но говорить о том, что «роботы-судьи могли бы также устранить те человеческие предубеждения, которые являются случайными, а не преднамеренными», видимо, пока преждевременно.

Чтобы быть менее полемичными и придерживаться более научного подхода (в том числе и в интересах нашего будущего судьи-человека), мы должны принять во внимание – если мы считаем представленное исследование и выводы из него обоснованными, – что так называемое состояние hangry (сочетание английских слов angry – «сердитый» и hungry – «голодный») – это сложная эмоциональная реакция, вызванная сочетанием биологических особенностей, сигналов окружающей среды и личности человека. Агрессивная реакция в условиях длительного отсутствия пищи возникает не сразу, и есть два фундаментальных критерия, позволяющих определить, приведет ли оно к возникновению негативных эмоций: контекст и самосознание. Аппетит и настроение в целом очень тесно связаны между собой².

Возвращаясь к израильскому исследованию, следует сказать, что зачастую более простые дела об условном освобождении ставятся на начало дня, чтобы иметь больше времени для работы со сложными случаями. Поэтому вполне вероятно, что в более сложных делах судья принимает решение отказать в условно-досрочном освобождении, независимо от гликемического или серотонинового индекса. Возможно также, что после четырех-пяти часов умственной работы и напряженного и непрерывного внимания (как мы надеемся) общее состояние судьи подсказывало «в случае сомнений» не выпускать потенциального убийцу на свободу.

Тем не менее в каждом исследовании есть рациональное зерно. В данном случае оно касается не только судей, но и врачей, студентов и всех, кто занимается деятельностью, требующей внимания, концентрации и интеллектуальных усилий: перекусывайте каждые 2–3 часа, чтобы снизить гликемический индекс, лучше пищей, содержащей простые сахара и протеины, придерживайтесь здорового и сбалансированного питания в сочетании с физической активностью. Если вы чувствуете, что утратили равновесие, ощущаете усталость, голод, грусть и депрессию, избегайте принимать важные решения в этот момент. Это тоже интеллект, и в нем определенно нет ничего искусственного.

Заключения и не-заключения

Я заимствую это название из книги “The lie of power” («Ложь власти») Giulio Maria Chiodi (Chiodi, 1979), который был моим преподавателем философии политики. Здесь мы не обыгрываем название, чтобы поговорить о «лжи» в отношении определения «интеллекта», приписываемого алгоритмам, на основе которых вычислительные сети функционируют и перемалывают данные. В этом исследовании также не обсуждаются инструменты, с помощью которых компании новой экономики отвлекают внимание от самих себя, занимая позицию, основанную на двух постулатах: во-первых, мы саморегулируемы, потому что государственное регулирование неэффективно и вредно; во-вторых, все, что мы делаем, мы делаем для того, чтобы улучшить вашу жизнь. Именно на этих предпосылках строится теория киберутопизма.

Я заимствую название – и только его – потому, что (и это правило выходит за рамки конкретной темы упомянутой книги) критика должна заставлять нас размышлять. Она никогда не ставит точку; ее цель – вызвать дискуссию и стимулировать размышления, интеллектуально честные, как можно надеяться. Учитывая, что эта рефлексия «человеческая» и использует «человеческий интеллект» в качестве инструмента, она, по самой своей сути, содержит ошибки и упущения. Хочется надеяться, что благодаря этим ошибкам мы сможем со временем улучшить себя, как это всегда делал homo sapiens, не полагаясь на простое, казалось бы, решение – как предлагает технократический утопизм, делегировать другим (в данном случае другому, запрограммированному другими с неизвестными критериями) право «рассуждать и принимать решения за нас».

P. S.

Сказанное относится к области права и правосудия. Но это касается и всех остальных сфер человеческой жизни: развлечений, культуры, искусства, здравоохранения, управления транспортными средствами, поездами, самолетами, кораблями. Выбор, какой фильм смотреть или как реагировать на турбулентность в полете, может быть обоснованно подкреплен сложными технологическими инструментами прогнозирования, но принятие решения, действие должно оставаться за человеком. Так я думаю, с помощью своего мозга, моей личной комбинации типов интеллекта, которые работают, как и ваши, посредством химических процессов и электричества, запрограммированные в архитектуре нашей ДНК, наполовину от каждого родителя.

Я наполнен содержанием из всего, что меня окружает, из моего опыта, из того, что я читал – в той последовательности, в которой читал, из фильмов, которые я видел, из музыки, которую слушал; я соткан из людей, которых встречал, из улыбок, которые получал, и из слез, которые пролил; из пейзажей, рассветов и закатов, которые видел, и ароматов цветов, которые вдыхал. Из тел, которых я касался, из взглядов, которые встречал, и глаз, в которых отражался. Из животных и деревьев, к которым я притрагивался, и слов, которые слышал.

Все это – не просто «содержание памяти», а человеческие воспоминания, которые имеют дополнительную «ценность», называемую эмоциями и чувствами, – делает меня тем, кто я есть.

И всего этого никогда не будет у вычислительной машины, которая со своим не-интеллектом даже не знает, что все это значит.

Но вы знаете, потому что вы – люди, млекопитающие, представители вида homo sapiens, как и я.

Давайте оставаться людьми.