Защита нейроправ в эпоху нейротехнологий и искусственного интеллекта. Этические проблемы права и нейробиологии

Введение

Нейробиология занимает центральное место в дискуссиях об искусственном интеллекте (далее – ИИ) благодаря уникальному сочетанию разнородных факторов. Самые значимые из них – это невероятные революционные открытия последних пятидесяти лет, понимание связи между моделью мозга и вычислительной моделью и особой роли мозга как вместилища разума и личности.

Наиболее очевидные теоретические выводы из открытий в области нейробиологии относятся к базовой модели, которая имитируется при разработке компьютерных сетей (называемых нейронными сетями). При этом непосредственные приложения открытий в области нейробиологии получили название нейротехнологий (далее – НТ).

Теоретическая модель дала толчок развитию искусственного интеллекта, который в настоящее время было бы более уместно охарактеризовать как «гипервычислительные способности»; в то же время нейротехнологическая модель неразрывно связана с механизмами и системами ИИ. Поэтому центральным в дискуссии на тему «этики ИИ» является, по-видимому, рассмотрение критических аспектов использования НТ, которые, таким образом, затрагивают критические аспекты ИИ в области нейробиологии.

Цель данной статьи – обобщить нейробиологические знания и опыт о нейротехнологиях и нейропсихологических (а также смежных аспектах искусственного интеллекта и управления данными), правовых, этических и социальных последствиях их применения; дать возможные предпосылки для критического обсуждения проблемы правового регулирования.

Статья не претендует на исчерпывающий анализ, но обозначает наиболее спорные и важные моменты, на которые следует обратить пристальное внимание с точки зрения определения явления, прежде чем переходить к нормативным вопросам. Возможно, впервые в истории человеку пришлось поставить проблему точного определения прав, которые считались само собой разумеющимися до такой степени, что в их определении даже не было необходимости. Ранее в философии не ставились вопросы о том, кому принадлежит мозговая деятельность человека, какие меры защиты и ограничения с ней связаны, а также каковы ее компоненты. Сегодня крайне необходимо размышлять об этом, поскольку технологическая сфера развивается быстрее, чем юридические дисциплины, на основе которых она функционирует.

Междисциплинарное взаимодействие с нейротехнологиями сочетает в себе различные методологические подходы и опирается на сильные стороны каждого из них. Данный обзор охватывает самые известные работы по каждой дисциплине, что позволяет оценить эффективность, угрозы и потенциал различных типов нейротехнологий в отношении отдельных лиц, конкретных социально-демографических групп и сфер общественной жизни.

Актуальность поднятой темы подтверждается интенсивными обсуждениями, а также комментариями к предложениям в сфере регулирования, которые публикуются в специализированных журналах с участием многочисленных исследователей из различных областей науки (см., например, следующие основополагающие работы: П. С. Гуляева, Д. В. Бахтеев и А. А. Шутова; А. А. Шутова и И. Р. Бегишев; Е. А. Алферова, опубликованные в 2023 г.).

Результаты исследования

Нейробиологический подход

После когнитивной революции (Gardner, 1987) развитие нейробиологии, вероятно, является той областью, в которой интеграция сквозных специализаций наиболее заметна. Термин «нейробиология» исторически относится к комплексу дисциплин, изучающих различные морфофункциональные аспекты нервной системы по многочисленным направлениям биомедицинских исследований: от нейрофизиологии до фармакологии, от биохимии до молекулярной биологии, от клеточной биологии до нейрорадиологии. Исторически они возникли, когда нейрон был выделен как автономная и функционально независимая клеточная единица нервной системы. Исследования, проводимые с целью определения свойств нейрона, опираются на достижения различных дисциплин, в частности на методики измерения ионных и молекулярных смещений на субклеточном уровне, а также благодаря оригинальным подходам в психофармакологии на знания об интегрированных системах, лежащих в основе поведенческих реакций у человека.

Одной из главных тем, обсуждавшихся философами и учеными в XX в., был вопрос о том, являются ли «психические» действия, такие как мышление, эмоции, самосознание и воля, функциями, отличными от «церебральных» действий, таких как движение конечностей, восприятие цвета и т. д., или они также представляют собой функциональное выражение нейронов, составляющих мозг. В свете современных знаний ученые, занимающиеся многочисленными разделами нейробиологии, считают искусственным различие между психической и церебральной деятельностью.

На самом деле психическая и церебральная деятельность – это уникальное и неделимое проявление деятельности нейронов и глиальных элементов, составляющих мозг. Хотя эти виды деятельности отличаются по качеству и способам проявления, они обусловлены единым механизмом, с помощью которого нейроны связываются друг с другом и с остальным организмом. Согласно этой концепции, так называемая психическая деятельность должна рассматриваться как эмерджентное свойство, результат настолько сложной суммы более простых видов деятельности нейронов, что она представляет собой количественный скачок, который, по существу, еще не поддается расшифровке.

Таким образом, междисциплинарные и мультидисциплинарные подходы в будущем позволят выяснить механизмы, с помощью которых нейроны, организованные в трехмерные структуры различной природы и величины, обрабатывают поступающую информацию, хранят ее, если необходимо, и выдают поведенческий ответ.

Эти исследования также уже сейчас дают принципиально важную информацию о природе таких чрезвычайно сложных психических явлений, как сознание, воля и память, составляющих основу третьего уровня функций мозга.

В связи с этим неудивительно, что все больше нейробиологов и междисциплинарных исследовательских групп, занимающихся нейробиологией, изучают проблемы человеческого разума, от сознания до свободы воли, и пытаются заново определить такие основополагающие понятия, как жизнь, смерть, интеллект, бессознательное, память, а также аутизм, найти нейронные корреляты и нейрофизиологические основы психологических теорий.

Нейротехнологии и нейроправа

Достижения в области нейротехнологий привели к расширению использования и доступности нейротехнологий, которые позволяют регистрировать, анализировать и манипулировать мозговой активностью с помощью нейротехнологических устройств.

Нейротехнологии необходимы для восстановления и сохранения физиологического и психического здоровья, а значит, и качества жизни клинических пациентов. Однако технологический прогресс и результаты исследований привели к тому, что эти технологии стали применяться и вне клинических ситуаций. Например, улучшение когнитивных функций используется в трудовой, образовательной и развлекательной деятельности, при этом устройства потребительского уровня доступны для свободного приобретения и самостоятельного использования.

Поскольку устройства могут быть взломаны, а данные, как правило, хранятся в корпоративных облачных сервисах, расположенных в основном за пределами ЕС, возникает вопрос о безопасности данных. Хакерские атаки могут нанести психологический и физиологический вред и поставить под угрозу психологическую идентичность пользователей. Использование таких устройств в трудовой и образовательной деятельности требует явно выраженного согласия пользователей и жесткого регулирования, поскольку существует опасность выгорания, повышения уровня стресса и злоупотребления со стороны властей и частных компаний. Кроме того, благодаря высокой репутации нейробиологии и большой притягательности нейротехнологических устройств в этой области возникает множество мифов и завышенных ожиданий, а также это делает пользователей нейротехнологий весьма подверженными манипуляциям.

Первые дебаты о нейроправах с точки зрения биологического подхода привели к тому, что в 2017 г. были предварительно определены пять основных нейроправ: право на конфиденциальность в психологической сфере, право на личную идентичность, право на свободу воли, право на равный доступ к улучшениям в сфере психики и право на защиту от алгоритмической предвзятости. Права указывают на те вмешательства и ограничения в отношении человека, которые расцениваются как несправедливые. Это относится не только к отдельным индивидуумам, но и ко всем людям в рамках социально-политической структуры, что подчеркивает такие аспекты, как солидарность, совместное самоопределение и равенство.

Этические проблемы нейротехнологий

Устройства потребительского уровня довольно просты в использовании и не требуют специальных знаний для работы. Следовательно, необходимо установить новые правила, главным образом в области конфиденциальности, обработки информации, доступа к функциям и данным. Самосовершенствование становится приоритетным по отношению к другим организационным и институциональным целям в ущерб другим ценностям и социальным отношениям. В этом контексте, безусловно, необходимо переосмыслить то, как в обществе конструируется понятие ограниченных возможностей здоровья. Однако не все НТ функционируют вне организма; некоторые из них должны быть хирургически имплантированы в мозг. Общество пока не до конца понимает различия в инвазивности, рисках, осложнениях, побочных эффектах и сложности соблюдения требований в отношении инвазивных и неинвазивных НТ.

Последствия применения того или иного типа нейротехнологий многообразны и кардинально различны. С этической точки зрения нейротехнологии требуют особого внимания, так как реальным полем их действия является мозг. Вмешательства и манипуляции с мозгом обладают огромным разрушительным потенциалом, поскольку влияют на автономные действия и самовосприятие человека.

Кроме того, в случае с устройствами, используемыми для повышения эффективности вне медицинской сферы, важно рассмотреть, какие изменения они могут вызвать в обществе, какие последствия они могут иметь, в какой степени эти устройства предлагают улучшение жизни людей в реальном выражении и какова цена этих улучшений.

Нейротехнологии

1. Инвазивные нейротехнологии

Использование инвазивных НТ требует проведения нейрохирургических операций, в ходе которых электроды или устройства для стимуляции помещаются непосредственно на мозг или внутрь него. Существуют нейротехнологии различной степени инвазивности. Электродные решетки, размещенные в экстрадуральном пространстве, менее инвазивны, поскольку не перфорируют ткани мозга и их легче удалить. Датчики, размещенные в субдуральном пространстве, а также те, которые перфорируют ткань мозга (например, система Neuralink Илона Маска), значительно более инвазивны (Yadav et al., 2020).

Одним из наиболее часто используемых инвазивных методов является глубокая стимуляция мозга, которая осуществляется с помощью имплантируемого генератора импульсов (далее – ИГИ), посылающего импульсы для модуляции мозговых цепей и измерения патологической активности мозга. Это одно из самых важных устройств в клинической нейробиологии, разработанных за последние два десятилетия (Lozano et al., 2019). Его применение показано, например, при болезни Паркинсона, глубокой депрессии и обсессивно-компульсивном расстройстве (Cagnan et al., 2019). Их использование неуклонно увеличивается; по оценкам, во всем мире было имплантировано 244 000 таких устройств (Wong et al., 2022). Однако следует понимать, что до сих пор не до конца ясно, как работает эта технология и какие именно нейронные эффекты она вызывает (Zarzycki & Domitrz, 2020).

Еще один часто используемый метод – имплантируемые системы интерфейса мозг-компьютер (далее – ИМК); они регистрируют и интерпретируют мозговую активность с помощью электродов, размещенных на мозге, и дают пациентам возможность общаться и двигаться с помощью активации мозга без мышечной активности. Этот метод применяется, например, у пациентов с боковым амиотрофическим склерозом или квадриплегией (Abdulkader et al., 2015).

Пациенты могут управлять устройствами с контролируемыми паттернами активации мозга с помощью индивидуально адаптированных систем. При этом системы интерфейса мозг-компьютер обучаются для конкретного пользователя (Abdulkader et al., 2015). Управлять можно не только компьютерами и нейропротезами; пациенты с имплантированными устройствами ИМК могут чувствовать прикосновения и ощущения полностью роботизированных рук (Ganzer et al., 2020).

Инвазивные НТ позволяют напрямую стимулировать и регистрировать активность отдельных групп нейронов с высокой степенью точности и специфичности. С помощью инвазивных методов можно достичь более глубоких областей мозга, активность которых не регистрируется с поверхности головы (Manahan-Vaughan, 2018). Глубокая стимуляция мозга считается обратимой технологией, т. е. после отключения генератора импульсов первоначальные когнитивные и моторные проявления восстанавливаются (Alomar et al., 2017).

Хирургические процедуры, необходимые для имплантации инвазивных НТ-устройств, не лишены потенциальных рисков. Они делятся на периоперационные (например, судороги, кровотечение), послеоперационные (например, синяки, изменения в поведении), технические (например, отказ электродов, неисправность генератора импульсов) и вызванные стимуляцией побочные эффекты (например, дизартрия, спутанность сознания).

Помимо физиологических побочных эффектов, пациенты, пользующиеся инвазивными методами НТ, также подвергаются риску различных психологических последствий. Поскольку эти инвазивные устройства затрагивают фундаментальные аспекты личности, они могут вызывать значительный уровень стресса и страха, а также искажения самопрезентации и идентификации себя как субъекта действия. Некоторые пациенты сообщают об изменениях личности и чувстве потери себя при стимуляции мозга (Baylis, 2013).

Риски при хирургических операциях и реакция окружения пациента могут влиять на личностные факторы (Gilbert et al., 2017), что приводит к необходимости проведения их адекватной психологической подготовки. Предпринимались попытки предхирургической подготовки с помощью виртуальной реальности (Iamsakul et al., 2017). Результаты глубокой стимуляции мозга неоднозначны: у ряда пациентов с имплантами отмечается косвенное положительное влияние на обучение и память (Suthana & Fried, 2014), в то время как другие сообщают о нарушениях исполнительных функций (Martínez-Martínez et al., 2017) и беглости речи (Ehlen et al., 2014).

Возможные риски и осложнения таких операций также являются причиной того, что инвазивные НТ до сих пор имеют очень ограниченную сферу применения в случаях крайней медицинской необходимости. Для улучшения функций здоровых людей используются неинвазивные методы.

В этом смысле компания Neuralink Илона Маска предпринимает серьезные усилия, чтобы изменить американские медико-клинические нормы и ограничить применение инвазивных устройств клинической практикой, тогда как улучшения работы мозга здорового человека проводились бы путем имплантации чипов Neuralink.

Управление по санитарному надзору за качеством пищевых продуктов и медикаментов США первоначально возражало против этого из-за рисков безопасности, однако в мае 2023 г. чипы Neuralink были одобрены для тестирования в клинических ситуациях (исследование PRIME; клиническое испытание Neuralink) после предварительных исследований на животных (Drew, 2024). На своем сайте компания Neuralink пишет об этом «клиническом этапе» как о шаге на пути к получению разрешения на имплантации здоровым людям.

2. Неинвазивные нейротехнологии

В отличие от инвазивных НТ, электроды или оптоды неинвазивных НТ-устройств лишь поверхностно прикрепляются к коже головы с помощью, например, электродных шапочек или повязок. Они измеряют колебания электрического тока на коже головы (Angrisani et al., 2017) или насыщенность кислородом участков коры головного мозга (Mihara & Miyai, 2016). Кроме того, можно проводить неинвазивную электромагнитную стимуляцию мозга с помощью таких процедур, как транскраниальная магнитная стимуляция и транскраниальная электростимуляция. Нейронную активность можно модулировать, подавая небольшие магнитные импульсы, постоянный ток, переменный ток или проводя электростимуляцию фоновым шумом (Cinel et al., 2019).

Известный неинвазивный метод с использованием нейротехнологий – это нейрофидбэк (далее – НФ), специфическая форма биологической обратной связи, в которой пользователи учатся модулировать активацию своего мозга, получая визуальную, слуховую или тактильную обратную связь. Ранее этот метод использовался для уменьшения симптомов синдрома дефицита внимания с гиперактивностью (далее – СДВГ), укрепления и тренировки когнитивных функций, например, у пациентов с инсультом или рассеянным склерозом, а также во многих других случаях (Marzbani et al., 2016).

С помощью неинвазивных приложений ИМК пользователи учатся управлять внешними устройствами, например протезами или устройствами для воспроизводства речи (Guy et al., 2018). Существуют и «потребительские» устройства нейростимуляции, производители которых обещают пользователям снижение депрессии¹ или повышение внимания и концентрации².

Еще один метод, основанный на неинвазивном НТ, – это интерфейс «мозг-мозг» для человека (BBI или B2BI) (Jiang et al., 2019). Здесь информация извлекается из «мозга-отправителя» и передается «мозгу-получателю» путем комбинирования нейровизуализации и стимуляции. Таким образом, мозг может напрямую общаться с мозгом другого человека. Эти устройства варьируются от самых простых, в которых участники получают информацию от мозга другого человека и дают ответы вручную с помощью клавиатуры, без участия устройства, управляемого мозговой активностью, до очень сложных, в которых коммуникация основана исключительно на НТ (Rao et al., 2014).

Примером такой системы BBI является устройство BrainNet. Большинство предыдущих конфигураций были однонаправленными, и лишь некоторые позволяли осуществлять двустороннюю связь. Однако такую коммуникацию не следует понимать как передачу мыслей между людьми, а лишь как своего рода задачу на классификацию³.

Этот аспект применения НТ-устройств затрагивает область реабилитационной поддержки «терапевт-пациент». Здесь также возникает вопрос конфиденциальности и психологической безопасности. По этическим соображениям и соображениям безопасности неинвазивные устройства пока используют только со здоровыми людьми (Jiang et al., 2019).

Помимо клинических и экспериментальных исследований, неинвазивные методы могут применяться и обычными пользователями. Коммерчески доступные устройства потребительского типа можно приобрести и использовать без наблюдения специалиста для различных целей, таких как релаксация⁴ и улучшение когнитивных способностей. Под последним термином понимается улучшение психических, в первую очередь когнитивных, способностей, таких как интеллект, внимание или креативность у здоровых людей (Nagl-Docekal & Zacharasiewicz, 2022).

Таким образом, естественные пределы возможностей человека расширяются (Almeida & Diogo, 2019). Это может быть тренировка когнитивных функций или повышение нейронной эффективности, т. е. исполнительных функций, памяти, языка или обработки визуально-пространственной информации (Antal et al., 2022), а также помощь в медитации, релаксации или любой другой форме самопознания или оздоровления. Они также используются в реабилитационных клиниках для лиц, перенесших инсульт, страдающих рассеянным склерозом, СДВГ и другими заболеваниями (Marzbani et al., 2016). Однако использование неинвазивных устройств также сопряжено с некоторыми рисками, которые часто упускают из виду.

Поскольку неинвазивные методы оказывают только поверхностное воздействие на кожу головы, регистрировать активность и стимулировать можно только участки коры, но не более глубокие области мозга. Это также обусловливает различные области применения.

При внешней записи сигнал ЭЭГ на скальпе сильно зависит от движений тела, головы и глаз (Wexler & Thibault, 2019). Кроме того, сигнал может искажаться от натяжения кабелей и механического давления на электроды. Поэтому данные ЭЭГ, полученные в более естественных условиях, когда пользователям разрешено двигать глазами, головой и даже всем телом, имеют помехи, которые нелегко отличить от активности мозга⁵.

Спектроскопия в ближней инфракрасной области (NIRS) более эффективна, чем ЭЭГ на скальпе. Это неинвазивный метод, при котором ближнее инфракрасное излучение подается на кожу головы через оптоды и измеряется непоглощенный свет. Ряд параметров показывает степень насыщенности крови кислородом в определенных областях мозга. С помощью этого метода можно определить уровень активности участков мозга. На результаты не сильно влияет движение, однако метод очень чувствителен к освещенности.

Одна из главных проблем в области коммерческих НТ заключается в том, что их возможные негативные побочные эффекты еще мало изучены. Признание этой проблемы научным сообществом (Ros et al., 2020; Thibault & Raz, 2017) пока не повлияло на популяризацию и реализацию этих вмешательств. В научных публикациях в основном лишь приводятся данные о том, почувствовали ли участники исследования какой-либо эффект. Нечасто можно встретить сообщения о нескольких различных аспектах когнитивной функции или об их тестировании (Kober et al., 2015; Thibault & Raz, 2017).

Хотя и редко, но существуют свидетельства того, что, например, тренировки с использованием технологии нейрофидбэк могут вызывать негативные последствия для пользователей. Так, было обнаружено снижение кратковременной и долговременной памяти после НФ-тренировки (Kober et al., 2015). Это может быть связано с перераспределением когнитивных ресурсов в процессе обучения, т. е. повышение показателей в одной области сопровождается снижением показателей в другой (Sturm et al., 1997). В исследовании транскраниальной электростимуляции было показано, что усиление когнитивных функций с помощью этого метода приводит к нарушениям когнитивных функций в зависимости от конкретной функции и области мозга, которая подверглась стимулированию (Iuculano & Kadosh, 2013).

Кроме того, недостаточное количество лонгитюдных исследований и последующих наблюдений приводит к тому, что пока практически ничего неизвестно о долгосрочных и, возможно, негативных эффектах применения неинвазивных НТ⁶.

Другая проблема – ненадежность коммерческих систем ЭЭГ при использовании данных низкого качества. Результат работы с данными НТ адекватен лишь настолько, насколько позволяют технические характеристики устройств. Когда кабели плохо изолированы, окружающие помехи не учитываются должным образом, например, помехи от линии электропередачи, алгоритм классификации включает все эти шумы в свои расчеты, и адекватная обратная связь невозможна. Устройства, предназначенные для улучшения и дополнения функций мозга, регулируются поверхностно; отсутствуют строгие требования к измерению сигналов мозга с минимальным уровнем качества. Некоторые коммерчески доступные устройства в основном регистрируют поверхностные явления. Так, Emotive или Muse регистрируют в большей степени данные с поверхности лица, чем мозговую активность, поскольку электроды располагаются непосредственно на лицевых мышцах (Whitham et al., 2007). Сухие электроды предпочтительнее влажных, которые показывают более высокий уровень помех и более высокое сопротивление (Mathewson et al., 2017). Остается открытым вопрос, может ли это также привести к негативным последствиям. В своем обзоре потребительских устройств Wexler & Thibault (2019) пришли к выводу, что не существует надежных доказательств того, что эти приборы действительно регистрируют активность мозга или корректно отражают состояния и деятельность мозга.

Особенную проблему представляет сочетание высокого риска получения ложноположительных значений с низкой стабильностью показателей. Это говорит о наличии аномалии в мозговых волнах, однако после нескольких сеансов обучения технология НФ показывает спонтанную ремиссию (Wood et al., 2024).

Компьютерная безопасность и конфиденциальность

Одной из главных этико-правовых проблем, связанных с использованием нейротехнологий, является, как и в случае с любой другой современной цифровой технологией, риск кибератак и взлома. Это касается не только инвазивных, но также (и в большей степени) неинвазивных систем.

НТ обрабатывает множество конфиденциальных данных пользователя, таких как информация о мозговой активности, о возможных проблемах со здоровьем, о концентрации внимания и т. д. (Li et al., 2015). Это может привести к PIN-майнингу (Martinovic et al., 2012), краже личных и иных данных (Li et al., 2015). В 2016 г. для этой угрозы был предложен термин «перехват мозговой активности», т. е. «возможность для злоумышленников осуществлять контроль над мозгом через имплантаты» (Pycroft et al., 2016). Исследователи описывают две различные категории атак – слепые и целенаправленные – и указывают на рост числа потенциальных методов атак вместе с увеличением сложности инвазивных методов лечения с использованием НТ.

Передача данных может осуществляться по беспроводной связи, что представляет угрозу безопасности. В работе исследовательской группы под руководством Sundararajan проверялась безопасность портативной системы для ЭЭГ Emotiv Insight, которую можно свободно приобрести и использовать с помощью приложения для смартфона через Bluetooth Low Energy (Bernal et al., 2022). Исследователи смогли провести атаку по «методу посредника», т. е. заставили ИМК перехватывать и изменять информацию. Перехваченные данные также можно было изменить и отправить обратно в систему, при этом заблокировав передачу реальных данных, т. е. устройство оказалось отключено от смартфона.

Такие атаки возможны, даже если данные зашифрованы. Можно сохранить данные и получить личную информацию. Когда речь идет о приложениях ИМК на базе смартфонов, риски вытекают уже из проблем безопасности смартфонов. Появляется возможность получать, передавать и анализировать личные данные, поэтому пользователи таких устройств могут подвергаться хакерским атакам (Li et al., 2015). Даже при отсутствии серьезных или долгосрочных последствий они неприятны и несут высокий психологический риск (Pycroft et al., 2016).

Предлагаются различные меры противодействия, например, периодическое обновление прошивки, стандартизация процессов производства НТ-устройств, регистрация таких устройств, уведомления об ошибках. Кроме того, встроенное программное обеспечение большинства ИГИ предусматривает блокировку проблемных и опасных параметров кардиостимуляции. Смогут ли злоумышленники обойти эти меры, пока неизвестно.

Большинство из этих проблем более серьезны и актуальны для инвазивных устройств на основе нейротехнологий. В связи с этим нужно различать записывающие и стимулирующие устройства. Записывающие устройства в основном связаны с риском кражи данных и угроз безопасности, как было показано выше, или с манипуляциями с устройством, в результате которых оно перестает функционировать должным образом. Однако бывают ситуации, когда устройства, предназначенные для работы в качестве записывающих, могут быть использованы в качестве стимулирующих и наоборот. Изучение этих сценариев имеет важнейшее значение для смягчения последствий так называемых нейропреступлений (Ienca et al., 2022). До сих пор не было отмечено ни одного случая «перехвата мозговой активности» вне исследовательского контекста. Были зарегистрированы только случаи повреждающего действия имплантируемых инсулиновых помп и дефибрилляторов сердца (Markosian et al., 2020).

«Очарованность нейротехнологиями» и манипулирование

В постиндустриальных обществах нейробиологии придается большое значение, поскольку в культуре мозг рассматривается как материальный локус самосознания и разума индивидуума. Поэтому возможность построить модель мозговой деятельности человека и напрямую взаимодействовать с мозгом вызывает огромный интерес (Littlefield, 2018).

Высокая репутация нейробиологии и нейроустройств (Giattino et al., 2019) не мешает распространению так называемых нейромифов, т. е. популярных, но неверных с научной точки зрения убеждений о работе мозга (van Elk, 2019). В литературе это направление называется «нейромистицизмом»; определение ему дали Armin Raz с соавт. (Ali et al., 2014).

Помимо ошибочных и устойчивых убеждений, в некоторых рассуждениях также игнорируются научные факты. Это явление получило название «интуитивная метафизика». Оно состоит в том, что интуитивная приверженность конкретным убеждениям, таким как свобода воли, преобладает над научными фактами в процессе принятия решений. Интуитивные представления людей об индетерминистской свободе воли привносятся в их представления о нейробиологических сценариях (Rose et al., 2017). Так, в одном из экспериментов участники столкнулись с гипотетическим сценарием, в котором ученые дали идеальный и детерминированный прогноз поведения человека. Несмотря на эту информацию, участники были убеждены, что даже в случае идеального прогноза люди могли принять иное решение, руководствуясь своей свободной волей.

Это явление представляет собой серьезную проблему, которая в большинстве случаев остается без внимания. «Очарованность нейротехнологиями» – это явление, при котором люди с большой вероятностью верят утверждениям, что тот или иной продукт способен измерять, стимулировать мозговую деятельность или иным образом взаимодействовать с мозгом (Ali et al., 2014).

Об этом свидетельствует множество товаров, даже не связанных с конкретной областью нейротехнологий, таких как NeuroRoundbrush, NeuroGum, NeuroWater или NeuroSocks, которые продаются в магазинах и онлайн. Такая реклама срабатывает даже для студентов вузов, которые изучают нейробиологию и знают, что подобные продукты не могут работать с научной точки зрения. Так, в одном из экспериментов студенты-инженеры знали, что чтение мыслей невозможно, но не стали более подозрительно относиться к предполагаемой машине для чтения мыслей (Ali et al., 2014). Более того, как показали Olson с соавт., когда участников заставили поверить в то, что машина может оценить их отношение к какой-либо теме, они больше доверяли оценке машины, а не собственной оценке своего отношения (Olson et al., 2023).

Подобные исследования ярко показывают, как легко манипулировать человеческим сознанием с помощью НТ, хотя бы в простом экспериментальном контексте. В связи с этим возникает вопрос о том, как маркетинговые кампании и нейротехнологии на уровне потребителя могут влиять на наши решения, мнения, на чувство собственной значимости и свободы воли.

Такие эксперименты также свидетельствуют, насколько НТ-устройства угрожают способности пользователей к вынесению оценок. Можно только предполагать, как такие манипуляции подействуют вне экспериментального контекста на обычных людей без каких-либо предварительных знаний в области неврологии.

Такое слепое доверие к НТ-устройствам может иметь фундаментальные последствия. Например, в Индии при допросах подозреваемых в преступлениях используется профилирование по сигналам электрических колебаний головного мозга (BEOS), аналогичное проверке на полиграфе, хотя надежность этой технологии не была доказана (Conitzer et al., 2019).

Нейротехнологии обещают такие заманчивые перспективы в отношении взаимодействия с мозгом, что критическое мышление зачастую не включается. Но оно очень важно для принятия решений, которые должны основываться на конкретных свойствах этих специфических технологий.

При обсуждении нельзя смешивать инвазивные и неинвазивные технологии, поскольку их свойства и возможности существенно различаются. В публичной коммуникации о НТ эти различия часто размываются и возникает особый механизм, который мы называем переносом репутации между инвазивными и неинвазивными нейротехнологиями. Сравнение типичных свойств инвазивных и неинвазивных нейротехнологий выявляет взаимодополняющую картину полезных и нежелательных свойств обоих типов нейротехнологий.

Понятие переноса репутации, как видно из его названия, описывает смешение свойств различных групп технологий. Результатом обычно становится представление о преобладании положительных черт и игнорирование отрицательных. Акцент на положительных характеристиках еще более усиливается за счет оптимистичного тона, часто свойственного публичным сообщениям о НТ.

В позитивном контексте много говорится о полезных свойствах нейротехнологий, в то время как нежелательные свойства остаются практически без внимания. Более того, неудачи этих технологий легко забываются или переосмысливаются как успехи⁷. Сила убеждения в отношении НТ такова, что пользователи рискуют стать объектом манипуляций, поверив в технологии, которые работают не так, как обещано.

Обучение пользователей, производителей и специалистов, повышение грамотности в области нейротехнологий является важным шагом в обеспечении их безопасного использования.

Социальные последствия нейротехнологий

Пока что преобладающей областью применения НТ в социальной сфере является здравоохранение. В целом ожидается, что нейротехнологии будут использоваться во многих ситуациях, например для купирования тремора при болезни Паркинсона, для реабилитации после инсульта, при болезни Альцгеймера, обсессивно-компульсивных расстройствах и борьбе с зависимостями. Нейротехнологии считаются медицинскими инструментами, хотя и не лишенными проблем; однако потенциально их применение выходит за рамки здравоохранения. Для рассмотрения их социально-политического и социокультурного влияния на жизнь общества сосредоточимся на трех приоритетных областях: образовании, трудовой деятельности и развлечениях.

Образовательный сектор подвержен технологическим преобразованиям во многих аспектах (Jarke & Breiter, 2019). Возможное развитие и использование НТ в образовательных контекстах поднимает фундаментальные вопросы о цели и смысле образования, о том, как понимать обучение и какими навыками должны обладать учащиеся в будущем (Macgilchrist et al., 2024; Rahm, 2023a).

Что касается трудовой деятельности, то потенциальные негативные и позитивные последствия для работников и компаний, когда речь идет о разработке НТ, требуют тщательного рассмотрения. Поскольку трудовая деятельность занимает центральное место в жизни многих людей, особые и уникальные риски, возникающие на рабочем месте (Moradi & Levy, 2020), а также постоянно растущее размывание границ между рабочим местом и частной сферой требуют тщательной оценки последствий.

Риски и возможности в сфере развлечений часто недооцениваются, однако эта область также важна в процессе того, как технологии становятся нормой и внедряются в жизнь человека.

Сила нарративов, определяющих развитие технологий и политики

Социологический подход к нейротехнологиям позволяет оценить дискурсы, нарративы и надежды, связанные с НТ и их внедрением в различных контекстах. Рассуждения «об искусственном интеллекте (ИИ) в бытии» (Bareis & Katzenbach, 2022) основаны на предположении, что проектирование цифровых технологий – это процесс не только технической разработки, но и вплетения их в более широкие социально-политические, экономические и культурные практики. Например, исследование политических дискурсов об ИИ и предполагаемого распределения ресурсов, инфраструктуры и организационных проектов демонстрирует, что в формировании так называемого хайпа вокруг ИИ ключевую роль играют факторы технологического развития, политики и дискурса. Это может способствовать смещению приоритетов в сторону от трезвых оценок рисков и потенциала. Существует также риск позиционирования роста искусственного интеллекта как неизбежного пути технологического развития.

В недавнем комментарии Lucy Suchman критикует безусловное позиционирование искусственного интеллекта как повсеместного и вездесущего. В политической и научной литературе много внимания уделяется противоречиям, связанным с ИИ, в ущерб рассмотрению проблем, создаваемых самим искусственным интеллектом (Suchman, 2023).

Эти исследования ставят вопрос, допустимо ли использовать «хайп» для формирования общественного понимания того, что представляет собой технология и ее возможности. Аналогичным образом нейропсихологи вводят термин «нейрохайп» для описания эмпирически обоснованного явления, при котором завышенные обещания заставляют людей верить в возможности НТ, даже не имея научных оснований для этого (Ali et al., 2014).

В целом эти исследования показывают, что нарративы, дискурсы и представления о потенциальном влиянии технологий совместно создают «режим предвосхищения» (Adams et al., 2009), на который политические деятели вынуждены реагировать путем разработки нормативно-правового регулирования.

Проблемы и задачи, возникающие в связи с развитием нейротехнологий, имеют сходство с таковыми при развитии искусственного интеллекта. Это происходит не в последнюю очередь потому, что в НТ часто применяются системы искусственного интеллекта для анализа данных, а также из-за их предполагаемой способности делать выводы о чертах характера, эмоциональном состоянии и поведении людей.

В последние три десятилетия ученые стали исследовать феномен «воображаемых представлений», особенно в отношении технологического развития. По мнению Rahm (2023b), это позволяет проанализировать, как человек понимает проблемы и их решения, а также возможные последствия. Jasanoff и Kim (2015) определяют этот феномен как «коллективные, институционально стабилизированные и публично представленные суждения о желаемом будущем <...>, которое является достижимым благодаря научно-техническому прогрессу и поддерживает его». В данном случае в центре внимания находятся коллективные взгляды и их институциональная поддержка.

Принимая развитие искусственного интеллекта в качестве стимула для изучения использования НТ в различных контекстах, необходимо рассмотреть амбивалентные социальные последствия технологий, основанных на данных. Хотя НТ обладают как положительным, так и отрицательным потенциалом в различных сферах, мнения о том, где и как проявятся эти возможности и риски, значительно варьируются от страны к стране.

Поэтому (потенциальные) социальные последствия нейротехнологий должны рассматриваться с учетом различных социотехнических представлений в разных социальных сферах. Социальные последствия НТ отражают существующие опасения по поводу использования технологий, основанных на данных, в различных социальных сферах. Поэтому мы вновь рассмотрим такие сферы, как образование, трудовая деятельность и развлечения.

Образование. Внедрение искусственного интеллекта и других систем, основанных на данных, в образовательный контекст часто сопровождается обещанием удовлетворить разнообразные потребности учащихся. Однако развитие этих технологий подвергается критике за ограниченное представление о том, что такое обучение и образование (Selwyn, 2022). Благодаря внедрению этих технологий ответственность за обучение и успеваемость делегируется отдельному учащемуся, вместо того чтобы поддерживать социальные отношения как часть образовательного процесса (Macgilchrist et al., 2024).

Трудовая деятельность. Использование систем, основанных на данных, создает множество проблем; они увеличивают возможности наблюдения за работниками и создают новые возможности для измерения и оценки их деятельности (Ajunwa et al., 2017; Manokha, 2020). Технологии на основе искусственного интеллекта часто внедряются для повышения благополучия работников. В соответствующей литературе критикуется тот факт, что благополучие ставится в зависимость от производительности (Hull & Pasquale, 2018), что ограничивает возможности его достижения на рабочем месте (Tirabeni, 2023).

Развлечения. Стремление к датафикации, повсеместному сбору и использованию данных также связано со сферой развлечений. Поскольку интернет вещей (IoT) и другие сенсорные устройства все чаще используются в развлекательных функциях, они могут собирать данные о пользователях, включая их поведение (Hallur et al., 2021).

Таким образом, необходимо изучить и проанализировать существующие в обществе представления о внедрении таких НТ.

Что такое социальная проблема? Как технологии участвуют в конструировании социальных проблем?

Чтобы социальное явление было воспринято как социальная проблема, оно должно быть коллективно определено как таковое и соответствовать пониманию нормы, которой придерживается группа людей (Spector & Kitsuse, 2001). Конструирование социальной проблемы зависит от участников этого процесса и их положения в обществе.

Технологическое развитие играет определенную роль в совместном конструировании социальных проблем, поскольку оно часто опирается на проблематизацию для обоснования своего подхода.

Так, социальная модель инвалидности опровергает распространенный взгляд на инвалидность как на медицинскую проблему или проблему отдельного человека (Beckett & Campbell, 2015; Goering, 2015). Вместо этого она возлагает на общество ответственность за создание условий, приводящих к снижению возможностей человека с инвалидностью. Недавние успехи в развитии искусственного интеллекта подвергаются критике, поскольку они основаны на наследии технологий «абилизма», которые делают инвалидность проблематичной и нуждающейся в технологическом решении. Понятие «техноабилизм» было введено для описания «представления об инвалидности, которое одновременно говорит о расширении возможностей инвалидов с помощью технологий и в то же время укрепляет клише абилизма о проблемах психосоматики и ценности человека» (Shew, 2020). Поскольку НТ направлены на улучшение и расширение человеческих возможностей или на решение медицинских задач, очень важно рассмотреть, как они способствуют формированию концепции и проблематизации несовершенства человека.

Что касается политэкономии производства технологий, концепция «переноса сфер деятельности» показывает, как крупные игроки технологического сектора позиционируют себя в качестве экспертов в различных областях (Taylor et al., 2023). В результате технология, произведенная для определенной цели, коммерциализируется и используется в других областях (Sharon & Gellert, 2023). В качестве примера можно привести распространение в школьном образовании программного обеспечения, созданного для коммерческих целей. Согласно этому подходу, сильное демократическое общество опирается на разделение различных социальных сфер. Если компания или социальный субъект получает власть в нескольких сферах, это наносит ущерб социальной сплоченности и демократии в целом.

Школьное обучение и образование

В сфере образования нейротехнологии могут использоваться для измерения уровня концентрации учащихся. Такое измерение может проводиться с помощью наушников и должно способствовать улучшению обучения.

В педагогической литературе рассматривается ряд вопросов, связанных с доступностью и использованием нейронных данных. С одной стороны, это касается компьютерной безопасности, если надежность систем вызывает сомнения. С другой – существует риск использования данных в непредусмотренных целях, например, коммерческих. В литературе поднимается вопрос о принятии решений и получении согласия родителей или законных представителей учащихся.

Помимо проблем с данными, исследователи предупреждают о возможности манипуляций. Поскольку мозг детей развивается, неясно, как он будет реагировать на нейротехнологии: до сих пор недостаточно изучены побочные эффекты, повреждения и другие нежелательные последствия, особенно долгосрочные. Отсюда неопределенность в отношении влияния нейротехнологий на стандартные процессы созревания мозга.

Исследователи также предостерегают против чрезмерных надежд от внедрения нейротехнологий в образовательную среду. Нет ясности в том, как именно эти технологии влияют на результаты обучения. Это относится и к результатам НТ: существует вероятность того, что данные, полученные с помощью этих технологий, могут быть некорректными из-за изменений в системе или в потребностях учащихся. Кроме того, у учителей, родителей и учащихся может быть недостаточно навыков для корректной интерпретации данных, результатом чего могут стать такие проблемы, как стигматизация. С появлением нейротехнологий представление о нормальном функционировании мозга может измениться, приводя к усилению давления в пользу использования нейротехнологий.

В литературе также рассматриваются вопросы, связанные с навыками учителей: им придется больше знать о технологиях и работе мозга, чтобы эффективно использовать НТ для совершенствования обучения. Необходимо обучать учителей и адаптировать обучающие материалы для использования с нейротехнологиями. Еще один обсуждаемый в этой связи аспект – отношение учителей к НТ, от которого зависит успех внедрения нейротехнологий в учебном процессе.

Трудовая деятельность

Нейротехнологии имеют множество вариантов использования в трудовой деятельности. Так, в будущем прогнозируется использование анализа данных о мозге для определения подходящего кандидата при приеме на работу. Это представляется весьма проблематичным, в частности, с точки зрения возможной неверной интерпретации, а также расовой и гендерной предвзятости. Кроме того, существует возможность использования НТ для наблюдения за работниками в дополнение к другим цифровым методам такого наблюдения. При этом следует учитывать, что в условиях неравенства полномочий невозможно реализовать принцип добровольного согласия работников. Некоторые продукты, уже представленные на рынке, позволяют преобразовывать речь в текст с помощью нейротехнологий. Среди них такие устройства, как браслет для снятия электромиограмм от Facebook Reality Labs⁸ и гарнитуры Emotiv, которые измеряют данные о мозге.

В литературе по вопросам трудовых отношений поднимается целый ряд проблем, в том числе междисциплинарного характера. Так, важную проблему представляют долгосрочные, еще не изученные последствия для работников, например, повреждения мозга, нарушения целостности организма, изменения личности пользователей. Все это может свести на нет намеченные цели внедрения НТ – повышение уровня здоровья и безопасности на рабочем месте.

В качестве ключевой проблемы трудовых отношений рассматривается массовое использование данных как часть более широкого мониторинга работников. Здесь существует риск злоупотребления данными и их использования в других контекстах, таких как доступ к жилью, кредитам, страхованию и т. д. Использование нейротехнологий и соответствующих данных может привести к многочисленным злоупотреблениям. Это относится и к аналогичным проблемам, связанным с конфиденциальностью, точностью и необъяснимостью алгоритмов. Существует также возможность монетизации данных через продажу их третьим лицам.

В ряде исследований также говорится о необходимости учитывать факторы производительности и возможностей нейротехнологий в трудовой сфере. Может случиться так, что НТ будут не в состоянии адаптироваться к различным ситуациям их использования, приводя к разного рода неточностям. Если эффективность инструментов не поддается четкой оценке, их приходится позиционировать как ненадежные.

Поскольку трудовые отношения иерархичны, могут возникнуть трудности с получением свободного информированного согласия работников на использование НТ. Кроме того, в качестве проблемы при внедрении нейротехнологий исследователи упоминают усиление социального давления и стандартов производительности. Поскольку некоторые люди более склонны к стрессу (возбуждению), особенности их нервной системы могут влиять на их возможности. Это добавляет еще один уровень дискриминации и усугубляется другими факторами, связанными с данными мозга и результирующими параметрами. Из-за социализации в образовательных учреждениях работники из более обеспеченных слоев населения могут иметь преимущество перед другими, поскольку они могут научиться использовать эти технологии с раннего возраста.

Сфера развлечений

Дискуссия о нейротехнологиях в играх, искусстве и других видах развлечений касается их влияния на эмоции пользователей, такие как волнение, скука или удовольствие. Считается, что появится возможность, например, учитывать психологическое состояние пользователей в режиме реального времени и регулировать уровни сложности игр или использовать данные мозга для создания произведений искусства. Возможность управлять играми с помощью мозга также может быть полезной для лиц с физическими недостатками, не позволяющими им участвовать в играх. Вопросы повышения творческого потенциала человека также присутствуют в этой дискуссии.

В сфере развлечений исследователи также высказывают опасения по поводу излишнего оптимизма относительно того, на что на самом деле способны технологии. Аналогичным образом обсуждаются вопросы безопасности, компьютерной безопасности, сбора данных и их корректности. В этом отношении исследователи предостерегают от применения медицинских устройств в немедицинских контекстах.

Надежды и задачи усиления человеческих возможностей в области нейробиологии

Примечательны различия между целями использования нейротехнологий в образовательной (улучшение результатов обучения), трудовой (повышение производительности) и развлекательной сферах (борьба со скукой). В основе использования нейротехнологий в образовании лежит масштабная цель улучшения образования, например, путем поддержки индивидуального обучения. Использование НТ устройств на рабочем месте в основном направлено на снижение несчастных случаев и повышение безопасности. В сфере развлечений цель состоит в том, чтобы обеспечить более ориентированный на пользователя игровой опыт. В случае с учащимися и работниками осуществляются измерение и корректировка психических состояний, таких как уровень внимания и усталости.

Это потенциально может изменить социальную ценность образования (в аспекте повышения качества обучения) и благополучия на рабочем месте (в аспекте улучшения когнитивных процессов).

Трансформация социальных отношений

Когда данные о деятельности мозга становятся измеримыми и доступными, это влияет и на то, как мы относимся друг к другу. Возможная трансформация отношений между учителями и учащимися, работниками и работодателями связана с новыми параметрами, ставшими известными благодаря НТ.

В литературе не всегда уточняется, кто должен иметь доступ к данным и какие преимущества получить благодаря этому. Неясно, как организационные аспекты влияют на включение и исключение определенных групп участников. Однако зачастую дискуссии проходят без непосредственного участия субъектов трудовых отношений, преподавателей или учащихся.

Это заставляет нас задуматься о навыках, необходимых для внедрения нейротехнологий, и поднимает важнейший вопрос о том, что представляет собой «успешное», «хорошее» или «этичное» использование этих технологий. Некомпетентность учителей в отношении этих технологий рассматривается как фактор их «неудачного» внедрения. Как и в случае с любой другой технологией, ведутся споры о том, что и кто является «целью» внедрения НТ и как социальные субъекты могут использовать нейротехнологии для тех или иных целей или противостоять их использованию. Более того, факты свидетельствуют о том, что нейротехнологиями можно легко манипулировать и фальсифицировать данные.

При обсуждении целенаправленного использования НТ в трех анализируемых нами сферах речь идет также об эмоциях и навыках. Например, креативность занимает важное место при обсуждении развлечений, но в контексте образовательной и трудовой деятельности она часто недооценивается, что указывает на пробелы в понимании ее более широких эффектов. Кроме того, в некоторых литературных источниках прослеживается тенденция к чрезмерному упрощению рабочей среды, когда основное внимание уделяется исключительно параметрам производительности и игнорируются нюансы эмоционального взаимодействия.

Нейротехнологии выносят суждения о различных эмоциональных и психических состояниях. Кроме того, интерпретация данных мозга представляет собой сложную задачу, поскольку такие эмоции, как возбуждение (стресс), могут оказывать двойное воздействие, как благоприятное, так и потенциально вредное, в зависимости от контекста.

В литературе справедливо поднимаются вопросы кибербезопасности, когда речь идет об управлении, хранении и передаче данных о деятельности мозга. Необходимо оценить, кто заинтересован в таких данных, каково их потенциальное влияние на социальные отношения⁹. Учитывая, что в использовании НТ участвуют различные стороны, трудно в полной мере оценить потенциал и риски нейротехнологий. Поэтому существует возможность манипулирования или «очарованности нейротехнологиями».

Благодаря внедрению НТ устанавливаются новые социальные нормы. Оптимизация своего «я» становится приоритетной по отношению к другим организационным и институциональным целям.

Интересно, как с помощью этих технологий конструируется представление общества об инвалидности. Социальная модель инвалидности проливает свет на возникновение новых норм когнитивных способностей и на то, как они создают представление о человеке, требующее «корректировки».

Более того, обещанная возможность выявления правильных психических состояний и характеристик основана на предположении, что личность «стабильна» и «фиксирована» (и в любом случае находится в заранее определенном диапазоне). Она не учитывает всю сложность динамики состояний и эмоций человека. В то же время развитие НТ приводит к пониманию определенных эмоций и психических состояний как «желательных», «нежелательных» и «неприемлемых» в различных социальных ситуациях. Это перекладывает ответственность за управление этими психическими состояниями на человека. Ответственность за свою деятельность становится индивидуальной.

Политикам также следует задуматься о том, что крупнейшие технологические компании получают все больше власти в различных социальных сферах, и о том, какие последствия это несет для сплоченности общества и для демократии в целом.

Нейротехнологии заставляют задуматься о том, как мы хотим относиться друг к другу, каково наше представление о хорошем образовании и хорошей работе и кто должен получить доступ к этим технологиям на благо всего человечества.

Результаты с социологической точки зрения

Нейротехнологии рассматривают человеческий мозг как данность. Они не имеют дела с человеком как социально интегрированным и развивающимся существом. При этом они применяют редуктивный подход, когда эмоции и психические состояния изолированы от более широкого социального контекста.

Этот подход резко контрастирует с социологическими исследованиями, в которых эмоции рассматриваются как социально интегрированные, т. е. созданные в социальном контексте и реагирующие на него. В социотехнических представлениях о НТ мозг прежде всего становится «фактом», включая личный опыт и его интерпретации в социальном контексте. В свете этих представлений необходимо уделить внимание проблематизации традиционных понятий, таких как «уровни внимания», и рассмотреть более полный спектр эмоциональных состояний, включая волнение, скуку или удовольствие, в различных сферах.

В целом представление о личностных характеристиках людей основано на предположении, что личность является стабильной и обладает фиксированными свойствами, а не развивается и изменяется в рамках непрерывного взаимодействия и социальных отношений. Аналогичным образом редуктивный подход оценивает и психические состояния. Сложные социальные контексты и ситуации сводятся к когнитивным состояниям, а мозг становится источником знания, которое представляется фактическим и объективным. Другими словами, только некоторые эмоции становятся измеримыми и, следовательно, артикулируемыми. Это зависит от того, в каких социальных сферах предполагается использовать нейротехнологии: если НТ в сфере развлечений предназначены для измерения уровня скуки и удовольствия, то в трудовой и образовательной сферах они определяют уровень внимания и усталости. Поскольку эти технологии, как правило, дают упрощенное понимание социальных контекстов, соответствующие работы, как правило, не поддерживают представления о том, что человек встроен в социотехнические контексты. Например, модель социальной инвалидности показывает, что технологии могут классифицировать человека как обладающего ограниченными возможностями.

Получение, обработка и последующее использование данных о мозге и связанных с ними параметрах различными социальными субъектами изменяет наше отношение к себе и другим. НТ могут генерировать знания о теле и мозге, которые перевесят реальный опыт эмоций и ощущений.

Как и в случае с другими социотехническими инновациями, существует опасность появления новых социально ожидаемых и принятых норм «когнитивной деятельности», которые приведут к медикализации и патологизации нейроотличных лиц и групп.

В то же время нейротехнологии заставляют переосмыслить ряд социальных проблем, требующих технического решения. Например, согласно социотехническим представлениям о внедрении НТ в образование, ключевой проблемой, требующей решения, является проблема внимания и концентрации. Считается, что учителя должны стать более компетентными в вопросах деятельности мозга.

Кроме того, люди включены в иерархические (и зачастую неравноправные) структуры власти в различных социальных сферах. Например, при формировании условий труда работники имеют меньше полномочий, чем работодатели. Хотя во многих странах законы регулируют и защищают интересы работников, это происходит не везде и не во всех сферах труда (например, внештатные сотрудники). Пока неясно, кто будет иметь доступ к данным о мозге и сможет управлять когнитивными процессами, однако исследования других технологий, основанных на данных, показали, что они усугубляют неравенство при распределении полномочий (Eubanks, 2018).

Социотехнические представления не остаются на уровне дискурса; ожидания, вытекающие из этих представлений, определяют, на что выделяются ресурсы, что и кто получает финансирование, какие технические решения и решения по регулированию НТ будут предпочтительными.

Хотя в данной статье речь идет в основном об академических публикациях, очевидно, что дискурс во многом определяется участниками рынка, которые затем делают заявления в различных социальных контекстах¹⁰.

Концепция «переноса сфер деятельности» показывает, как это приводит к дисбалансу власти на социально-политическом уровне или усиливает его, позволяя крупным компаниям определять иное понимание различных социальных сфер и социальных ролей в них (например, «новый ученик» или «новый работник»). Тем самым эти доминирующие акторы получают возможность определять, что общество будет воспринимать как социальные проблемы, нуждающиеся в нейротехнической «коррекции».

Обзор литературы демонстрирует очевидный недостаток интеграции НТ в организационных и повседневных аспектах. Очень важно понимать, как различные субъекты договариваются об использовании этих технологий. В дальнейшем необходимо исследовать как специалистов в этой области, так и реальный опыт участников разработки нейротехнологий.

Основы нейроправ

С точки зрения этики нейротехнологии должны учитывать возможности, риски и непреднамеренные последствия для общества и отдельных людей. На нормативном уровне философские и этические основы, на которые мы должны опираться с научной точки зрения, должны иметь материалистическую направленность на человеческое «я», которое зарождается в мозге.

Хотя ученые согласны с этим подходом, существует опасность «объективизации» и сведения сущности человека к мозговой активности. Если исходить из чистого материализма, то будет трудно поддерживать особый статус человеческого достоинства, которое является ценностью в Европе и на Западе. Это может непреднамеренно привести к ослаблению основных прав человека, что особенно актуально для уязвимых групп (например, пациентов в коме, лиц с когнитивными нарушениями).

Что касается разработки технологий, то они дают широкий спектр возможностей, однако необходима оценка их воздействия и последствий. Например, в отношении экспериментов, проводимых компанией Neuralink, нужно учитывать риски для людей, а также влияние, которое само существование таких технологий может оказать на общество в целом, и непредвиденные последствия (например, необходимость адаптироваться к новым уровням производительности, достижимым только с помощью инвазивных НТ). Тем не менее возможностям, которые открывают нейротехнологии, следует также уделить должное внимание. Чтобы оценить эти возможности, необходимо учитывать философско-этические основы норм, которые известны под термином «нейроправа». Ориентиром должны служить исторически существующие концепции, а также права человека и фундаментальные европейские ценности.

Этот шаг необходим для того, чтобы оценить правовой уровень, на котором могут быть реализованы нейроправа. Особенно очевидным это становится в свете того, что нейроправа рассматриваются как комбинация моральных и юридических прав (Ienca, 2021a. P. 44). Тем самым предполагается, что сформулированные нейроправа не только моральны по своей природе, но и обязательны к реализации в рамках конкретного светского законодательства.

Правовой позитивизм не требует обязательного преобразования моральных прав в юридические нормы, поскольку мораль достаточно обоснованна сама по себе (Kirchschläger, 2019. P. 28).

С этической точки зрения предположение об одновременном существовании моральных и юридических прав, по-видимому, возникает в первую очередь из-за нашего представления о нейроправах. Однако если признать, что не все моральные права как таковые реализуют претензию на позитивность, и если серьезно отнестись к моральной природе нейроправ, то следует задаться вопросом, в рамках какой моральной системы предлагаются нейроправа, на что они направлены и при каких условиях и в какой степени они должны быть реализованы как юридические права в рамках этой моральной системы.

Основания, выбранные для предлагаемых нейроправ, базируются на моральном фундаменте явления, которое в европейской истории получило название «права человека». Дискуссия о том, в какой степени права человека сами по себе являются моральными или юридическими правами, затрагивает переход от естественного к позитивному праву, в котором права человека признаются в правовых системах как на национальном, так и на международном уровне (Nickel, 2019). Это необходимо учитывать в контексте обсуждения предлагаемых нейроправ. Однако если нейроправа в рамках этой системы понимаются как моральные обязательства, значимые для установления новых прав, то возникает вопрос, следует ли поместить правовую реализацию на высший уровень моральной системы или же более уместен вспомогательный уровень.

Сторонники нейроправ неоднократно ссылались на такие категории, как свобода мысли и свобода совести, психологическая целостность, конфиденциальность частной жизни. С этими категориями концептуально связывают нейроправа (Ienca, 2021. P. 44). Рассматривается также концепция личной идентичности (Ienca, 2021. Pp. 53–54).

По сути, фокусирование на свободе мысли как предпосылке других свобод, наряду с материалистическим мировоззрением, влечет за собой опасность сведения людей и их свобод к биологическим функциям, вместо того чтобы сосредоточиться на человеческом достоинстве как общей и нерушимой основе. Хотя следует признать, что обладание свободой – это не то же самое, что ее реализация, последнее не должно становиться критерием первого, поскольку это не отражало бы всей сложности человеческого существования и достоинства. Здесь нужно отметить, что свобода сама по себе не является юридическим правом, равно как и потеря свободы не означает автоматической потери прав; однако следует особо подчеркнуть взаимосвязь свободы и прав, особенно в контексте прав человека, поскольку именно защита свободы была концептуально важна при формулировании прав человека (Bielefeldt, 2023; Funke, 2023; Willoweit, 2023). Если бы нейроправа были помещены на вспомогательный правовой уровень, опасность функционализации и объективизации человека можно было бы снизить за счет выдвижения на первый план концепции человеческого достоинства.

Как безусловный аспект человеческого бытия, достоинство является стабильной и нерушимой основой, которая выходит за рамки способностей, происхождения, пола, богатства и т. д., и представляет собой право, защищающее самые основы существования человека. Поэтому представляется правильным, если свобода и право на конкретные свободы будут основаны на человеческом достоинстве, а не на способностях или возможностях.

По крайней мере, два нейроправа – право на свободу воли и право на личную идентичность – прямо или косвенно основаны на свободе мысли и совести. Право на свободу воли конститутивно предполагает определенную форму свободы мысли, поскольку любое ограничение мысли само по себе фундаментальным образом ограничивает формирование воли.

Что касается права на личную идентичность, то сторонники нейроправ ссылаются на подход Джона Локка, согласно которому человек – это разумное существо, обладающее способностью к рассуждению и рефлексии, осознающее себя как самость, как одно и то же мыслящее существо на разных уровнях, в разное время и в разных местах.

Наряду с наркотиками, гипнозом и другими внешними воздействиями, нейротехнологии посредством стимуляции мозга могут вызывать проблемы с непрерывностью и согласованностью (Ienca & Andorno, 2017. Pp. 21–22). Подобные вмешательства в мыслительную деятельность нарушают право на свободу мысли и совести, поскольку представляют собой манипуляции с мышлением индивида, которые находятся вне сферы его влияния и вызывают изменения в его личности.

В целом ст. 18 Международного пакта о гражданских и политических правах (далее – МПГПП) постулирует защиту человеческого разума от манипуляций с помощью психоактивных веществ и других манипуляций. Этот договор был подписан всеми государствами – членами ЕС и не подвергается сомнению в институтах ЕС. Защита свободы мысли, совести и религии – это абсолютное право, которое стоит над всеми другими правами (Ligthart et al., 2022. Pp. 2–3; Shaheed, 2021. P. 25).

Личная идентичность также связана с психической целостностью, что с самого начала было заявлено как отдельное право. По своему содержанию психическая целостность естественным образом тесно связана со свободой мысли. В дискуссиях иногда проводится различие: свобода мысли призвана защитить от вторжения в когнитивную сферу человека, в то время как психическая целостность относится к защите от возможного вреда (Ienca, 2021a. P. 50). Schauer (2020) затрагивает этот аспект защиты от вреда, говоря о свободе мысли, от которой, по его мнению, предотвращение вреда должно быть неотделимо. Другие ученые утверждают, что право на психологическую целостность можно рассматривать как аналог права на телесную целостность и что эта связь является даже более фундаментальной, чем само по себе право на психологическую целостность (Craig, 2016).

Вредоносное вмешательство с помощью НТ, будь то намеренное со стороны злоумышленников или непреднамеренное из-за технических неполадок, можно считать радикальным нарушением психологической целостности. Lavazza и Giorgi (2023) отмечают в этой связи, что в силу особенностей НТ (злонамеренное) манипулирование людьми может происходить без их ведома; это отличает опасность НТ от опасности психоактивных веществ. Однако недавно Tesink c соавт. (2024) выдвинули предположение, что благодаря потенциальному расширению сознания с помощью НТ возможна и расширенная защита психологической целостности. Они считают, что «…психические состояния, составляющие человеческий разум, включая убеждения, желания и воспоминания, могут быть реализованы не только нашим мозгом, но и посредством физических процессов и эффектов, находящихся вне мозга и даже вне тела» (Tesink et al., 2024. P. 3).

Опираясь на концепцию неприкосновенности частной жизни, мы в данном случае говорим о праве на психологическую неприкосновенность. Это понятие так же важно, как и идентичность (Goering et al., 2021). В контексте нейроправа оно играет ключевую роль: если свобода мысли и психологическая целостность заключаются в целостности внутреннего уровня, то основной аспект психологической неприкосновенности состоит в том, достаточно ли защищены данные, считываемые с помощью НТ. По мнению Yuste, особенно проблематично то, что «…нейроданные (т. е. запись активности нервной системы) могут генерироваться бессознательно и часто непроизвольно» (Yuste, 2023). Более того, декодирование активности мозга уже успешно осуществляется в нескольких областях с помощью неинвазивных НТ. Сюда относится работа с изображениями, распознавание эмоций и, в сочетании с искусственным интеллектом, восприятие устной речи (Yuste, 2023).

Большинство компаний, работающих на рынке потребительских товаров, не относятся к нейронным данным с особой осторожностью, которая требуется в связи с их чувствительностью (Genser et al., 2024). Что касается вопросов неприкосновенности частной жизни и прозрачности, то они вызывают беспокойство и требуют дальнейших исследований возможности обеспечить право на неприкосновенность частной жизни и его компонентов применительно к нейротехнологиям.

Если обратиться к истории понятия «неприкосновенность частной жизни», то очевидно, что с момента его первого упоминания в работе «Право на частную жизнь» Уоррена и Брандейса (Warren & Brandeis, 1890), оно рассматривалось как «право оставаться в одиночестве» в условиях бурного развития бульварной прессы, а затем постоянно обновлялось и расширялось. С самого начала концепция приватности несла неотъемлемую функцию защиты от новых технологий и их негативного влияния на жизнь человека. То, что Уоррен и Брандейс увидели в распространении фотографии, распространилось на аудиозаписи с помощью мобильных телефонов, далее на цифровые технологии, такие как Интернет, и, наконец, на зарождающиеся НТ.

В рамках академического (и юридического) дискурса отслеживается развитие технологий и разрабатываются различные теории относительно того, что именно включает в себя право на неприкосновенность частной жизни и его частный случай – право на защиту данных. Хотя, как было сказано выше, среди аргументов в пользу нейроправ преобладает материалистическое мировоззрение, уже оформилось и различие: защита частной жизни в первую очередь направлена на данные о мозговой активности, в то время как понятие психологической целостности призвано защитить от вмешательства в когнитивную сферу.

Если довести материалистический подход до логического завершения, то можно утверждать, что понятие психологической целостности может быть сведено к неприкосновенности частной жизни, поскольку защита данных о мозге должна включать и их вредоносное изменение. Таким образом, различие между приватностью и психологической целостностью относится не к приоритетам, а к целям. Это различие может быть полезным для понимания, но в принципе регрессия остается возможной, поэтому разделение понятий частной жизни и психологической целостности потребует дальнейших аргументов.

Следует подчеркнуть, что рассмотрение давно установленного права на неприкосновенность частной жизни не достигает того широкого масштаба, которого заслуживает. Оно рассматривается в основном только как вопрос защиты данных, будь то данные о мозговой активности, нейронные или любые другие данные. Речь идет не только о получении и распространении данных, в конкретном случае изображений, но и о несправедливом вторжении в личную сферу человека.

Что касается НТ, то крайне важно помнить об этом аспекте неприкосновенности частной жизни, а не сводить соответствующие вопросы лишь к сбору, обработке, управлению, хранению информации и т. д. Тем не менее данные должны рассматриваться и учитываться, но всегда с учетом человека в целом.

Анализируя основные исторические вехи идей свободы мысли, психологической целостности и неприкосновенности частной жизни, мы особенно ясно видим, что эти понятия по-прежнему являются аргументированной основой для защиты человеческой жизни перед лицом различных технических вызовов. Опираясь на то, что было концептуально полезно в прошлом для формирования конкретных прав, можно и сегодня прийти к актуальным выводам. В этом смысле указанные концепции обеспечивают адекватную и стабильную основу для новых нейроправ. Следует также признать важность тезиса, что права, провозглашенные в концепции о нейроправах, заслуживают защиты, хотя они ни в коем случае не являются необходимыми, а лишь возможными производными, ведущими к вышеупомянутым правам.

Парадигмы защиты, заложенные в этих основополагающих концепциях, безусловно, применимы к новым технологиям, таким как нейротехнологии, даже если изначально они не были в них предусмотрены. Более того, они являются не только концептуальной основой в истории идей, но и воплощены в правах.

Уже сейчас существует несколько систем права и документов, посвященных фундаментальным концепциям. Среди них основополагающей является ст. 18 Международного пакта о гражданских и политических правах, постулирующая защиту от манипуляций с помощью психоактивных веществ и других форм психологического вмешательства. МПГПП был единогласно одобрен государствами – членами ЕС. Блок также поддержал объединение Международного пакта о гражданских и политических правах с Международным пактом об экономических, социальных и культурных правах в единый документ, что говорит о приверженности ЕС защите прав человека, включая область НТ.

Кроме того, свобода мысли гарантируется ст. 9 Европейской конвенции по правам человека (далее – ЕКПЧ). При рассмотрении сферы НТ, нужно отметить также такие аспекты свободы мысли, как психологической целостности и неприкосновенности частной жизни. По утверждению ученых, «если свобода мысли защищает мозг и разум человека от неоправданного вмешательства извне, а право на неприкосновенность частной жизни защищает личную информацию (в том числе психологическую) от внешнего вторжения, то другие нормативные принципы защищают мозг и разум человека от вреда» (Ienca, 2021a. P. 50).

Право на психологическую целостность находит юридическую поддержку в ряде документов, таких как ст. 3 Хартии основных прав Европейского союза и ст. 8 Европейской конвенции о правах человека, в которых утверждается необходимость уважения физической и психологической целостности. Более того, Европейская хартия основных прав прямо постулирует право на психологическую неприкосновенность, что отражает более широкое понимание человеческого достоинства, которое включает в себя как физические, так и психологические аспекты. Эта точка зрения подкрепляется аналогичными положениями Конвенции о правах инвалидов (ст. 17), в которой признается фундаментальная важность защиты как физической, так и психологической целостности.

Правовые рамки, обеспечиваемые ст. 17 МПГПП и ст. 8 ЕКПЧ, представляют собой фундаментальные элементы права на неприкосновенность частной жизни. Кроме того, в Общем комментарии № 16 МПГПП было представлено новое толкование ст. 17, содержащее прямое указание на информацию, полученную или обработанную с помощью цифровых средств (Office of the High Commissioner for Human Rights, 1988).

Опыт Чили по защите нейроправ¹¹

8 августа 2023 г. Конституционный суд Чили впервые в мире принял постановление, которому суждено стать вехой в вопросе технологий и защиты неприкосновенности личности.

В нем говорится, что даже устройства, предназначенные для отслеживания мозговой активности людей в «частных целях», должны быть разрешены к использованию органами здравоохранения; если же данные пользователей обрабатываются для научных целей, то согласие, данное пользователем, должно быть информированным, выраженным в явной форме, конкретным в отношении исследования и его целей, а также динамичным, т. е. обновляемым при изменении цели исследования.

Вот что сообщила об этом юрист Maite Sanz de Galdeano на Глобальном саммите сообщества Legal Hackers, прошедшем 8–9 сентября в Мадриде:

«Конституционализация нейроправ в Чили открыла возможность “конституционного иска” против коммерциализации любого устройства, которое подвергает указанные права риску. Это решение показывает, что отсутствие специального регулирования подвергает пользователей неконтролируемым рискам. Это оправдывает особую строгость в применении действующего законодательства и в то же время наводит на размышления о необходимых изменениях: если эти технологии не подпадают под контроль в качестве медицинских изделий, то в Чили (и в других странах) необходимо, по крайней мере, пересмотреть положения о защите прав потребителей, безопасности продукции и конфиденциальности, которые в настоящее время не гарантируют безопасность пользователей, поскольку не учитывают эти новые риски. Что касается нейроданных, то в дополнение к рискам для частной жизни появляется “новая” уязвимость человека, до сих пор не изученная: знание о мозговой активности и последующий контроль над нею в целях, которые не являются исключительно медицинскими. Ответом может быть только непосредственное регулирование нейроданных как категории чувствительных персональных данных, что позволит защищать и развивать нейроправа. В Европе Общий регламент по защите данных необходимо изменить в этом направлении».

Рынок высокотехнологичных носимых устройств

По прогнозам исследовательского агентства International Data Corporation (IDC), в 2024 г. объем поставок носимых устройств составит около 442,7 млн единиц, что соответствует росту на 6,3 % по сравнению с предыдущим годом.

Это 325 млн гарнитур, 162,2 млн подключенных к Интернету часов, 33,8 млн «умных» браслетов, устройств для мониторинга здоровья и 2,2 млн так называемых носимых изделий в других категориях. Если говорить о доле рынка, то она составляет 62,1 % наушников, 31 % смарт-часов, 6,5 % смарт-браслетов и 0,4 % других устройств.

Нам неизвестно количество устройств, предназначенных для измерения активности нашего мозга и когнитивной деятельности, но мы знаем, что такие компании, как Neurolink Илона Маска, уже особенно активно работают в этом направлении.

Опыт Чили: носимые устройства и активность мозга

Чили – первая страна в мире, которая законодательно закрепила нейротехнологии и включила «права мозга» в свою Конституцию.

В 2021 г. была принята поправка к ст. 19, призванная «защитить психологическую целостность и оградить мозг от достижений и возможностей нейротехнологий»¹².

Несмотря на кажущуюся преждевременность этого решения, чилийский парламент предпочел контролировать развитие нейротехнологий, применение которых выходит за рамки медицины, хотя возможности их воздействия на человеческий мозг пока ограничены. Дело, которое рассматривал Конституционный суд Чили, можно назвать «пилотным» в отношении как его генезиса, так и истца.

Истец – член парламента и правозащитник Гвидо Жирарди Лавин, сотрудничающий, в частности, с фондом Neurorights Foundation, – подал иск как покупатель и пользователь беспроводного устройства Insight, которое с помощью датчиков собирает информацию об электрической активности мозга и данные о жестах, времени реакции, когнитивной активности и предпочтениях своего владельца. Устройство производится американской компанией Emotiv.

Дело, переданное в Конституционный суд

Жирарди Лавин приобрел устройство через Интернет и следовал инструкциям по его активации: он создал учетную запись в облаке компании, согласившись с условиями и положениями; загрузил программное обеспечение на свой компьютер, снова согласившись с условиями предоставления услуг. Однако он решил использовать бесплатную, а не профессиональную лицензию; как он сообщил суду, это не позволило ему экспортировать или импортировать записи данных о мозге.

Истец также отметил, что все записи сохранялись в облаке Emotiv. Он заявил о потенциальной возможности взлома, отслеживания, незаконного присвоения и коммерциализации его нейроданных. Таким образом, дело касалось нарушения чилийского Закона о защите данных (№ 19.628) как в той части, где он устанавливает ответственность контролера данных, так и в той, где он закрепляет право владельца данных на удаление или блокировку его данных в случае закрытия аккаунта.

Компания Emotiv заявила, что хранит данные пользователей в научных целях и для ведения истории запросов. Истец хотел, чтобы суд заставил компанию изменить политику конфиденциальности и запретил продажу устройства в Чили до тех пор, пока это не будет выполнено, а также обязал компанию немедленно удалить свои базы данных.

Компания утверждала, что Insight – это не медицинское устройство, а неинвазивный прибор для самооценки; что условия его использования подробно описаны; что требование получить прямое согласие на обработку персональных данных и данных о мозге были выполнены; и что не было представлено никаких доказательств реального ущерба, понесенного истцом.

Кроме того, компания Emotiv утверждала, что не были нарушены ни чилийский Закон о конфиденциальности, ни более ограничительный Общий регламент ЕС по защите данных, который предусматривает обязательную псевдонимизацию (действие, не позволяющее связать собранные данные с конкретным или определяемым лицом).

По поводу нарушения ст. 13 чилийского Закона о конфиденциальности компания пояснила, что данные сохраняются до тех пор, пока активна учетная запись пользователя. Что же касается «данных о мозге», то пользователь может в любой момент отозвать согласие на обработку, как это предусмотрено политикой конфиденциальности.

По поводу дальнейшей обработки данных компания отметила, что информация анонимизируется, зашифровывается, хранится безопасно и отдельно от другой информации. Таким образом, она приобретает характер статистических данных, а значит, не подлежит защите неприкосновенности частной жизни.

Решение Конституционного суда

Конституционный суд отменил решения по существу, сочтя значимым тот факт, что продажа устройства Insight не требовала медицинской (а также таможенной) авторизации, и напомнил соответствующим органам о необходимости анализировать ситуацию в свете действующих правил с целью дальнейшей продажи устройства в Чили.

Суд постановил, что «в условиях развития новых технологий, затрагивающих все новые аспекты человеческой личности, и появления возможностей, которые еще несколько лет назад нельзя было представить, государство должно уделять особое внимание контролю, предотвращению и предвидению возможных последствий, наряду с непосредственной защитой целостности человека во всей ее полноте, включая вопросы частной жизни и конфиденциальности, а также права на психологическую целостность субъекта научных экспериментов. Таким образом, новая технология, рассматриваемая в рамках данного дела, способна показывать такие параметры электрической активности мозга, которые представляют собой частную и личную информацию, вне медицинского контекста. Появление такой технологии обусловливает абсолютную необходимость перед тем, как разрешить ее продажу и использование в стране, проанализировать данные технологии и устройства силами компетентных органов, поскольку они поднимают вопросы, которые ранее не исследовались»¹³.

Нейроправа в международном праве

Конституционный суд Чили был вынужден признать, что, несмотря на мандат прямой защиты, содержащийся в поправке к Конституции, в настоящее время не существует закона, который раскрывал бы все нюансы, возникающие в связи с развитием прикладной нейробиологии, требованиями, условиями, допустимыми рисками и использованием частными лицами. Таким образом, возникла новая правовая проблема, однако международные нормативные акты позволили вынести судебное решение.

Международный пакт об экономических, культурных и социальных правах постулирует, что люди должны иметь возможность пользоваться достижениями научного прогресса. Декларация ЮНЕСКО о науке и использовании знаний и Программа научного развития предписывают необходимость уважения прав человека и достоинства личности в том смысле, который указан во Всеобщей декларации прав человека. Всеобщая декларация о геноме человека уточняет, что некоторые научные приложения могут быть вредоносными и что исследователи и другие лица несут «особую» ответственность этического характера, что должно быть предметом публичного обсуждения. Всеобщая декларация ЮНЕСКО о биоэтике и правах человека ввела общие принципы уязвимости человека и целостности личности, а также право на частную жизнь и конфиденциальность.

Суд также сослался на чилийский Закон № 20.120 о научных исследованиях человека и генома, который запрещает клонирование человека. Согласно этому закону, согласие лиц, участвующих в медицинских исследованиях, обеспечивает определенные меры безопасности при его получении и должно обновляться каждый раз, когда в научные исследования вносятся значительные изменения.

В рамках данного иска Конституционный суд пришел к выводу, что компания, производящая устройство Insight, не запросила такого специального согласия, которое, безусловно, не может считаться подразумеваемым в отношении ситуаций коммерческого характера.

Окончательное решение

Суд отменил решение Апелляционного суда, подчеркнув необходимость того, чтобы новые технологии проходили проверку компетентными органами до поступления на рынок и использования гражданами страны. Это особенно относится к нейроустройствам, которые связаны с деятельностью человека, до сих пор являвшейся сугубо частной, такой как мозговая активность.

Суд посчитал, что конституционные гарантии ст. 19 о психологической и физической неприкосновенности были нарушены, поскольку компания Insight продавала свои товары без разрешения и без оценки со стороны органов здравоохранения.

Таким образом, чилийский суд удовлетворил апелляцию и запретил продажу устройства Insight до получения разрешения в соответствии с вышеупомянутыми правилами. Он также обязал Институт общественного здравоохранения и Таможенное управление оценить, насколько обращение с данными, собранными с помощью устройства Insight, соответствует действующим правилам, изложенным в судебном решении. Кроме того, суд обязал компанию Emotiv удалить всю информацию, которая хранилась в облаке или на портале.

Нейротехнологии: социоэтическая точка зрения

Что касается этико-правового осмысления данных технологий, то представляется очевидным опираться на этические рамки и принципы из области медицинской этики, биоэтики и этики технологий. Например, важными отправными точками для этической дискуссии могут служить традиционные принципы, обобщенные в работе Beauchamp и Childress (2019): автономия, непричинение вреда, благотворность, справедливость.

Учитывая масштабное взаимопроникновение человека и машины (в том числе с искусственным интеллектом) в сфере НТ, представляется целесообразным также рассмотреть принципы технологической этики, обсуждаемые в настоящее время. Например, Floridi (2023) добавляет к четырем принципам биоэтики еще один и размышляет о них в применении к ИИ.

Социально-этический подход очень важен, поскольку в свете текущих дискуссий в области медицины и биоэтики он может раскрыть новые аспекты в контексте НТ, которые мы считаем актуальными, и тем самым обеспечить более целостный взгляд на необходимость этического осмысления НТ. Очевидно, что в рамках данной статьи невозможно рассмотреть все этически значимые аспекты, не говоря уже об их полноценном обсуждении, поэтому неизбежны ограничения нашего исследования. Хотя эйфория вокруг НТ повлияла на науку, рынок и общество, между этими областями существуют важные различия. Исследования нейротехнологий обычно проводятся в строгих этических условиях, сопровождаются и контролируются квалифицированными третьими сторонами, поэтому в контексте существующего регулирования мы, как правило, не сталкиваемся с обманом или небрежностью.

Нейротехнологии по своей сути очень неоднозначны. С одной стороны, они могут помочь большому количеству людей, страдающих от болезней (например, болезни Паркинсона, эпилепсии и т. д.), эффективно облегчая симптомы заболевания. Другие позитивные возможности применения возникают, например, в отношении протезов (Raspopovic, 2020) и новых методов реабилитации.

В целом эти технологии могут очень точно реагировать на индивидуальные клинические состояния и потребности больных. Таким образом, НТ могут внести значительный вклад в индивидуальное и общее благо.

Однако, с другой стороны, существуют и проблемы, и даже риски и опасности. В первую очередь это «дополнительный ущерб» во время лечения. Например, когда импульсы тока, непрерывно излучаемые при глубокой стимуляции мозга, воздействуют не только на целевую область, но и на другие участки мозга, это может привести к известным и/или неизвестным, возможно, непоправимым повреждениям и дальнейшим последствиям (таким как развитие симптомов зависимости или изменения личности) (Gilbert et al., 2019).

Особенно рискованными и неоднозначными представляются также приложения в области ИМК, хотя они могут открыть новые возможности для людей с физическими недостатками и использоваться для лечения психических заболеваний.

Социально-этический подход подразумевает, в частности, рассмотрение вопросов справедливости, солидарности, равенства, верховенства закона и участия (Koska & Filipovic, 2017). Этот подход также представляется особенно актуальным в контексте НТ и обсуждаемых нейроправ. Неслучайно основы истории идей, о которых шла речь выше, служат отправной точкой для дискурсов о создании новых, признании и актуализации существующих прав.

Свобода мысли и совести, психологическая неприкосновенность и неприкосновенность частной жизни тесно связаны с аспектом справедливости по отношению к человеку, поскольку указывают на то, какие вмешательства и ограничения в отношении человека как минимум считаются несправедливыми. Созданная таким образом основа обязательно распространяется не только на отдельных индивидуумов, но и на всех людей в рамках социальной структуры, что, в свою очередь, позволяет раскрыть такие аспекты, как солидарность, участие и равенство.

Кроме того, при смещении перспективы с индивида на общество важно рассмотреть, какие аспекты справедливости требуют большего внимания. Другими словами, если что-то верно только для индивида, это не значит, что оно в целом верно для общества, и наоборот.

Возникает еще ряд актуальных этических проблем, особенно в связи с социальными последствиями НТ: например, центральными представляются вопросы социальной справедливости, и в частности, равных возможностей и участия. Несомненно, научно обоснованные, безопасные и эффективные нейротехнологии для борьбы с болезнями ставят проблему равноправного доступа к этим технологиям и, таким образом, затрагивают аспект справедливости участия, однако возникает также вопрос о том, что НТ означают для отдельных групп в этом контексте. Что означают нейротехнологии в качестве товаров для «самооптимизации» уязвимых групп, таких как дети, бедные слои населения или больные? Кроме того, в свете социально-этического принципа устойчивого развития (Vogt, 2009) особенно важно учитывать интересы будущих поколений и аспекты межпоколенческой справедливости. Эти вопросы уже иллюстрируют большую потребность в этической рефлексии, которая идет рука об руку с НТ и затрагивает вопросы исследовательской этики, а из-за очевидных проблем, связанных с технологиями, и область медицины и биоэтики.

Для демократических обществ характерны напряженные отношения между личным и общим благом. Концепция человеческого достоинства и положения Хартии прав человека подчеркивают центральную роль личности. Поэтому именно человек, наделенный достоинством и, следовательно, свободой и автономией, т. е. каждый отдельный человек, является центральным и окончательным мерилом во всех вопросах, связанных с организацией нашего общества, включая технологические вопросы (Heimbach-Steins, 2022). Однако мы знаем, что люди живут не в вакууме, а в конкретных социальных контекстах, что они – социальные существа. Эта социальная природа человека часто описывается как одна из его основных характеристик (Vester, 2009).

Поэтому жить как человек – значит быть частью общества и ежедневно взаимодействовать, общаться и работать вместе с другими людьми. Вместе мы создаем социальные структуры и институты, занимаемся работой или хобби и стараемся вести правильную жизнь. Без взаимодействия и сотрудничества между людьми наши современные общества были бы немыслимы и не могли бы функционировать.

В связи с этим возникает центральный вопрос об ответственности за формирование общества в целом, которая затрагивает всех людей как часть этого общества. В результате возникает противоречие между индивидуальными и общественными интересами. Эти различные позиции требуют соответствующего осмысления и балансирования, учитывающего свободу личности, а также вопросы социальной справедливости. Нейротехнологии могут и будут влиять на обе сферы – индивидуальную и социальную. Люди являются потенциальными носителями НТ, но изменения в человеке порождают новые социальные проблемы, поэтому отношения между нейротехнологиями и обществом также требуют особого внимания.

Действия человека вписаны в конкретные социальные контексты, поэтому автономию и свободу также необходимо рассматривать в этом смысле. Именно в этом контексте следует учитывать влияние НТ. Мы много говорим о положительных аспектах различных нейротехнологий, инвазивных и неинвазивных, или о надеждах, которые связывают с ними широкие слои населения, однако последствия, выходящие за рамки физического и психологического измерения, часто игнорируются. С этической точки зрения вмешательства такого рода также поднимают вопрос о том, что это означает для человеческих действий. Действие тесно связано с намерением: «…существо обладает свободой выбора только в том случае, если оно способно действовать преднамеренно, а осуществление свободы выбора заключается в выполнении преднамеренных действий и во многих случаях в выполнении непреднамеренных действий (которые являются результатом выполнения преднамеренных действий)» (Schlosser, 2024).

Последняя ссылка на непреднамеренные действия относится к тому факту, что преднамеренные действия приводят к событиям, связанным с непреднамеренными действиями. В этом контексте концепция свободы выбора приобретает особое значение, поскольку она включает в себя непосредственное знание о наших действиях, которое также связано с суждением о них. Свобода выбора – это чувство, что мы действительно осуществляем наши действия и контролируем их (Legaspi et al., 2024). Так можно описать чувство ответственности за наши действия. Оно, в свою очередь, имеет особое значение для самовосприятия и самооценки человека.

Вмешательство в свободу выбора крайне разрушительно, поскольку заставляет человека сомневаться в себе. В этом аспекте к НТ следует относиться с особой осторожностью.

С этической точки зрения, помимо вопроса о том, являются ли нейротехнологии неинвазивными или инвазивными, также имеет значение, используются ли они для исследований или являются потребительскими товарами. Особое внимание следует уделить потребительским товарам, поскольку нейротехнологии для научных исследований и медицинских вмешательств в любом случае подлежат очень строгому регулированию и изучаются в ограниченном контексте.

Будучи потребительскими товарами, они затрагивают большие массы людей, и главный вопрос заключается в том, способны ли люди адекватно оценить потенциальное воздействие таких технологий на самих себя и общество в целом.

Существует также риск, что социальное давление (как прямое, так и косвенное), связанное с обещаниями или надеждами, возлагаемыми на технологии, приведет к все более безрассудному использованию неинвазивных или даже инвазивных НТ. Это также обсуждается в рамках дискуссии о повышении ценности нейротехнологий как потребительских товаров.

На протяжении многих лет люди пытаются улучшить и оптимизировать самих себя, и с этической точки зрения существуют веские причины как «за» (например, повышение социальной эффективности, увеличение возможностей для индивидуального счастья в жизни), так и «против» (например, возможное давление, вынуждающее подчиниться использованию улучшений, открытые вопросы в отношении справедливости доступа) возможности такого улучшения (Schöne-Seifert, 2007).

При этом цифровое усовершенствование центральной нервной системы представляет собой относительно новое слово в дискуссии об улучшении человека. Общий термин «нейроулучшение» относится к нескольким областям медико-технического вмешательства в центральную нервную систему. Обычно здесь проводится различие между усовершенствованиями в эмоциональной, когнитивной, моральной, сенсорной и моторной сферах. Однако для корректного решения этого сложного вопроса необходим более глубокий этический анализ как на индивидуальном, так и на общественном уровне (Fenner, 2019).

Цифровизация – это не внезапное и неожиданное природное явление, которое захлестывает нас, а рукотворная трансформация. Технологические инновации, которые сегодня происходят главным образом в транснациональных корпорациях, крупных компаниях или инновационных стартапах, влияют на жизнь многих людей с беспрецедентной интенсивностью.

Многие современные технологии уже доступны широким массам, и это обстоятельство несет в себе огромный потенциал для трансформации отношений между человеком и машиной в самых разных сферах жизни (Kirchschläger, 2022). НТ являются частью этой цифровой трансформации и, предположительно, станут еще более активной ее частью в будущем. Несомненно, эти новые технологии открывают множество возможностей, но также и создают значительные проблемы. Технологии всегда обладают ценностью, всегда связаны с властью и ее применением – даже если это незаметно на первый взгляд. За технологическими инновациями стоят интересы и ценности разработчиков и производителей. И эти интересы и ценности имплицитно и/или эксплицитно являются частью соответствующих технологий.

В первую очередь возникает вопрос, как эти интересы и ценности, которые сознательно или бессознательно являются частью отдельных технологических систем, могут влиять на пользователей. Это поднимает, например, вопросы о свободе действий, а также в целом об уязвимости людей. В связи с участившимися атаками на цифровые инфраструктуры в рамках кибервойн, неоднократными хакерскими атаками на частных лиц и компании, т. е. общей уязвимостью цифровой инфраструктуры в XXI в., следует также рассмотреть вопрос о злоупотреблении такими технологиями. Усиление связи между человеком и машиной, предположительно, также перенесет эту уязвимость на человека и приведет к новым опасностям. Эти аспекты особенно важны при рассмотрении высокорисковых технологий и их потенциального воздействия на человека и общество, поскольку такие сложные технологии всегда связаны с большим количеством энергии. Однако различные заинтересованные стороны (политики, бизнес, потребители и т. д.) не должны забывать, что власть всегда влечет за собой зависимость и давление, но также и ответственность.

Учитывая подрывной потенциал новых технологий, можно утверждать, что необходимы глубокие исследования, особенно в отношении вопросов власти и ответственности.

Наконец, следует подчеркнуть еще один ключевой подход – антропологический, который интенсивно обсуждается в дебатах о трансгуманизме, но еще более интенсивно должен рассматриваться в более широкой полемике о цифровизации. Специалист по этике технологий Armin Grunwald отмечает, что за этическим вопросом цифровой трансформации стоит вопрос о том, что есть человек, кем он хочет быть в условиях высокотехнологичного мира и как он может ощутить свободу, ответственность и творчество в этом контексте (Grunwald, 2019a, 2019b, 2021). Таким образом, ученый делает акцент на образе человека во все более технологизированных обществах, поскольку растущая степень цифровизации влияет на этот образ. Технологические разработки в области НТ особенно разрушительны в этом контексте. Часто возникает образ «человека, нуждающегося в оптимизации», который без синтеза человека и машины – особенно в свете развития искусственного интеллекта – рискует все больше отстать от требований прогресса.

С распространением НТ появилась возможность влиять на центральную нервную систему; потенциальные индивидуальные и общественные последствия этого (как среднесрочные, так и долгосрочные) непредсказуемы. Поэтому инновационный процесс не должен быть обусловлен корпоративными интересами, а требует широкого научного (особенно гуманитарного), социального и политического обсуждения и дискуссии.

Заключение

Нейроправа как права человека в эпоху ИИ

В данной работе предпринята попытка обобщить нейробиологические знания и опыт в контексте нейротехнологий, в разрезе правовых, этических и социальных последствий их применения. Стоит отметить, реальность будет подсказывать нам дальнейшие шаги совершенствования этических и правовых норм. Были определены пять нейроправ и оценена необходимость и целесообразность их интеграции на уровне прав человека и основных прав, а именно: «право на психологическую конфиденциальность», «право на личную идентичность», «право на свободу воли», «право на равный доступ к психическому совершенствованию» и «право на защиту от алгоритмической предвзятости».

Очевидно, что существующая система прав человека и основных прав представляет собой хорошо отлаженный и эффективный инструмент защиты. Если что и вызывает опасения, то это момент интерпретации и политического выбора в пользу строгого и решительного применения существующей нормативной базы, при необходимости с максимальным расширением и всеми предосторожностями.

Например, «право на психологическую неприкосновенность» уже явно защищено в ст. 3 Хартии по правам человека как «право на физическую и психологическую неприкосновенность». Выделение отдельного «права на психологическую неприкосновенность» потребует дифференциации; если это сделано сознательно, то оно должно означать нечто отличное от права, уже закрепленного в статье 3. Однако это поднимает новые вопросы: можно ли перенести понимание, выработанное в рамках ст. 3, на новое право? Где проходят границы между понятиями? Нуждаются ли в четком регулировании и другие аспекты целостности? Что нового дает такая дифференциация?

Система регулирования ЕС обеспечивает надежную защиту потребителей, честную конкуренцию, высокие стандарты безопасности продукции и всестороннюю цифровую интеграцию, а значит, хорошо подготовлена к решению существующих проблем, связанных с нейротехнологиями. Например, медицинские устройства и некоторые НТ-устройства уже сейчас жестко регулируются Европейским регламентом о медицинских изделиях. Другие НТ-устройства, не охваченные указанным регламентом, должны соответствовать общему высокому уровню защиты. Однако можно рассмотреть возможность адаптации, например, включения понятия нейроданных непосредственно в ст. 9 Общего регламента ЕС по защите данных или в Закон о НТ, сопоставимый с законом об искусственном интеллекте. В обоих случаях фокус внимания будет направлен исключительно на регулирование технологий с высоким уровнем воздействия.

Следующим логическим шагом должна стать активизация усилий по обеспечению соблюдения законов. Для этого ЕС должен принять активное участие в развитии НТ, что подразумевает поддержку науки и образования, а также строгий контроль над коммерциализацией нейротехнологий. Такой комплексный подход гарантирует, что общественность получит точную и сбалансированную информацию, которая имеет решающее значение для эффективного регулирования и ответственного развития нейротехнологий.

Одной из основных проблем, связанных с НТ, является недостаточная информированность населения, которое в основном видит коммерческие истории успеха, что приводит к возникновению «нейроочарованости» и «нейромифов».

Законодательство о защите прав потребителей, антимонопольное законодательство и законодательство о безопасности продукции вполне способны противостоять ложным или преувеличенным заявлениям; нужно только использовать эти инструменты. Общество нуждается в том, чтобы узнать реальную историю нейротехнологий, уяснить, что мы знаем и чего не знаем, в чем заключаются возможности, опасности и риски.

Это означает, что нужно активно продвигать исследования в области НТ, публиковать истории неудач и успехов, распространять результаты в понятной форме не только через науку, но и через каналы государственного управления, интегрировать нейротехнологии в образование и строго контролировать их коммерческое применение.

ПРИЛОЖЕНИЕ / APPENDIX

Полезные документы по теме исследования

Directive (EU) 2019/1024 of the European Parliament and of the Council of 20 June 2019 on open data and the re-use of public sector information.

Directive (EU) 2019/2161 of the European Parliament and of the Council of 27 November 2019 amending Council Directive 93/13/EEC and Directives 98/6/EC, 2005/29/EC and 2011/83/EU of the European Parliament and of the Council as regards the better enforcement and modernisation of Union consumer protection rules.

Directive (EU) 2019/771 of the European Parliament and of the Council 20 May 2019 on certain aspects concerning contracts for the sale of goods, amending Regulation (EU) 2017/2394 and Directive 2009/22/EC, and repealing Directive 1999/44/EC.

Directive (EU) 2024/825 of the European Parliament and of the Council of 28 February 2024 amending Directives 2005/29/EC and 2011/83/EU as regards empowering consumers for the green transition through better protection against unfair practices and through better information.

Directive 2005/29/EC of the European Parliament and of the Council of 11 May 2005 concerning unfair business-to-consumer commercial practices in the internal market and amending Council Directive 84/450/EEC, Directives 97/7/EC, 98/27/EC and 2002/65/EC of the European Parliament and of the Council and Regulation (EC) No 2006/2004 of the European Parliament and of the Council ('Unfair Commercial Practices Directive').

Directive 2006/114/EC of the European Parliament and of the Council of 12 December 2006 concerning misleading and comparative advertising.

Directive 2011/24/EU of the European Parliament and of the Council of 9 March 2011 on the application of patients' rights in cross-border healthcare.

Directive 2011/83/EU of the European Parliament and of the Council of 25 October 2011 on consumer rights, amending Council Directive 93/13/EEC and Directive 1999/44/EC of the European Parliament and of the Council and repealing Council Directive 85/577/EEC and Directive 97/7/EC of the European Parliament and of the Council Text with EEA relevance.

European Convention on Human Rights.

European Parliament. (2022). European Parliament resolution of 3 May 2022 on artificial intelligence in a digital age (2020/2266(INI)). https://www.europarl.europa.eu/doceo/document/TA-9-2022-0140_EN.html

OECD. (2019). Responsible innovation in neurotechnology enterprises. https://www.oecd-ilibrary.org/science-and-technology/responsible-innovation-in-neurotechnology-enterprises_9685e4fd-en

Office of the High Commissioner for Human Rights (Ed.). CCPR General Comment No. 16: Article 17 (Right to Privacy) The Right to Respect of Privacy, Family, Home and Correspondence, and Protection of Honour and Reputation: Adopted at the Thirty-second Session of the Human Rights Committee, on 8 April 1988.

Proposal for a Regulation of the European Parliament and of the Council laying down harmonised rules on artificial intelligence (Artificial Intelligence Act) and amending certain union legislative acts. (2024, March 18). https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=CONSIL:ST_7536_2024_INIT

Proposal for a Regulation of the European Parliament and of the Council laying down harmonised rules on artificial intelligence (Artificial Intelligence Act) and amending certain union legislative acts. P9_TA(2024)0138, https://www.europarl.europa.eu/RegData/seance_pleniere/textes_adoptes/definitif/2024/03-13/0138/P9_TA(2024)0138_EN.pdf

Regulation (EU) 2016/679 of the European Parliament and of the Council of 27 April 2016 on the protection of natural persons with regard to the processing of personal data and on the free movement of such data, and repealing Directive 95/46/EC (General Data Protection Regulation).

Regulation (EU) 2017/745 of the European Parliament and of the Council of 5 April 2017 on medical devices, amending Directive 2001/83/EC, Regulation (EC) No 178/2002 and Regulation (EC) No 1223/2009 and repealing Council Directives 90/385/EEC and 93/42/EEC.

Regulation (EU) 2019/1020 of the European Parliament and of the Council of 20 June 2019 on market surveillance and compliance of products and amending Directive 2004/42/EC and Regulations (EC) No 765/2008 and (EU) No 305/2011.

Regulation (EU) 2019/881 of the European Parliament and of the Council of 17 April 2019 on ENISA (the European Union Agency for Cybersecurity) and on information and communications technology cybersecurity certification and repealing Regulation (EU) No 526/2013 (Cybersecurity Act) (Text with EEA relevance).

Regulation (EU) 2021/2282 of the European Parliament and of the Council of 15 December 2021 on health technology assessment and amending Directive 2011/24/EU.

Regulation (EU) 2023/988 of the European Parliament and of the Council of 10 May 2023 on general product safety, amending Regulation (EU) No 1025/2012 of the European Parliament and of the Council and Directive (EU) 2020/1828 of the European Parliament and the Council, and repealing Directive 2001/95/EC of the European Parliament and of the Council and Council Directive 87/357/EEC.

Regulation (EU) No 1025/2012 of the European Parliament and of the Council of 25 October 2012 on European standardisation, amending Council Directives 89/686/EEC and 93/15/EEC and Directives 94/9/EC, 94/25/EC, 95/16/EC, 97/23/EC, 98/34/EC, 2004/22/EC, 2007/23/EC, 2009/23/EC and 2009/105/EC of the European Parliament and of the Council and repealing Council Decision 87/95/EEC and Decision No 1673/2006/EC of the European Parliament and of the Council Text with EEA relevance.

Regulation (EU) No 910/2014 of the European Parliament and of the Council of 23 July 2014 on electronic identification and trust services for electronic transactions in the internal market and repealing Directive 1999/93/EC.

Treaty of Lisabon Amending the treaty on European Union and the treaty establishing the European community.

Treaty on European Union.

Treaty on the Functioning of the European Union.

UNESCO. (2023). The Risks and Challenges of Neurotechnologies for Human Rights. https://unesdoc.unesco.org/ark:/48223/pf0000384185.locale=en

Constitution of the United Nations Educational, Scientific and Cultural Organization.