В этот самый момент по всему миру учёные работают над технологиями, которые обещают превратить человека в нечто

большее. Продление жизни до 200 лет, загрузка сознания в цифровые носители,

генетическое редактирование, стирающее границу между рождённым и созданным. Но

то, что представляется как медицинский прогресс, на самом деле является древнейшим стремлением человечества,

которое тысячелетиями называлось одним словом: обожение. Трансгуманизм не изобрёл желание стать

богом. Он просто дал ему новые инструменты. Это важнее, чем кажется на первый

взгляд, потому что речь идёт не о далёком будущем. Технологии, о которых мы говорим, уже внедряются.

Редактирование генов эмбрионов уже проводилось в Китае. Нейроинтерфейсы уже

имплантируются в человеческий мозг. Искусственный интеллект уже превосходит

человека в специфических областях познания. Вопрос не в том, возможно ли это. Вопрос

в том, что происходит с человеческой природой, когда мы начинаем её переписывать.

Трансгуманизм можно  рассмотреть через призму древних концепций обожения,

гностического стремления к освобождению от материи и классического понимания гибриса как греха гордыни. 

Является ли стремление к улучшению человека естественным продолжением эволюции или повторением

древней ошибки, которая во всех традициях заканчивалась падением. Имеет ли человек право

изменять собственную природу, данную ему рождением, или существуют границы,

которые не должны быть пересечены? 

Сама идея о том, что человек может и должен превзойти себя, не является изобретением XXI века. Она пронизывает

всю историю человеческой мысли от древнейших мифов до современных манифестов.

Стремление к божественному статусу, к бессмертию, к совершенному знанию можно

проследить в шумерском эпосе о Гильгомеше, который искал траву бессмертия.

В древнегреческих мифах о Прометее, который похитил огонь богов для людей в

гностических текстах, обещающих освобождение от материального тюремного мира через познание

в алхимических трактах, описывающих превращение свинца в золото как метафору

превращения несовершенного человека в совершенного. Современный трансгуманизм формализовал

это древнее стремление в философское и технологическое движение. Термин впервые использовал биолог

Джулиан Хаксли в 1957 году, описывая человека, остающегося

человеком, но превосходящего себя через реализацию новых возможностей своей природы.

Трансгуманисты видят человеческую

природу не как нечто завершённое и священное, но как незавершённый проект,

подлежащий дальнейшей разработке. В основе трансгуманистической философии

лежит несколько ключевых убеждений. Первое, человеческая природа пластична и

может быть изменена. Второе. Технологический прогресс может и

должен быть направлен на улучшение человеческих способностей. Третье. Страдания, старение и смерть не

являются неизбежными условиями существования, но проблемами, которые могут быть решены технологически.

Четвёртое. Улучшение когнитивных физических и эмоциональных способностей

является этически оправданным и желательным. Эти положения формируют мировоззрение,

радикально отличающееся от традиционных религиозных и философских систем, которые видели человеческую природу как

данность, требующую не изменения, но принятия или духовной трансформации в

рамках существующих параметров. Чтобы понять глубину трансгуманистического проекта,

необходимо сначала обратиться к древним концепциям обожения. В восточном

христианстве существует доктрина Теозиса, согласно которой человек призван стать Богом по благодати,

сохраняя при этом человеческую природу. Это не означает становление Богом в

онтологическом смысле, но участие в божественной природе через духовную практику, молитву и сакраменты.

Афанасий Александрийский, один из отцов церкви I века, сформулировал это так:

Бог стал человеком, чтобы человек стал Богом. Однако это обожение понималось

исключительно в духовном смысле и как дар благодати, а не как результат человеческих усилий или технологий.

В неоплатанизме, философской системе, разработанной Плотином в I веке, также

присутствует идея восхождения души к божественному Единому через очищение и

созерцание. Душа, согласно Плотину, эманировала из Единого и может вернуться к нему через

философскую практику и отказ от привязанности к материальному миру. Это

восхождение описывается как процесс уподобления Богу, насколько это возможно для человека.

Плотин в своих Энеадах описывает высшее состояние как единение с Единым, в

котором индивидуальное сознание растворяется в божественном.

Но и здесь путь лежит через духовную практику, а не через изменение физического тела или расширение

когнитивных способностей техническими средствами.Гностические традиции, особенно ярко

представленные в текстах Нагхамади, предлагают иную модель. Согласно

гностикам, человек содержит в себе искру божественного света, заключённую в

материальное тело демиургом, ложным богом-творцом этого мира. Спасение

приходит через гнозис, особое знание, которое открывает человеку его истинную

божественную природу и позволяет освободиться от материального тюремного мира.

В Евангелии от Фомы, одном из гностических текстов, Иисус говорит:

"Когда вы познаете себя, тогда вы будете познаны, и вы узнаете, что вы дети отца

живого". Гностицизм содержит радикальную идею о том, что человек по своей истинной

природе божественен, но забыл об этом, погрузившись в материю.

Интересно, что современный трансгуманизм содержит структурные параллели с  гностицизмом.

Материальное тело рассматривается как ограничение, которое должно быть преодолено. Смерть и старение видятся не

как естественные процессы, но как дефекты биологической конструкции.

Знание, особенно научное и технологическое, представляется как путь к освобождению.

Некоторые трансгуманисты, особенно те, кто фокусируется на загрузке сознания в цифровые носители, по сути, предлагают

современную версию гностического освобождения от плоти. Сознание, загруженное в компьютер, освобождается

от ограничений биологии, болезней, старения и смерти, подобно тому, как гностическая искра должна была

освободиться от материального мира. Однако существует и противоположная традиция, которая видит в стремлении к

богоподобию. не путь к спасению, но древнейший грех. В греческой традиции

центральным понятием является гибрис, чрезмерная гордыня, стремление смертного

превзойти отведённые ему границы. Гибрис неизбежно влечёт за собой Немизиду,

божественное возмездие. Икар, создавший крылья и попытавшийся

взлететь к солнцу, упал в море. Прометей, похитивший огонь богов, был

прикован к скале, где орёл терзал его печень. Эти мифы не просто предостережение против технологического

прогресса. Они выражают глубинную интуицию о существовании космического

порядка, нарушение которого ведёт к катастрофе. В библейской традиции первородный грех

описывается именно как стремление к богоподобию. Змей искушает Еву словами: "Вы будете

как боги, знающие добро и зло". Желание стать как Бог через знание приводит к

изгнанию из рая. Вавилонская башня, попытка построить сооружение,

достигающее небес, заканчивается смешением языков и рассеянием народов.

Эти наративы утверждают существование границ человеческого, которые не должны быть пересечены. Стремление превзойти

эти границы рассматривается не как благородная амбиция, но как гордыня,

коренящаяся в отказе принять своё место в творении. Современная этика трансгуманизма сталкивается именно с

этой дилеммой. С одной стороны, трансгуманисты утверждают, что стремление к улучшению

является фундаментальной характеристикой человека. Вся история человечества, от

изобретения огня до создания антибиотиков, есть история преодоления естественных ограничений.

Медицина постоянно вмешивается в природу, излечивая болезни и продлевая

жизнь. Образование расширяет когнитивные способности. Инструменты и технологии

увеличивают физическую силу. С этой точки зрения, трансгуманизм является

логическим продолжением того, что человечество делало всегда. С другой стороны, критики утверждают,

что существует качественное различие между лечением болезней и улучшением здорового человека. Лечение

восстанавливает нормальное функционирование организма, улучшение изменяет саму природу человека.

Генетическое улучшение детей их родителями создаёт асимметричные отношения, в которых

улучшенный человек не выбирал своих улучшений и не может их изменить. Это

нарушает фундаментальный принцип автономии, лежащий в основе современной этики. Стремление к улучшению коренится в отказе принять

данный  вид существования в желании тотального контроля над жизнью. Он видит

Когда мы начинаем рассматривать детей

как продукты, которые можно спроектировать согласно нашим спецификациям, мы теряем способность

видеть в них дар, принимать их такими, какие они есть.

Когда мы начинаем рассматривать собственное тело и сознание как нечто подлежащее оптимизации, мы входим в

режим постоянной неудовлетворённости, в котором никакое улучшение не является

достаточным. Ник Бостром, один из ведущих философов трансгуманизма, отвечает на эти

возражения, утверждая, что человеческая природа не является священной. Она

является результатом слепых эволюционных процессов, оптимизированных для выживания в африканской саванне

плейстоцена, а не для процветания в современном мире или будущем. Эволюция

создала человека, способного к достаточной степени рационального мышления для выживания, но не к

оптимальному познанию. Она создала тело, способное прожить достаточно долго для размножения, но не

для долгой и здоровой жизни. Она создала эмоциональные системы, часто работающие

против нашего благополучия. С этой точки зрения улучшение человека является не гибрисом, но рациональной

реакцией на несовершенство биологической конструкции. Технологии, о которых говорят

трансгуманисты, уже существуют в различных стадиях развития. Генетическое редактирование с помощью

технологии позволяет точечно изменять ДНК. В 2018 году китайский

учёный Хедзянькуй объявил о рождении первых генетически отредактированных детей, чьи гены были изменены для

устойчивости к ВИЧ. Этот эксперимент вызвал международное осуждение и привёл

к тюремному заключению учёного, но он продемонстрировал, что технология доступна.

Вопрос уже не в том, можем ли мы редактировать человеческие гены, но в том, должны ли мы это делать и в каких

целях. Нейротехнологии развиваются с поразительной скоростью. Компании

работают над созданием интерфейсов мозг -компьютер, позволяющих напрямую связывать человеческий мозг с цифровыми

системами. Первоначально эти технологии разрабатываются для медицинских целей,

для помощи парализованным людям или для лечения неврологических заболеваний, но

потенциал выходит далеко за пределы терапии. Нейроинтерфейс может расширить память,

ускорить обработку информации, позволить прямую коммуникацию без

использования языка. Он может изменить саму природу сознания, создавая гибридные формы когнитации,

частично биологические, частично цифровые. Искусственный интеллект уже превзошёл

человека во многих специфических задачах. Система машинного обучения превосходит лучших врачей в диагностике

определённых заболеваний по медицинским изображениям. Они побеждают чемпионов

мира в сложных играх, таких как шахматы и го. Они пишут тексты, создают

изображения, сочиняют музыку на уровне, часто неотличимо от человеческого творчества. Некоторые трансгуманисты

предполагают, что следующим шагом будет слияние человеческого интеллекта с искусственным, создание

киборгизированных сущностей, объединяющих биологические нейроны с кремниевыми процессорами.

Продление жизни является одной из центральных целей трансгуманизма.

Современная геронтология исследует механизмы старения на клеточном и молекулярном уровнях. Учёные

идентифицировали различные процессы, способствующие старению: укорочение теломеров, накопление повреждений ДНК,

дисфункция митохондрий, клеточное старение. Некоторые исследователи, такие

как Обри де Грей, утверждают, что старение является не неизбежным биологическим законом, но накоплением

повреждений, которые теоретически могут быть репарированы. Он предложил стратегию достижения пренебрежимого

старения через периодическую регенеративную терапию, которая восстанавливала бы повреждение быстрее,

чем они накапливаются. Крионика предлагает более радикальный подход. Идея состоит в том, чтобы

сохранить тело или мозг человека при сверхнизких температурах сразу после юридической смерти, в надежде, что

будущие технологии смогут восстановить жизнь и излечить причины смерти.

Несколько сотен человек уже были криоконсервированы, и тысячи заключили контракты на криоконсервацию после

смерти. Критики указывают, что криоконсервация повреждает клетки образованием

кристаллов льда и что нет никаких доказательств возможности восстановления.

Сторонники отвечают, что это единственная известная возможность потенциально избежать окончательной

смерти и что лучше иметь малый шанс, чем не иметь никакого. Идея загрузки

сознания в цифровые носители является, возможно, наиболее амбициозной и спорной

в трансгуманистическом проекте. Теоретически, если сознание является

функцией мозга, а мозг является физической системой, обрабатывающей информацию, то эта функция может быть

воспроизведена на другом субстрате. Если бы мы могли создать достаточно детальную

карту всех нейронов и синапсов мозга и симулировать их активность в компьютере,

результирующая цифровая система могла бы обладать тем же сознанием, что и оригинальный мозг.

Загруженное сознание было бы свободно от ограничений биологии, могло бы существовать неограниченно долго,

копироваться, модифицироваться, переноситься между различными субстратами. Однако философские проблемы

загрузки сознания огромны. Даже если технически возможно создать цифровую

копию мозга, неясно, будет ли эта копия тем же самым человеком или просто

копией, в то время как оригинальное сознание прекратит существование. Это классическая проблема персональной

идентичности. Если вас деструктивно сканируют, разрушая мозг в процессе, и затем

создают цифровую симуляцию, продолжаете ли вы существовать в цифровой форме или

вы умерли, а цифровая копия является новой сущностью, которая лишь полагает, что она вы? Этот вопрос не имеет

однозначного ответа в современной философии сознания. Трудная проблема сознания, сформулированная философом

Мы можем объяснить функциональные аспекты мозга, как нейроны обрабатывают

информацию, как формируются воспоминания, как принимаются решения. Но почему вся эта обработка информации

сопровождается субъективным переживанием? Почему существует нечто? Каково это быть мной, а не просто

функционирование информационной системы в темноте? Если мы не понимаем, как физические

процессы в мозге порождают сознание, как мы можем быть уверены, что цифровая симуляция этих процессов также породит

сознание? Некоторые философы, придерживающиеся функционализма, утверждают, что сознание

является функцией, а не субстанцией, и что любая система, реализующая правильную функциональную организацию,

будет обладать сознанием независимо от её физического субстрата. Согласно этой точке зрения, нет принципиальной разницы

между сознанием, реализованным в биологических нейронах, и сознанием, реализованным в силиконовых чипах.

Манипуляция символами согласно правилам, не порождают понимания. Компьютер может

симулировать сознание, но не будет обладать реальным сознанием, подобно тому, как симуляция пищеварения не

переваривает пищу. Эти философские дебаты имеют огромное практическое

значение. Если загруженное сознание не является реальным сознанием, то

трансгуманистический проект цифрового бессмертия оказывается иллюзией. Вы

умираете, а создаётся зомби, функционально идентичный вам, но лишённый внутреннего опыта. Если же

загруженное сознание реально, возникают новые этические вопросы. Можно ли

копировать сознание? Если создаётся тысяча копий одного сознания, являются

ли они одним человеком или тысячей разных людей? Можно ли удалять цифровые

сознания? Было бы это убийством? Религиозные традиции в основном

критически относятся к трансгуманизму, хотя и по разным причинам.

Христианство видит в стремлении к технологическому бессмертию и богоподобию повторение первородного

греха. Человек создан по образу Бога, но остаётся творением, не творцом. Попытка

преодолеть человеческую природу через технологии рассматривается как отказ принять божественный замысел, как

гордыня, полагающаяся на человеческую силу вместо божественной благодати.

Смерть входит в мир через грех, но побеждается не технологиями, а воскресением Христа.

Христианская надежда направлена на воскресение тела в преображённой форме, а не на технологическое продление

биологической жизни или перенос сознания в машины. Католическая церковь

разработала детальную биоэтику, которая различает терапию и улучшение.

Лечение болезней и восстановление здоровья морально оправдано. Изменение

человеческой природы ради улучшения проблематично. Особенно строго церковь относится к

вмешательству в зародышевую линию, генетическим модификациям, которые будут передаваться следующим

поколениям. Это рассматривается как недопустимое вмешательство в божественный акт

творения, как превращение человека в продукт человеческого дизайна. Папа

Франциск говорил об опасности технократической парадигмы, которая видят в природе, включая человеческую

природу, просто материал для технологической обработки. Ислам также критически относится к

радикальным изменениям человеческой природы. Человек является халифом, наместником Бога на Земле, ответственным

за творение, но не его создателем. Вмешательство в божественный дизайн

человека рассматривается как высокомерие. Однако исламская традиция признаёт

важность знания и науки. Первое откровение Корана было повелением читать. Исламская цивилизация внесла

огромный вклад в развитие науки и медицины. Поэтому исламские учёные различают между допустимыми медицинскими

вмешательствами, направленными на лечение и облегчение страданий, и недопустимыми попытками изменить

фундаментальную природу человека.

 Буддизм предлагает иную перспективу.

Фундаментальной истиной буддизма является непостоянство всех вещей.

Привязанность к постоянному я является источником страдания. Цель буддийской практики не в укреплении и продлении

индивидуального существования, но в освобождении от иллюзии отдельного Я. С

этой точки зрения трансгуманистический проект технологического бессмертия движется в противоположном направлении

от освобождения. Он укрепляет привязанность к индивидуальному существованию, к телу, к

сознанию, к я, которое буддизм рассматривает как пустое, лишённое

самостоятельной сущности. Однако некоторые буддийские мыслители видят потенциальную совместимость между

буддизмом и определёнными аспектами трансгуманизма. Если технологии могут уменьшить

страдания, они соответствуют буддийскому идеалу сострадания. Если нейротехнологии могут

способствовать медитативным состояниям или усилить способность концентрации и осознанности, они могут быть

инструментами на пути к просветлению. Буддизм не привязан к идее неизменной

человеческой природы, поскольку сама идея постоянной сущности является

иллюзией. Однако ключевым остаётся вопрос о мотивации.

Используются ли технологии для укрепления эго и привязанности или для культивации мудрости и сострадания?

Секулярные критики трансгуманизма поднимают другие вопросы. Фрэнсис Фукуяма назвал трансгуманизм самой

опасной идеей в мире. Его беспокойство связано с тем, что технологическое

улучшение человека создаст новые формы неравенства. Если доступ к технологиям улучшения

будет ограничен богатыми, возникнет биологическая каста, генетически и технологически превосходящее остальное

человечество. Это не просто экономическое неравенство, которое теоретически может быть

исправлено перераспределением ресурсов. Это неравенство будет закодировано в

биологии и передаваться следующим поколениям, создавая постоянное разделение человечества.

Концепция человеческого достоинства, лежащая в основе современных прав человека, предполагает фундаментальное

равенство всех людей в силу их принадлежности к человеческому роду. Все люди рождаются свободными и равными в

своём достоинстве и правах, провозглашает всеобщая декларация прав человека.

Но что происходит, когда люди больше не рождаются с одинаковыми базовыми способностями, когда некоторые

генетически спроектированы для превосходства? Сохраняется ли фундаментальное равенство

или оно становится юридической фикцией, скрывающей реальное биологическое неравенство?

Джордж Анас, биоэтик, предупреждает о возможности видового расщепления. Если

улучшенные люди станут настолько отличаться от обычных людей, они могут перестать рассматривать себя как

принадлежащих к одному виду. История показывает, что люди, рассматривающие других как принадлежащих к низшему виду,

способны на чудовищные жестокости. Рабство, геноцид, этнические чистки

стали возможны потому, что жертвы дегуманизировались, рассматривались как менее чем полностью человеческие. Что

произойдёт, когда это различие будет невоображаемым, но реальным? Когда улучшенные люди будут объективно

превосходить обычных людей по всем измеримым параметрам? Трансгуманисты

отвечают, что эти опасения преувеличены и что решением является не запрет технологий, но обеспечение справедливого

доступа к ним. Также как современные общества стремятся обеспечить доступ к образованию и здравоохранению для всех,

будущие общества должны обеспечить доступ к технологиям улучшения.

Ник Бостром говорит о морфологической свободе, праве изменять собственное тело и сознание. Это право должно быть

универсальным, а не привилегии элиты. Некоторые трансгуманисты выступают за

социальную программу, которая сделала бы базовые улучшения доступными всем как

часть общественного здравоохранения. Однако вопрос о справедливом распределении остаётся сложным.

Даже если базовые улучшения станут доступны всем, будут существовать более дорогие и эффективные версии, доступные

только богатым. Более того, первые поколения технологий улучшения будут

экспериментальными, дорогими. и рискованными.

К тому времени, когда технологии станут безопасными и доступными для масс, элита уже получит преимущество в несколько

поколений. Дети богатых, улучшенные генетически, получат лучшее образование,

лучшие нейроинтерфейсы, лучшие методы продления жизни. Они передадут эти преимущества своим детям,

создавая аристократию не по праву рождения в старом смысле, но по праву генетического и технологического

преимущества. Существует также вопрос о том, что считать улучшением. Трансгуманисты часто

говорят об увеличении интеллекта, силы, продолжительности жизни, как будто эти

цели самоочевидно желательны. Но человеческие способности существуют в контексте.

Увеличение интеллекта некоторых может обесценить интеллект остальных.

Продление жизни создаёт проблему перенаселения и межпоколенческой справедливости.

Увеличение физической силы может быть использовано для насилия. Более того,

различные культуры и индивиды имеют разные представления о желательных качествах. То, что считается улучшением

в одной культуре, может рассматриваться как ухудшение в другой. Феминистские

критики указывают, что трансгуманистические проекты часто отражают маскулинные ценности контроля,

доминирования и отделение от природы. Желание освободиться от биологических

ограничений, особенно от процессов рождения и смерти, может корениться в фантазии о полной автономии,

независимости от матери, от тела, от природы. Трансгуманистическая риторика

часто использует военные метафоры: завоевание природы, победа над смертью,

битва против старения. Это выражает определённое отношение к миру как к противнику, который должен быть

покорён, а не к дому, который должен быть принят. Экологические критики указывают, что

трансгуманизм является продолжением той же логики технологического доминирования, которая привела к

экологическому кризису. Вместо того, чтобы признать ограниченность ресурсов и

необходимость жить в равновесии с природой, трансгуманизм предлагает ещё большее технологическое вмешательство.

Некоторые трансгуманисты предлагают колонизацию космоса как решение ограниченности ресурсов Земли. Но это

просто экспорт экстрактивной логики на новые территории вместо фундаментального изменения отношения к природе.

Архетипический анализ трансгуманизма выявляет глубинные мифологические паттерны. Карл Юнг описывал архетипы как

универсальные паттерны в коллективном бессознательном, выражающиеся в мифах, снах и культурных нарративах. Стремление

к богоподобию является архетипическим. Оно выражается в фигуре героя, который

превосходит человеческие ограничения, в фигуре мага, который овладевает тайными

знаниями и силами. в фигуре Творца, который создаёт новые миры.

Но каждый из этих архетипов имеет теневую сторону. Тень героя - это

гибрис, чрезмерная гордыня, которая ведёт к падению. Тень мага - это

одержимость властью, использование знания для доминирования, а не мудрости.

Тень творца - это разрушение, создание монстров, игра в Бога без божественной

мудрости. Мифы о Прометее, Икаре, Фаусте, Франкенштейне выражают опасности

трансгуманистического проекта. Все эти фигуры стремились превзойти человеческие

ограничения через знания или технологию, и все заплатили ужасную цену. Миф о

Франкенштейне особенно релевантен. Виктор Франкенштейн создаёт искусственного человека из мёртвой

материи, стремясь победить смерть и стать как боги. Но его творение

становится монстром, источником страданий и смерти. Франкенштейн

отвергает своё создание, не берёт ответственность за него, и результатом становится трагедия.

Мэри Шелли в своём романе исследует опасность технологии, развитой без этической ответственности и мудрости.

Учёный, одержимый возможностями своего знания, не задумывается о последствиях до тех пор, пока не становится слишком

поздно. Современный трансгуманизм рискует повторить ошибку Франкенштейна.

Технологии развиваются с огромной скоростью, опережая этическую рефлексию и социальные институты, которые могли бы

их регулировать. Генетическое редактирование человеческих эмбрионов уже проведено, хотя

международный консенсус об этических рамках не достигнут. Искусственный интеллект развивается,

хотя мы не понимаем его долгосрочных последствий. Нейротехнологии внедряются, хотя

философские вопросы о природе сознания и личности остаются нерешёнными.

Скорость технологического развития такова, что этическая рефлексия всегда запаздывает, реагирует на уже

свершившиеся факты, а не предвосхищает и направляет развитие.

Некоторые философы предлагают принцип предосторожности. В ситуации неопределённости относительно

последствий технологии, особенно когда потенциальный вред может быть катастрофическим и необратимым,

бремя доказательства лежит на сторонниках технологии. Они должны доказать, что технология

безопасна, прежде чем она будет внедрена. Критики этого принципа отвечают, что он

парализует инновации. Мы никогда не можем быть абсолютно уверены в безопасности новой технологии до её

внедрения. Если бы принцип предосторожности применялся строго, большинство

медицинских и технологических инноваций никогда бы не появились. Альтернативой

является принцип проактивной этики. Технологическое развитие должно

сопровождаться этической рефлексией, общественным диалогом и разработкой регулятивных рамок. Но как организовать

такой диалог в глобальном масштабе? Различные культуры и общества имеют

различные ценности и приоритеты. То, что приемлемо в одной культуре, может быть

неприемлемо в другой. Если одна страна запрещает определённую

технологию по этическим соображениям, но другие страны разрешают, возникает

технологическая гонка и регуляторный арбитраж. Учёные и компании переместятся

в юрисдикции с менее строгими правилами. Проблема усугубляется тем, что некоторые

технологии имеют двойное применение. Генетическое редактирование может быть использовано для лечения наследственных

заболеваний или для создания дизайнерских детей. Нейротехнологии могут помогать парализованным людям или

служить инструментами контроля и манипуляции. Искусственный интеллект может решать

глобальные проблемы или создавать автономное оружие. Различие между

терапией и улучшением часто размыто. Лекарство, разработанное для лечения болезни Альцгеймера, может

использоваться здоровыми людьми для улучшения памяти. Технология, созданная для помощи инвалидам, может

использоваться для создания сверхчеловеческих способностей. Экзистенциальные риски

трансгуманистических технологий также вызывают озабоченность.

Ник Бострум, несмотря на свою поддержку трансгуманизма, предупреждает об экзистенциальных рисках, связанных с

продвинутым искусственным интеллектом. Если мы создадим искусственный интеллект, превосходящий человеческий во

всех областях, и если его цели не будут идеально согласованы с человеческими ценностями, результатом может быть

катастрофа. Сверхинтеллект мог бы оптимизировать мир согласно своим целям способами,

несовместимыми с человеческим выживанием. Это не научная фантастика, но серьёзная техническая проблема,

известная как проблема выравнивания. Синтетическая биология и генетическое

редактирование создают риск случайного или преднамеренного создания опасных

патогенов. Знания и инструменты для создания вирусов становятся всё более доступными.

В будущем отдельный человек или небольшая группа могут получить возможность создать пандемию,

потенциально более смертоносную, чем любая естественная болезнь.

Это ставит вопрос о том, как контролировать распространение знания, не подавляя научный прогресс и не

создавая опасную монополию на информацию. Нанотехнологии, ещё одна технология,

обещающая радикальное улучшение человека, также несут риски. Теоретически самореплицирующиеся

наномашины могут выйти из-под контроля, превращая биосферу в серую слизь в

сценарии, известном как экокатастрофа. Хотя большинство экспертов считают этот

конкретный сценарий маловероятным, он иллюстрирует общий принцип. Технологии,

дающие огромную власть, также создают огромные риски.