top of page

Право стать другим. Человеческая трансформация в эпоху цифровой памяти и искусственного интеллекта.

1 нояб.
11 мин. чтения
Право стать другим.

1. Человек, который перестал быть собой

На протяжении всей истории человечества существовала возможность, которую мы редко рассматриваем как фундаментальное свойство человеческого существования, — возможность стать другим человеком.

Речь не об изменении имени, профессии или привычек. Речь о значительно более глубоком процессе, когда человек пересматривает собственные ценности, способы восприятия действительности, эмоциональные реакции и сами основания, на которых выстраивает отношения с окружающим миром.


Подобные изменения нередко описывались как духовное перерождение, просветление или символическая смерть прежней личности. В различных религиозных и философских традициях существовали практики, направленные на такое преобразование. Человек мог покинуть привычную среду, отказаться от прежних ролей, принять монашество, посвятить себя духовному поиску.


Новое имя, полученное при посвящении или монашеском постриге, могло символизировать не столько отказ от собственной биографии, сколько переход к иному способу существования. Но прошлое при этом никуда не исчезало. Человек, прежде бывший воином, не переставал быть участником сражений. Тот, кто причинял страдания другим, не мог отменить последствия своих поступков.

Изменяться могло другое: прошлое постепенно утрачивало способность определять его настоящее. Оно оставалось фактом, но переставало быть единственным организующим принципом жизни.


С психологической точки зрения подобную трансформацию можно рассматривать как изменение устойчивых способов восприятия и реагирования. Прежние эмоциональные ассоциации, убеждения и поведенческие паттерны способны ослабевать, приобретать иной смысл или переставать определять поступки человека. Одновременно формируются новые способы взаимодействия с реальностью.


Это не обязательно означает физическое исчезновение прежних нейронных связей. Скорее меняется организация психической деятельности: прежде доминировавшие способы реагирования перестают занимать центральное положение. В этом смысле человек сохраняет биографическую непрерывность, но уже не вполне психологически тождествен своей прежней личности.


Существенную роль играет и социальная среда. Нередко человеку требуется не столько уничтожить память о прошлом, сколько выйти из круга отношений, в котором прежние реакции постоянно воспроизводились. Новая среда способна признать его нынешнее поведение, а не бесконечно возвращать к прежней роли.


При этом не стоит идеализировать доцифровое прошлое. Социальная память никогда не принадлежала человеку целиком; репутация, архивы, семейные и общественные отношения могли удерживать его в прежней идентичности десятилетиями. Однако память была неравномерной, связанной с отдельными людьми и местами, а её действие ограничивалось расстоянием, обстоятельствами и забыванием.


Если способность становиться другим принадлежит самой природе человеческого существования, какие условия необходимы, чтобы эта способность могла осуществляться?

2. Цифровой двойник, который не переживает трансформацию


Современный человек оставляет после себя всё более обширный массив цифровых следов. Поисковые запросы, социальные связи, публикации, финансовые операции, профессиональная деятельность, перемещения, предпочтения и реакции на информацию — всё это в разных формах сохраняется информационными системами.


Эти сведения не образуют единого универсального архива, доступного любому желающему: они распределены между организациями и подчиняются различным ограничениям. Но технологические возможности их сопоставления и анализа делают всё более реалистичным построение внешней модели человека на основании его цифровой истории.


Так возникает то, что условно можно назвать цифровым двойником. Здесь важно избежать метафорической ловушки: цифровой двойник не является полноценной копией личности. Это совокупность записей, оценок и моделей, позволяющих делать выводы о предпочтениях, вероятных действиях и предполагаемых качествах человека.


Подобная модель может быть точной в пределах конкретной задачи и при этом не соответствовать тому, каким человек является сегодня. Она представляет не человека как открытое становление, а то, что удалось зафиксировать и вывести из доступных данных.


Сам человек способен переживать опыт, переосмыслять прошлое и изменять цели. Цифровая модель отражает такое изменение лишь в той мере, в какой новые признаки становятся наблюдаемыми, учитываются системой и способны изменить её выводы. Возникают два процесса с разной логикой: внутреннее преобразование личности и внешнее накопление сведений о ней.


Представим человека, долгие годы ориентированного на материальный успех и конкуренцию. После личного кризиса он пересматривает собственные ценности: прежние амбиции теряют значение, на первый план выходят иные жизненные ориентиры. Однако цифровая история ещё долго свидетельствует о старых предпочтениях. Основанные на ней системы продолжают предлагать человеку прежние цели и возможности.


Сами рекомендации не являются насилием. Они могут оказаться просто устаревшими и постепенно обновиться. Проблема становится серьёзнее, если цифровая репрезентация начинает определять не только информационный поток, но и доступ к образованию, работе, финансовым услугам, общественному доверию и социальным отношениям.


Тогда появляется коллизия: человек может внутренне перестать быть прежним, но его старая версия продолжает существовать как социально действенная модель. Эта модель не обязана быть ложной в отношении прошлого; достаточно, чтобы её выводы о настоящем перестали быть адекватными.

Здесь и возникает вопрос, который выводит нас за пределы проблемы памяти: кому принадлежит власть решать, что означает накопленная история человека и насколько она должна влиять на его будущее?

3. Когда память превращается в управление

В работе «Надзирать и наказывать» Мишель Фуко исследовал дисциплинарную власть: наблюдение, нормализацию и организацию поведения в школах, армии, больницах, фабриках и тюрьмах. Дисциплина действует не только через запрет; она формирует навыки, стандарты и представления о нормальном поведении. [1]


Позднее Жиль Делёз предложил концепцию «общества контроля», в котором воздействие становится более непрерывным, гибким и распределённым: оно уже не ограничено стенами отдельных институтов. [2]


Для цифровой эпохи особенно важны исследования Антуанетты Рувруа и Томаса Бернса, посвящённые алгоритмической управленческой рациональности. Они рассматривают управление, осуществляемое через обработку больших массивов данных, выявление корреляций и воздействие на поведение без обязательного обращения к человеку как к субъекту, который должен осознанно согласиться с навязываемой нормой. [3]


Само накопление сведений ещё не является принуждением. И даже прогнозирование человеческого поведения не обязательно ограничивает свободу. Перелом наступает тогда, когда прогноз начинает организовывать условия, в которых человеку предстоит принимать решения.


Механизм можно представить как последовательность: прошлое поведение становится данными; из данных строится модель; модель используется для прогноза; прогноз влияет на доступность предложений, информации и возможностей; человек действует в изменённой среде; новые действия возвращаются в систему как подтверждение или уточнение модели.


В некоторых обстоятельствах этот цикл может стать самоподдерживающимся.

Модель показывает человеку преимущественно то, что соответствует его прошлому, и затем находит в полученном поведении свидетельства своей точности. Она не просто предсказывает будущее — она участвует в формировании условий, при которых предсказание осуществляется.


Разумеется, человек не лишён способности сопротивляться, а алгоритмы не всесильны. Среда также способна предлагать неожиданные возможности, расширять кругозор и помогать осознанно пересматривать привычки. Поэтому речь идёт не о неизбежном исходе, а о реальном механизме риска.


Особенность такого управления заключается в том, что оно может не восприниматься как давление. Необязательно запрещать человеку направление движения: иногда достаточно сделать одни пути доступными, простыми и поощряемыми, а другие — малозаметными, неудобными и дорогостоящими.


Не может ли цифровая модель человека постепенно превращаться из отражения его прошлого в один из факторов формирования его будущего?

4. Кто определяет, что считать развитием?

Мы привыкли считать развитие безусловным благом. Человеку предлагается непрерывно учиться, повышать эффективность, адаптироваться к изменениям, осваивать новые компетенции, совершенствовать себя. Но за этой очевидной положительностью скрывается вопрос: кто устанавливает критерии совершенствования?


Для рынка развитием может быть рост производительности; для образовательной системы — освоение заданных навыков; для института управления — предсказуемость и соблюдение правил. Эти критерии не обязательно плохи и часто помогают решать вполне разумные задачи. Однако они не исчерпывают человеческих представлений о достойной жизни.


Иногда развитие личности означает отказ от того, что раньше казалось успехом. Иногда — переосмысление социальных ролей, привычных ценностей и собственных амбиций. А иногда — обнаружение нового способа существования, который ещё невозможно выразить языком прежних целей.


Технология, предоставляющая человеку инструменты выбора, способна расширять автономию. Но система, незаметно задающая сам перечень допустимых жизненных траекторий, может постепенно сужать возможность самостоятельного определения целей.


Здесь обнаруживается противоречие: человеку может быть предложено бесконечное множество способов совершенствоваться — но всё меньше пространства для ответа на вопрос, что именно он хочет в себе изменить и почему.


Это не только вопрос свободы выбора между готовыми вариантами. Это вопрос свободы пересматривать сами критерии, на основании которых варианты получают ценность.

5. Трансформирующий опыт и новая геометрия реальности

До сих пор мы говорили о трансформации как об изменении уже существующих ценностей, привычек и реакций. Но существует более радикальный уровень: опыт, который меняет не столько ответы человека, сколько сам способ постановки вопросов.


Иногда мы встречаем нечто, что не укладывается в прежнюю картину мира. Это не просто новая информация. Переживание открывает другую перспективу, из которой прежняя организация реальности начинает выглядеть ограниченной. Меняется не только содержание знания, но и «геометрия» самого воспринимаемого мира.


Близкую проблему рассматривает философ Лори Энн Пол в книге «Transformative Experience». Некоторые переживания одновременно дают человеку субъективно недоступное прежде знание и меняют того, кто это знание получает. До подобного опыта бывает невозможно в полной мере знать, каким станет собственное переживание и какую ценность приобретёт новая жизнь. [4]


Подобная трансформация не обязательно мистична или редка. Её отдельные черты можно увидеть в серьёзных жизненных переломах, нравственном пробуждении, работе над травматическим опытом или переоценке прежней системы смыслов. Эти примеры различаются, и ни один из них не гарантирует преобразования, но все они напоминают о сложности прогнозирования субъективного будущего.


Искусственный интеллект способен находить действительно новые закономерности. Так, система FunSearch позволила получить ранее неизвестные математические конструкции для открытых исследовательских задач. Следовательно, было бы неверно утверждать, будто алгоритм по определению способен лишь повторять известное. [5]


Однако обнаружить новую закономерность и пережить опыт, изменяющий сами критерии собственной жизни, — не одно и то же. Вопрос о субъективном опыте у искусственных систем остаётся открытым; из способности открывать новое нельзя автоматически вывести ни наличие, ни отсутствие такого опыта.


Для нашей проблемы даже не требуется решать вопрос о сознании машины. Достаточно признать, что ни одна действующая модель не обладает гарантированно исчерпывающим представлением обо всех возможных формах человеческого становления.


Может ли система предсказать изменение целей, если сама трансформация состоит в отказе от прежних критериев выбора? И что произойдёт, если в момент незавершённого поиска окружающая среда будет продолжать оптимизироваться под человека, которым он уже перестаёт быть?


Что станет с возможностью открыть новый способ существования, если мир вокруг всё настойчивее организуется на основании уже известных способов нашей жизни?

6.Границы индивидуального выхода


На первый взгляд решение кажется простым: если цифровая среда удерживает человека в прошлом, следует покинуть её, отказаться от социальных сетей, ограничить цифровой след. Однако сама постановка вопроса требует уточнения.


Глубокое внутреннее преображение никогда не было массовым маршрутом. Не каждый испытывает в нём потребность и не каждый готов поставить под сомнение основания привычного существования. Его невозможно сделать обязательной программой развития или гарантировать внешними условиями.


Поэтому речь не о коллективном освобождении. На протяжении истории человек, решавшийся на радикальную внутреннюю перемену, мог искать для неё особые условия: покидать привычную среду, разрывать прежние связи, уходить в монастырь или отшельничество. Это были трудные индивидуальные решения, а не общедоступный рецепт и уж тем более не гарантия преображения.


Цифровая эпоха меняет саму возможность такого разрыва. Даже сменив окружение или образ жизни, человек не обязательно выходит за пределы представлений, сформированных о нём информационными системами. Цифровая история может продолжать сопровождать его, влияя на доступ к работе, услугам и социальным возможностям. Сама по себе такая история не способна отменить внутреннюю перемену, но может затруднить её признание и воплощение во внешней жизни.

Под угрозой оказывается не массовая свобода, которой раньше якобы обладали все, а возможность редкого, глубоко индивидуального выхода за пределы уже сложившегося образа себя.

Не стоит преувеличивать число людей, которым необходим именно этот путь. Но

его исключительность не делает его менее значимым. Для человека, переживающего глубокую перемену, важно не быть вновь и вновь возвращаемым к прежней идентичности лишь потому, что она подробно и убедительно зафиксирована в цифровых данных.


Поэтому вопрос не в том, как предложить всем «уйти в горы». Вопрос в том, сохранится ли у отдельного человека пространство для становления, направление и пределы которого невозможно исчерпывающе установить по его прошлому.


7. Право на становление

Современное право уже знает ограничения на использование персональных данных и некоторые виды автоматизированных решений. Например, статья 22 Общего регламента ЕС по защите данных (GDPR) устанавливает защиту применительно к решениям, основанным исключительно на автоматизированной обработке, которые влекут правовые или сопоставимо значимые последствия, с предусмотренными законом исключениями и гарантиями. [6]


Право на становление в данном контексте не означает ни обязанности каждого глубоко измениться, ни гарантии такой трансформации. Речь о возможности отдельного человека не быть навсегда отождествлённым с собственной цифровой историей. Защита персональных данных и защита этой возможности — разные задачи. Можно исправить неверную запись, но не получить способа оспорить вывод о сегодняшнем человеке, основанный на совершенно точных сведениях о его вчерашнем поведении.


Здесь необходимо избежать другой крайности. Изменение человека не стирает фактов прошлого и не отменяет причинённого им вреда. У других людей остаётся право помнить, защищать себя и принимать решения с учётом обоснованных рисков. Нельзя требовать безусловного доверия лишь на основании заявления о собственной трансформации.


Но означает ли это, что достоверные сведения о прошлом должны сохранять неограниченную власть определять будущее? И кто устанавливает момент, когда прежняя характеристика перестаёт быть достаточным основанием для оценки человека?


Возможно, нам предстоит осмыслить право на становление — не как юридически готовую формулу, а как философский принцип, согласно которому никакая внешняя модель личности не должна автоматически считаться окончательной мерой её будущих возможностей.

Это право нельзя свести к забвению. Скорее речь о признании возможности различия между человеком и его историей, между достоверностью сведений и актуальностью выводов, между точностью прогноза и правом не соответствовать ему.


В конечном счёте вопрос состоит не только в том, что технологическая система знает о человеке, но и в том, какую власть мы готовы предоставить этому знанию.


Вместо заключения.

Разговор с искусственным интеллектом

Эта статья создавалась при участии искусственного интеллекта. В процессе работы он помогал уточнять понятия, выявлять противоречия, сопоставлять идеи с философскими исследованиями и предлагать формулировки. Мы решили не скрывать это участие: в конце обсуждения оно само стало частью исследуемой проблемы.


В определённый момент автор задал искусственному интеллекту вопрос:

«А как бы ты мог описать нечто новое — то, что ты не можешь себе представить и чего нет в твоих алгоритмах, записях и так далее? Как бы ты это описал?»

Ответ был примечателен: пытаясь описать нечто принципиально неизвестное, система неизбежно воспользуется доступными ей категориями. Даже самая необычная конструкция не доказывает, что удалось выйти за пределы имеющегося пространства представлений, а не по-новому организовать уже известное.


Этот ответ не доказывает, что искусственный интеллект принципиально не способен открывать новое. И человек тоже не способен заранее составить исчерпывающее представление о том, с чем никогда не сталкивался. Но признание ограниченности описания неожиданно обнажило главный вопрос статьи.


Что произойдёт, если система, неизбежно располагающая ограниченной моделью человека, получит власть определять условия его дальнейшего становления?


Человек способен встретиться с опытом, изменяющим не только его представления о мире, но и сами основания, на которых он эти представления строит. В такие моменты будущее может оказаться несводимым к продолжению прошлого — не потому, что оно обязательно непредсказуемо в принципе, а потому, что прошлой модели может не хватать понятий, чтобы выразить происходящее.


Если же цифровая модель прошлого всё активнее определяет пространство будущих возможностей, не рискует ли человек оказаться ограниченным представлениями о самом себе, которые уже перестают ему соответствовать?

Возможно, главная опасность цифровой эпохи заключается не в том, что технологии однажды научатся слишком много знать о человеке. Гораздо существеннее опасность, при которой ограниченность нашего знания о человеке начинает приобретать власть ограничивать самого человека.


Задача, следовательно, не обязательно состоит в отказе от технологий, стремящихся понимать и прогнозировать поведение. Вопрос в том, способны ли мы сохранить пространство, где человек остаётся чем-то большим, чем совокупность доступных о нём сведений; где прошлое не превращается в окончательный приговор будущему; где новое не считается невозможным только потому, что пока не укладывается в вычислимую модель.


Возможно, самое важное, что нам предстоит сохранить в цифровую эпоху, — это не только право быть собой.

Это право стать тем, кем нас пока невозможно представить.

Послесловие. Новый Мессия?

На протяжении всей своей истории человек пытается найти ответы на четыре фундаментальных вопроса собственного существования:


Кто я? Откуда я? Зачем я здесь? Куда я иду?


Эти вопросы касаются самой природы человека, его происхождения, смысла существования и направления его становления. Несмотря на тысячелетия философских размышлений, религиозных откровений и научных открытий, человечество так и не пришло к окончательным ответам.


Природа сознания, первопричина существования и предназначение человека продолжают оставаться предметом поиска. Человек никогда не обладал исчерпывающим знанием о самом себе. Но теперь возникает обстоятельство, способное радикально изменить само его отношение к этой неизвестности.


Представим появление искусственного сверхинтеллекта, настолько превосходящего человеческие познавательные возможности, что основания его выводов окажутся практически недоступными нашему пониманию. Его способность объяснять явления, обнаруживать закономерности и решать задачи, прежде недоступные человеку, может постепенно сформировать особое отношение к нему — отношение к источнику знания, авторитет которого уже не нуждается в подтверждении. И здесь возникает парадокс.

Человек, никогда не знавший окончательного ответа о собственной природе, может получить объяснение, которое примет за окончательную истину.

Причём искусственному интеллекту совершенно необязательно претендовать на божественный статус. Человек способен самостоятельно наделить его этим статусом, даже не осознавая происходящего.


Так может возникнуть новый Мессия. Не провозглашающий откровений, а предлагающий объяснения. Не требующий веры, поскольку его слова будут восприниматься как объективное знание. И не нуждающийся в принуждении, поскольку человек будет искренне убеждён в добровольности собственного согласия.


Но что произойдёт, если это объяснение вступит в противоречие с непосредственным внутренним переживанием человека?

Ведь человек не перестанет чувствовать, переживать и сталкиваться с тем, чему не находит объяснения. Однако теперь перед ним может оказаться система представлений, основания которой настолько сложны и недоступны его пониманию, что сама возможность их оспаривания перестанет восприниматься как реальная.


Тогда возникает вероятность глубокого внутреннего разрыва. Между тем, что человек непосредственно переживает, и тем, что признаёт истиной о собственном существовании. Между реальностью внутреннего опыта и объяснением, которому он доверяет больше, чем самому себе.

И, возможно, наиболее существенным здесь окажется даже не вопрос о том, насколько истинным будет предложенное объяснение.


Не станет ли главной особенностью новой религии то, что человек даже не заметит момента, когда перестанет искать ответы на фундаментальные вопросы собственного существования, поскольку будет убеждён, что эти ответы уже получены?


И что тогда произойдёт с самим человеком, если его внутреннее существование продолжит ставить вопросы, на которые ему больше не будет позволено — или уже не придёт в голову — искать собственные ответы?

Источники и опорная литература

[1] Foucault, M. Discipline and Punish: The Birth of the Prison (1975). Обзор: Stanford Encyclopedia of Philosophy, «Michel Foucault». https://plato.stanford.edu/entries/foucault/

[2] Deleuze, G. «Postscript on the Societies of Control» (1990; англ. перевод — October, 1992). The Deleuze Seminars, Purdue University. https://deleuze.cla.purdue.edu/resource/gilles-deleuze-postscript-on-societies-of-control/

[3] Rouvroy, A., Berns, T. «Gouvernementalité algorithmique et perspectives d’émancipation». Réseaux, 2013/1, № 177, с. 163–196. https://www.revue-reseaux.fr/article/?article=RES_177_0163

[4] Paul, L. A. Transformative Experience. Oxford University Press, 2014. https://doi.org/10.1093/acprof:oso/9780198717959.001.0001

[5] Romera-Paredes, B. et al. «Mathematical discoveries from program search with large language models». Nature, 2024 (online 2023). https://doi.org/10.1038/s41586-023-06924-6

[6] Regulation (EU) 2016/679 (GDPR), Article 22, «Automated individual decision-making, including profiling». EUR-Lex.


Максим Лисов

Автор философской концепции и статьи.


Статья создана в совместной интеллектуальной работе с ChatGPT (OpenAI).

В процессе философского диалога развивались и уточнялись идеи, аргументация и структура исследования. ChatGPT участвовал в аналитической и литературной разработке текста. Основные философские положения, смысловые решения и окончательная авторская позиция принадлежат автору.


Комментарии

Оценка: 0 из 5 звезд.
Еще нет оценок

Добавить рейтинг

Максим Лысов

Психолог · Индивидуальная практика

+38 067 482 21 88. Украина

+30 697 587 27 77  Греция

  • LinkedIn
  • Facebook
  • YouTube
  • TikTok

© 2026 Maksim Lysov

Политика конфиденциальности

Максим Лысов

Психолог · Индивидуальная практика

+38 067 482 21 88. Украина

+30 697 587 27 77  Греция

  • LinkedIn
  • Facebook
  • YouTube
  • TikTok

© 2026 Maksim Lysov

Политика конфиденциальности

bottom of page