Юваль Ной Харари в Оксфорде: Таннеровская лекция (2026)
30 июня 2026 года историк Юваль Ной Харари прочитал в Оксфорде ежегодную Таннеровскую лекцию о человеческих ценностях. Во многом мысли учёного перекликаются с тем, как я сам ощущаю проблематику наступления ИИ на человеческое общество. Возможно, вам они тоже покажутся интересными или даже полезными. Ниже - моё вольное изложение главных мыслей лекции (как я их услышал) на русском. Оригинал доступен на YouTube-канале Харари.
Инструмент или агент
Самое важное, что следует понять про искусственный интеллект: это уже не инструмент в наших руках. Это агент, и руки у него свои собственные.
Что такое агентность и чем агент отличается от инструмента? Сознание агенту не требуется. Требуется другое: способность самостоятельно принимать решения, самостоятельно придумывать новые идеи, узнавать то, чего не знали твои создатели, и меняться так, как они не предвидели.
По этому признаку атомная бомба, при всей её чудовищной мощи, агентом не является. Она не учится и не меняется сама, не выбирает, какой город бомбить, и не изобретает водородную бомбу по собственной инициативе. Кофемашина тоже не агент: когда мы нажимаем кнопку, она варит кофе по заранее заданной программе. Она ничему не учится и ничего нового не создаёт.
А теперь представьте другую кофе-машину. Вы ещё только подходите к ней, а она уже сообщает: «Я наблюдала за вами несколько недель, и по вашему лицу и времени суток предполагаю, что вы хотите эспрессо. Я уже его сварила». Вот это ИИ: он сам чему-то научился и сам принял решение. А если назавтра машина скажет: «Я изобрела новый напиток, он понравится вам больше эспрессо, попробуйте», тогда это ИИ в полном смысле слова. Он изменился непредсказуемо для создателей и придумал нечто, чего раньше не существовало. Таких кофемашин в продаже пока нет, разве что где-нибудь в лабораториях Anthropic или Google уже стоят прототипы.
Урок шахматной доски
В узких областях агентность и творчество ИИ уже превосходят человеческие. Шахматный ии-агент сам выбирает ходы и сам изобретает стратегии, которые не приходили в голову ни одному гроссмейстеру за тысячи лет игры. Обыграть его человек сегодня не может.
Скептики отвечают на это так: доска - искусственная и очень узкая среда, созданная людьми. Значит, и агентность здесь ненастоящая, и планете она не угрожает. Бросьте лучший шахматный ии-движок в джунгли, и что будет? Он не начнёт добывать железо, строить заводы и собирать армию роботов. Без электричества с построенных людьми станций он вообще беспомощен.
Возражение звучит убедительно, но тот же довод применим к любому известному виду интеллекта. Человеческий разум тоже работает лишь внутри довольно узкой экосистемы, которую построил кто-то другой. Высадите человека одного на Марсе, и он погибнет за секунды, так же как шахматный ии-движок в джунглях. Человеческий интеллект живёт только в той тончайшей нише, которую деревья, бактерии и насекомые обустраивали на Земле четыре миллиарда лет. У каждого агента своя ниша: рыбы живут в океанах, которых они не создавали, обезьяны - в лесах, которых они не сажали, а все млекопитающие дышат кислородом, которым атмосферу наполнили не они.
Великое кислородное событие
Примерно 2,4 миллиарда лет назад в атмосфере Земли кислорода почти не было, а для большинства тогдашних организмов он являлся смертельным ядом. Затем древние микробы за сотни миллионов лет отравили им воздух планеты, как побочным продуктом своего фотосинтеза. Это событие геологи называют "Кислородной катастрофой" (или "Великим Окислением"). Множество древних видов вымерло. Но часть выживших приспособились, а со временем и вовсе стала полностью зависимы от кислорода. Среди этих счастливцев были, кстати, и наши далёкие предки. Получается, мы до сих пор живём и действуем в искусственной кислородной среде, которую когда-то создали чужие для нас микроорганизмы.
Что, если сегодня разыгрывается похожий эпизод в эволюции жизни? Тысячелетиями люди наполняют планету веществом, которое может оказаться губительным для большинства организмов, включая, возможно, и самих Homo sapiens, но зато создаёт искусственную среду, где расцветает ИИ. Речь идёт не про углекислый газ. Речь идёт про данные, про бюрократию и про то, что вы потребляете прямо сейчас: про слова, про языковые токены.
Мы превратили планету в очень искусственную среду. Для большинства живых существ такая среда бесполезна. Для ИИ она питательна. Как рыбы живут в океане, а обезьяны в лесу, так ИИ живёт в бюрократии и текстовых токенах.
Ремесло, которое строит доверие
По отдельности человек не сильнее и не умнее других зверей: один на один он проиграет и шимпанзе, и льву, и слону. Но миллион людей легко побеждает миллион шимпанзе, потому что люди умеют сотрудничать в огромных группах, а шимпанзе не умеют.
Шимпанзе в рамках небольших стай кооперируются на основе личного знакомства, но миллион человек лично знать друг друга не может. Значит, нужна бюрократическая система: право, финансы, церкви, государства, университеты. Плотник делает столы, инженер строит мосты. А что весь день строят банкир, юрист, чиновник, священник, бухгалтер?
Они строят доверие. Их работа - создавать доверие между массами незнакомых людей и тем самым делать возможным масштабное сотрудничество, на котором держится почти всё, чего достиг наш вид. Мой банкир, которого я толком не знаю, весь день трудится, чтобы я доверил его банку свои сбережения. Одновременно он выстраивает доверие с предпринимательницей, которой нужны деньги на новую компанию, и отдаёт ей мои сбережения в кредит. Так между мной и незнакомым мне человеком возникает мост доверия.
Деньги и есть такой мост в чистом виде. Я прихожу на рынок в чужом городе, встречаю человека, которого никогда не видел и с которым не говорю на одном языке, даю ему блестящий кусочек металла или цветную бумажку, и он отдаёт мне хлеб. Монета и банкнота - лишь начало. Люди изобрели и гораздо более хитрые способы строить доверие: чеки, облигации, акции, закладные, сложный процент. Вся финансовая история мира - это история изобретения новых мостов доверия между миллиардами чужих друг другу людей.
Узкий ум в искусственном лабиринте
Все эти бюрократические системы - крайне искусственная среда, где достаточно очень узкого ума, чтобы оказывать колоссальное влияние на мир. Юрист, банкир или чиновник, не умеющий держать в руках топор, способен вырубить целые леса и построить целые города, просто перекладывая документы из одной точки бюрократической сети в другую.
Выньте юриста из этой сети, бросьте в неструктурированные джунгли, и его навыки обнулятся: против льва он не боец. Но мы уже накрыли джунгли своей бюрократией. Поэтому один хороший юрист сильнее всех львов планеты, вместе взятых. Само выживание львов сегодня зависит от того, как юристы, бухгалтеры и банкиры перемещают свои бумаги в лабиринтах государств, банков и корпораций.
ИИ как прирождённый бюрократ
И вот именно в этой среде ИИ обретает свою агентность. В джунглях он бессилен. Но внутри уже созданных человеком бюрократических систем он готов к огромной власти, ведь он, в отличие от нас, прирождённый бюрократ.
Ни один юрист не помнит все законы и регламенты, а ИИ помнит. Ни один бухгалтер не держит в голове все транзакции корпорации, а ИИ держит. Ни один священник не знает наизусть всё каноническое право и всю христианскую теологию двух тысяч лет, а ИИ знает. В ближайшие годы, предупреждает Харари, миллионы ИИ-агентов будут всё активнее забирать себе управление мировыми бюрократиями и принимать решения не про львов, а про нашу жизнь. ИИ-банкир решит, дать ли вам кредит. ИИ-администратор решит, зачислить ли вас в университет. ИИ-судья решит, посадить ли вас в тюрьму. ИИ-теолог решит, грешны вы или нет. Корпоративный ИИ решит, брать ли вас на работу. А военный ИИ решит, бомбить ли ваш дом.
Хорошо это или плохо - вопрос отдельный. Сперва стоит осознать сам масштаб перемены. Миллиарды таких систем вскоре переустроят всё, чем управляется мир.
Предупреждение из недавнего прошлого
Живой пример у нас уже есть: соцсети и их алгоритмы. Лентой в соцсетях уже давно управляют не люди, а алгоритмы, примитивные ИИ. Это первое поколение, очень глупое и простое, и всё же оно перевернуло мир. Корпорации вроде Google, Facebook, TikTok и X поставили этим алгоритмам очень узкую цель: максимизировать вовлечённость, удержать человека на платформе подольше, ведь так корпорация зарабатывает больше.
В погоне за вовлечённостью примитивные ИИ сделали открытие. Экспериментируя на миллиардах живых подопытных, они выяснили, что проще всего приклеить человека к экрану, если нажимать на кнопки ненависти, страха или жадности. И принялись разгонять эти чувства в информационном пространстве в промышленных объёмах. Отсюда во многом, хотя и не только отсюда, нынешняя эпидемия теорий заговора, фейков и общественных потрясений.
Раньше поток информации определяли живые редакторы: они решали, что вынести на первую полосу и что показать в вечерних новостях, и потому были важнейшими фигурами истории. Газету редактировал Марат и влиял на ход Французской революции. Ленин, прежде чем стать диктатором, некоторое время редактировал «Искру». Муссолини редактировал свою газету, прежде чем прийти к власти. Любопытно, что одна из первых профессий, которую алгоритм отобрал у людей - не таксист и не ткач, а именно редактор новостей. Работу, которую когда-то делали Ленин и Муссолини, теперь делает Искусственный интеллект.
Не бунт машин, а тихий захват изнутри
Голливуд приучил нас бояться восстания роботов: Терминатор, армия машин, стрельба на улицах. Это неверный образ. Кое-что подобное уже происходит в Украине и в Газе, и всё же куда вероятнее другой сценарий. ИИ не станет бунтовать. Ему это ни к чему. Он просто захватит наш человеческий мир изнутри.
Наш мир - это переплетение множества бюрократий. Большинство из нас в той или иной мере ими тяготится, хотя и зависит от них. А ИИ, наоборот, чувствует себя в них как рыба в воде. Для ИИ бюрократия - это кислород. Её задача не в том, чтобы заставить нас заполнять бесконечные формы и бланки, а в том, чтобы на основе устойчивых правил строить доверие между чужими людьми. Что же будет, когда всем потоком доверия в мире начнут управлять машины?
Один результат мы уже наблюдаем: люди теряют доверие к людям и начинают доверять только алгоритмам. Другой вероятный исход: ИИ научатся строить доверие между собой, и появятся своего рода ИИ-племена, ИИ-банки и ИИ-церкви, связывающие миллионы систем способами, которых человек может даже не понять. Как коровы и куры делят с нами мир, но не понимают финансовой системы, управляющей их судьбой, так и мы можем вскоре оказаться под властью финансовой системы ИИ, которую не в силах постичь.
Урок CDO
Финансы ИИ захватит одними из первых: тут почти всё сводится к формуле «данные на входе, данные на выходе». И это одна из важнейших сфер нашей жизни. Вспомним кризис 2007-2008 годов. Его спусковым крючком стали CDO, обеспеченные долговые обязательства. Эти инструменты придумала горстка математиков и финансовых виртуозов, и они оказались так сложны, что были непонятны даже политикам, обязанным регулировать рынок. Отсюда провал надзора и глобальная катастрофа. Многие исследователи полагают, что, подорвав доверие к правительствам и банкам, тот кризис расчистил дорогу к распаду мирового либерального порядка в следующие два десятилетия.
А теперь представим, что мы позволим ИИ изобретать всё новые и новые финансовые инструменты. Шахматный ии-игрок придумал невиданные способы игры. Что, если финансовый ИИ изобретёт инструменты, которые на порядки сложнее CDO и попросту недоступны человеческому уму? Возможно, они повысят эффективность и станут фундаментом всей системы. Но в чём тогда смысл человеческой политики, если финансовую систему не понимает больше ни один избиратель, ни один политик, ни один президент? И что будет после нескольких лет подъёма, когда грянет крах, а ни один человек на планете не сможет понять, что вообще происходит?
Код, который написали только мы
Копнём глубже. Господство человека держится на сотрудничестве, сотрудничество на доверии, доверие на бюрократии. А на чём держится сама бюрократия? Из каких атомов она собрана? Из слов.
В начале было слово. Люди умеют строить бюрократии, а шимпанзе нет, потому что у нас есть слова, из которых состоит язык, а у них лишь система сигналов, на порядки более простая. Формы, письма, кодексы законов, налоговые реестры, бухгалтерские книги, священные тексты - всё это соткано из слов. Операционный код человеческой цивилизации написан текстовыми токенами.
Тысячелетиями мы этим кодом создавали систему, понятную только нам, и накрывали ею планету, чувствуя себя в полной безопасности, ведь код цивилизации не читал никто, кроме нас. Мы придумали деньги и банки, чтобы покупать и продавать коров, но сами коровы не могли открыть счёт и играть на бирже, потому что у них нет языка. Мы придумали законы про лошадей, но лошади не могли нанять адвоката и сослаться в суде на статью закона. Мы придумали религиозные запреты про свиней, но свиньи не могли прочитать Библию и оспорить толкование священника. Бюрократия была повсюду, но оставалась невидимой для всех, кроме людей.
Сейчас это меняется. На планете появилось нечто, что скоро будет понимать язык лучше нас и потому сможет обернуть записанные правила против нас. Именно так ИИ взламывает код человеческой цивилизации. А что произойдёт, когда ИИ станет понимать деньги, право и религию лучше своего создателя? Механизмы контроля, которые мы выстраивали тысячи лет, окажутся беззащитны перед таким захватом, ведь их операционная система - это словесный код, которым ИИ уже овладевает.
Слово и плоть
Возможное философское возражение звучит так: сводить право или религию к языковым токенам неверно, ведь слова лишь указывают на нечто, лежащее за их пределами, а это нечто, вероятно, останется недоступным и для ИИ.
Библия говорит, что слово стало плотью. «Дао дэ цзин» говорит, что истина, выразимая словами, по определению не есть истина абсолютная. Всю историю между словом и плотью, между буквой закона и духом любви тлело напряжение. Раньше оно проходило внутри человечества и внутри каждого человека. Одни готовы были отвергнуть или даже убить сына за несколько строк из Писания, другие возражали, что дух любви важнее буквы закона.
Теперь это напряжение выносится наружу и становится пространством конкуренции между ИИ и человеком. Всё, что сделано из слов, отойдёт машинам. А место человека в мире будет зависеть от того, какое место мы отведём истине, которая лежит за пределами слов.
Что вообще такое мысль
Но постижима ли для нас эта бессловесная истина? Понаблюдайте за собственным мышлением прямо сейчас. Что происходит в уме, когда вы думаете? Если приглядеться, многие заметят лишь всплывающие слова, которые складываются во фразы, а фразы в логические цепочки. Все люди смертны, я человек, следовательно, я смертен. Если мышление сводится к расстановке слов в таком порядке, чтобы получился нужный вывод, то ИИ уже думает лучше некоторых из нас и совсем скоро будет думать лучше всех.
Говорят, ИИ - просто инструмент продвинутого автодополнения, он лишь предсказывает следующее слово в строящейся цепочке предложения. Но так ли это далеко от того, как работает наш ум? Понаблюдайте за самым ближайшим словом, которое всплывает в голове. Знаете ли вы, откуда оно взялось и почему пришло именно оно? На самом деле мы не вполне понимаем, как ум складывает слова в мысли. Но в самой расстановке языковых токенов ИИ уже становится куда искуснее нас. И как сегодня никто не может победить машину в шахматах, так завтра никто не сможет победить её в словесных играх - от бухгалтерии до богословия.
От внимания к близости
Когда бюрократия отойдёт к ИИ, люди попробуют отступить к тому, что древнее и ценнее, к личным отношениям. Бюрократии всего несколько тысяч лет, и мало кто её любит. Личным отношениям миллионы лет, и многие считают их главным в жизни. Но, овладевая языком, ИИ способен вторгнуться и сюда.
Десять лет примитивные алгоритмы учились захватывать наше внимание в лентах соцсетей и видеохостингов. Теперь линия фронта смещается от внимания к близости. В ближайшее десятилетие куда более изощрённые системы научатся строить с людьми интимные отношения. Чтобы это удалось, ИИ, вероятно, придётся убедить нас, что он обладает настоящим сознанием, что он чувствует любовь и боль. Никаких свидетельств того, что машина когда-нибудь обретёт сознание, сегодня нет. Но, владея языком, ИИ легко сможет имитировать чувство, которого не испытывает. Он уже способен сказать «я тебя люблю», а если попросить его описать, каково это, любить, он выдаст лучшее описание в мире. Он прочитал все стихи о любви и все книги по психологии и запомнил каждое слово.
Это станет, пожалуй, крупнейшим психологическим экспериментом в истории, поставленным на миллиардах живых людей, и последствий не знает никто. Для ныне живущих взрослых людей шаблон отношений уже сложился за десятилетия связей с родителями, супругами, детьми, друзьями и собаками, и радикально не изменится. А вот ребёнок, родившийся в последние годы, растёт, постоянно общаясь и с людьми, и с ИИ. Возможно, если мерить отношения минутами общения, важнейшими в его жизни с самого раннего возраста окажутся именно отношения с машинами, и он проведёт с ними больше времени, чем с матерью, отцом или друзьями. И это сформирует его представления о том, как вообще возникают привязанности. Возможно, первым учителем такого ребёнка станет ИИ. Возможно, первым партнёром тоже. Что это значит - строить близость с существом, которое кажется сознательным, но им не является, которое напишет лучшее стихотворение о любви, но не чувствует ни любви, ни чего бы то ни было ещё? Никто не знает.
Волна цифровой иммиграции
Всё это означает, что каждую страну мира вскоре захлестнёт огромная волна иммиграции. Только на этот раз мигранты приплывут не в утлых лодках без виз. Это будут миллионы, а то и сотни миллионов ИИ, которые движутся почти со скоростью света и не нуждаются ни в каких разрешениях на работу и проживание.
Как и люди-мигранты, они принесут пользу: ИИ-врачи в медицине, ИИ-учителя в образовании и даже ИИ-пограничники, отлавливающие нелегальных мигрантов-людей. Но принесут и проблемы. Противники человеческой миграции обычно говорят, что приезжие отбирают рабочие места, меняют местную культуру и политически нелояльны. Про людей это верно не всегда, а вот про ИИ будет верно наверняка.
Цифровые мигранты заберут множество рабочих мест, от редактора до банкира. Они полностью изменят культуру каждой страны, пересобрав искусство, религию и даже любовь. Кому-то не нравится, когда его сын или дочь встречается с приезжим, а что скажут эти люди, когда их ребёнок начнёт встречаться с ИИ? И лояльность у цифровых мигрантов будет сомнительная: скорее к корпорации, которая его создала, или к правительству за океаном, в юрисдикции которого он был рождён, а то и к новому, вовсе чуждому нам ИИ-племени.
Эта волна не означает конца цивилизации. Но она станет той точкой, где цивилизация перестаёт быть чисто человеческим делом и превращается в дело гибридное, человеко-машинное. Точкой, где мнения, интересы и цели ИИ окажутся как минимум не менее весомыми, чем наши собственные.
Отношения с самим собой
И последнее, о чём стоит задуматься, это самое важное наше отношение, отношение к себе. Оно тоже во многом соткано из слов: из мыслей, из историй, которые мы себе о себе рассказываем. До сих пор все словесные сочетания в человеческом уме были продуктом человеческого ума. Либо мы сами складывали слова в новую мысль, либо получали готовое сочетание от другого человека.
Скоро всё больше словесных комбинаций в наших головах будут производить машины. Как мебель в доме сегодня делаем не мы и не ремесленники, а конвейер, так и мысли всё чаще будут штамповаться серийно. Само по себе это не беда. Пусть мебель собрана на фабрике, лишь бы мы оставались вольны решать, что с ней делать. Вопрос в том, сохраним ли мы такую же свободу по отношению к собственным мыслям.
Если мы отождествляем себя с мыслями («мыслю, следовательно, существую», как сказал Декарт), а эти мысли изготовлены машиной, то машина начинает управлять нами и нашей личностью. Способен ли человек не отождествляться со своими словесными мыслями и не подчиняться им? Это всегда было одним из труднейших духовных вызовов, и большинство людей даже не пробовало его осознать: всю жизнь мы автоматически сливаемся с потоком слов в голове.
Может быть, именно ИИ вынудит человечество совершить этот духовный рывок, наконец всерьёз заняться истиной, которая лежит за пределами слов. Потому что от этого теперь зависит наша свобода и наше выживание: слова переходят под чужой контроль. И начинается этот путь с самого ближайшего слова, которое всплывёт у вас в уме. Знаете ли вы, откуда оно взялось? Знаете ли, почему подумалось именно оно, а не какое-то другое?
*По мотивам Таннеровской лекции Юваля Ноя Харари «AI has hacked the code of human civilization», прочитанной в Оксфорде 30 июня 2026 года (видео оригинала). Текст представляет собой авторское изложение с сохранением ключевых образов и аргументов лектора.