Пітер Тіль: «Нам треба тиснути на газ щосили»

Волтер Айзексон розпитує «будівничого будівничих» про хвилю спротиву ШІ, перегони з Китаєм, Антихриста — і про те, чому, на думку Тіля, зло краще за некомпетентність.

Біограф Стіва Джобса та Ілона Маска Волтер Айзексон запустив серію інтерв'ю «Будівничі» — розмови з людьми, які формують наше технологічне майбутнє. Один із його співрозмовників — Пітер Тіль: співзасновник PayPal, один із перших інвесторів Facebook і LinkedIn, людина, що робила ставку на Ілона Маска, Алекса Карпа та Сема Альтмана. Публікуємо повний переклад розмови українською.

Вступ: Пітер Тіль і «Будівничі»

Волтер Айзексон: Я Волтер Айзексон. Вітаю вас у «Будівничих», моїй новій серії інтерв'ю з найвпливовішими людьми, які формують наше майбутнє.

Працюючи над цією серією, я хотів зрозуміти цінності та моральні погляди цих будівничих. І зрозумів, що вони часто досить незвичні, і це має як добрий, так і поганий бік. Одні з них переконані лібертаріанці. Інші мислять у ніцшеанському дусі або зневажливо ставляться до емпатії. А дехто має дуже похмурий погляд на людство. Мені здавалося, що їм варто хоч іноді спуститися на землю, вибратися зі своїх мільярдерських бульбашок і зрозуміти, що відчуваємо ми, решта людей.

Можливо, ми й хочемо, щоб ці люди будували. Проте, особливо коли йдеться про потужні технології, нам треба подбати, щоб право голосу мали всі. А починається це з розуміння того, що вони роблять і навіщо.

Тож сьогодні я розмовляю з Пітером Тілем.

Айзексон: Пітер Тіль відіграє особливу роль. Він будівничий будівничих. Він робить ставку на людей: Ілон Маск у PayPal, Алекс Карп у Palantir, Сем Альтман і засновники OpenAI. Він також підтримував політиків, зокрема Джей Ді Венса.

Айзексон: Для одних він далекоглядний інвестор.

Айзексон: Для інших — зловісна постать.

Айзексон: Тож я хотів спитати будівничого будівничих: до чого, на його думку, ми рухаємося? Чи мають під собою реальне підґрунтя страхи, якими рясніють заголовки? І що він має на увазі, коли їздить світом із лекціями про Антихриста?

Але, мабуть, найважливіше питання таке: чи не зосередили ми надто багато влади в руках людей, яких їхні демони й пристрасті роблять сміливими будівничими, але яким, можливо, бракує емпатії та стійкого морального компаса, щоб бути добрими розпорядниками цієї технології?

Отже, ось моя розмова з Пітером Тілем.

Чому виникла хвиля спротиву штучному інтелекту?

Айзексон: Пітере Тілю, дякую, що прийшли в «Будівничі».

Тіль: Дякую за запрошення.

Айзексон: За останні кілька місяців ми бачимо величезну хвилю спротиву ШІ. Чим вона спричинена?

Тіль: Так, я погоджуюся, що це відбувається. А от питання «чому» завжди значно складніші й більш гіпотетичні. Хочеться сказати, що причин тут навіть більше, ніж треба. Зовсім незрозуміло, хто виграє, а хто програє від ШІ. Я думаю, він дуже пришвидшить зростання, але робитиме це доволі руйнівно. Є, звісно, й ці антиутопічні науково-фантастичні сценарії, у які ми певною мірою віримо, і, можливо, вони не зовсім безпідставні.

Айзексон: Тобто є невеликий шанс, що всіх нас знищать. Фільм «Термінатор», «Матриця»…

Тіль: «Матриця».

Айзексон: Даріо, Ілон і Сем тепер про це говорять.

Тіль: Так, певною мірою вони за це вхопилися, або частково в це повірили, або в це повірило забагато їхніх працівників. Тож тут є певна передісторія: це довго витало в повітрі.

Айзексон: Здається, Ілон вірить у це вже років десять.

Тіль: Ну, певною мірою так: коли Деміс Гассабіс заснував DeepMind і компанію продали Google, Ілон і Сем приблизно наступного року створюють OpenAI. І це, по суті, в чомусь анти-Google компанія: мовляв, ця технологія надто важлива й надто небезпечна, щоб належати одній компанії. А далі, звісно, є люди, які сприймають це ще серйозніше, ніж Альтман. Ілон, здається, виходить приблизно у 2018-му, а десь у 2020-му з OpenAI йдуть семеро людей, які засновують Anthropic. У певному сенсі вони хочуть ставитися до цих проблем іще серйозніше, ніж раніше. Ефективний альтруїзм — ця ідея витала в повітрі вже давно.

Витоки ШІ та ефективного альтруїзму

Айзексон: Стривайте, поясніть це. Бо зараз дехто каже, що це якась, як висловився Девід Сакс, конспірологічна теорія ефективного альтруїзму. Навіть такі люди, як я, приблизно уявляють, що проповідував Сем Бенкман-Фрід, але суті ми не розуміємо. Розкажіть.

Тіль: Ну, історія там довга. Але якщо повернутися навіть у 2000-ні, до Іст-Бею в Кремнієвій долині — Берклі, Окленд і подібні місця, — великі технологічні компанії будувалися не там, але там був своєрідний творчий вир ідей. Це було трохи поруч із «новими атеїстами»: як можна бути розумнішим, раціональнішим, куди рухається світ? І одна велика ідея, до якої ці футуристи постійно поверталися, полягала в тому, що щось на кшталт ШІ може статися і що це, можливо, ближче, ніж люди думають. Довгий час у сфері ШІ була пустеля: його десятиліттями надміру обіцяли. Але, з іншого боку, закон Мура досі діяв, комп'ютери невпинно ставали потужнішими. І, можливо, справа була не обов'язково в набагато кращому алгоритмі. Можливо, це була майже апаратна проблема: щойно чипи й комп'ютери стануть достатньо потужними, ймовірність, що таке станеться, зросте.

А ще — що коли це станеться, це буде дуже, дуже велика подія, величезна суспільна трансформація. Це було потенційно дуже небезпечно. Можливо, це можна перетворити на зброю. Можливо, були ці науково-фантастичні сценарії, де ШІ стає майже автономним. Тож сценаріїв було дуже багато. І, звісно, були складники, які були, не знаю, божевільними й майже сектантськими. Але в цьому була, можливо, і добра риса секти: вони знали одну велику річ, якої не знали інші. І попри те, що сьогодні я дуже хотів би їх критикувати, в чомусь цю одну велику річ вони вгадали.

І ще: чи бувало, щоб секта заснувала компанію, таку успішну, як Anthropic? Навіть компанія вартістю мільярд доларів здається більшим, ніж може збудувати шалена секта. А якщо секта збудувала компанію, яка на IPO коштуватиме, мабуть, близько двох трильйонів, це була б, не знаю, шоста-сьома найбільша компанія світу за ринковою капіталізацією, збудована за якихось шість-сім років. Чи бувало колись, щоб секта зробила щось подібне?

Тож так, я хочу їх критикувати, є речі, які мене бентежать і які я критикую. Але перше, що я завжди намагаюся зробити, — це викласти позицію опонентів у найсильнішій формі. Треба розуміти їх так само добре, як вони розуміють самих себе, або навіть сформулювати їхні аргументи краще. І найсильніша версія ефективних альтруїстів така: насамперед вони вгадали одну колосально важливу річ. І ця колосально важлива річ…

Айзексон: ШІ.

Тіль: …ШІ вже на порозі. А також те, що він може розійтися з людськими цінностями.

Якщо говорити про класичне визначення ШІ, то визначень було багато. Звісно, це могло бути просто машинне навчання і, скажімо, камери скрізь — тобто тоталітарний ШІ, який є в Китаї. Або це міг бути надпотужний ШІ з божественним інтелектом — така собі фантазія в дусі Ніка Бострома. Але проміжна версія ШІ полягала не в тому, що це будуть тупі камери стеження, і не в тому, що він буде богоподібним, а в тому, що він буде як людина. Від самого початку тестом на ШІ був тест Тюрінга: не те, що він є людиною, а те, що він може змусити вас повірити, що він людина, і за результатами ви не відрізните.

Чи замінить ШІ людську працю?

Тіль: І це буде дуже-дуже серйозна справа. Це породжує безліч питань, навіть базових економічних: чи буде він доповненням до людей, чи їхньою заміною?

Айзексон: Давайте розберемо обидва. Є два великі питання. Перше: що він зробить із людською працею? Чи створить більше робочих місць і підвищить продуктивність, чи практично залишить нас без роботи, і нам доведеться вигадувати, чим займатися? Це частина спротиву, особливо серед моїх студентів у Тулейні, які кажуть: «Стривайте!» Тож що ви думаєте про цей спротив?

Тіль: Гаразд, почну з відповіді, що, на мою думку, станеться, із застереженням, що насправді ніхто не знає й ніхто не може бути певним. Я думаю, що загалом, на макроекономічному рівні, ШІ значно підвищить продуктивність. Він буде доволі дезінфляційною силою в нашій економіці. І якщо його не захоплять дуже вузько кілька компаній, можна очікувати, що медіанній людині стане краще. Луддити в XIX столітті завжди боялися, що машини замінять людей, а на практиці, звісно, сталося ось що: так, у різних галузях, іноді навіть великих, були серйозні потрясіння, але це звільняло людей для продуктивнішої роботи, для інших занять. І щодо ШІ моя інтуїція досі така.

Чи можуть кілька компаній контролювати ШІ?

Айзексон: Але швиденько, перш ніж ви продовжите: ви сказали «якщо його не захоплять кілька компаній». Ви боїтеся, що саме зараз чотири-п'ять компаній його захоплять?

Тіль: Ну, звісно, тут є підстави. Більшу частину історії технологічних інновацій, я б сказав, протягом 200–250 років, бізнес захоплював відносно невелику частку інновацій. Здебільшого вона діставалася споживачам, працівникам, решті економіки. Програмне забезпечення та інтернет у певному сенсі були винятком. Тож ми отримали ці надзвичайно успішні компанії, можливо, природні монополії свого роду. В певному сенсі вони були корисні для споживачів, але й надзвичайно прибуткові. Тож люди цілком обґрунтовано проводять паралель з тим, що сталося з інтернетом, і бояться, що те саме станеться з ШІ. Можливо, це навіть більший ринок, більша технологія.

Айзексон: І ви б намагалися цьому запобігти? Тобто наше антимонопольне регулювання…

Тіль: Питання в тому, наскільки ймовірно, що це станеться. Моя інтуїція протилежна. Одне з питань, які я завжди люблю ставити компаніям: «Поясніть мені, чому у вас монополія». Бо про монополії можна сперечатися, добрі вони для суспільства чи погані. Очевидно, є інтелектуальна власність, є всілякі добрі форми монополії. Але всередині компанії, так, ви не хочете жорсткої конкуренції, де весь прибуток з'їдає суперництво.

І історії, які мені розповідають, коли презентують ШІ-компанії, — це історії про зростання, про чудову технологію, але вони неймовірно слабкі в частині про монополію. І відчуття таке, що це неймовірно швидкі, динамічні перегони, де все дуже змінюється. DeepMind на початку 2010-х у певному сенсі був попереду. Потім OpenAI з ChatGPT і моделями-трансформерами зміг його витіснити. Потім Альтман певною мірою законтрактував багато чипів і заздалегідь збудував дата-центри — тобто різними способами він правильно зробив ставку на цю неймовірно капіталомістку стратегію. А зараз відчувається, що, можливо, Anthropic трохи більше на поул-позиції, ніж OpenAI. Підрахувати такі речі завжди важко, але я б сказав, що Google, Meta і Grok теж не так уже й відстають. Я не впевнений, що й Китай аж так відстає.

А якщо описати це на рівні шекспірівської драми між цими людьми — це щось справді божевільне. Вони поводяться так, наче це бій на смерть, і це щось найвіддаленіше від монополії, що можна уявити. А якщо монополії немає, то, думаю, вигоди, найімовірніше, доволі широко розподіляться в суспільстві.

Тепер про те, як викласти тривогу в найсильнішій формі, бо з цього почалося ваше запитання. Може бути сильне зростання, і медіанній людині може стати краще. Але якщо це відбувається з великою нестабільністю — ви очікуєте підвищення зарплати на 3%, але плюс-мінус 10% чи щось таке… А ми живемо в суспільстві, яке не дуже любить ризик, не любить таку нестабільність, не любить потрясінь. Тож так, це може бути добре для медіанної людини, але добро може бути невідомим, а погане — більш передбачуваним, і потрясіння очевидні. Тож навіть на економічному рівні я розумію тривогу, хоча вважаю її хибною.

Перегони ШІ з Китаєм

Айзексон: Ви кажете, що між цими компаніями велика конкуренція, і загалом це видається добрим. Хоча в певному сенсі, якби було лише одна-дві компанії, їх можна було б краще контролювати, краще регулювати з погляду безпеки. І по-друге, конкуренція — чи між цими компаніями, чи з Китаєм — означає, що не можна поставити на паузу, як зараз пропонують: «А може, варто призупинитися?»

Тіль: Мені здається, що це так. Можна ставити всілякі дуже складні питання про Китай чи КПК, Комуністичну партію Китаю. Але я боюся тоталітаризму. Він мені не подобається. І я думаю, що в Китаї випробовують певний тип високотехнологічного тоталітаризму. Він не такий жорстокий, як у Сталіна, Мао чи Гітлера. Не треба вбивати стільки людей. Але він якимось чином знає про вас більше, ніж ви самі про себе. І є в цьому щось таке, що ми точно не хочемо, щоб перемогла саме ця модель.

Айзексон: А ваш давній друг Девід Сакс і, звісно, президент Трамп зараз кажуть: через конкуренцію з Китаєм перестаньте говорити про паузу в ШІ, навіть якщо ви вважаєте, що це може бути екзистенційною загрозою. Ви з цим згодні?

Тіль: Так-так, загалом я з цим згоден. Я знаю Девіда Сакса й дружу з ним уже багато десятиліть. Що мені заважає публічно висувати такі аргументи, так це те, що певною мірою важко, коли самі великі компанії кажуть вам зупинитися й сповільнитися.

Чому Тіль хоче пришвидшити ШІ

Айзексон: Тож це змусило вас трохи засумніватися, бо ви не були в таборі прихильників паузи.

Тіль: Я досі не в таборі прихильників паузи, і кажу це у вашій програмі. Нам треба тиснути на газ щосили.

Айзексон: Стривайте, тут зупинюся. Чому останні кілька тижнів не зробили вас більш схильним до паузи? Те, що сталося з Hugging Face, досить страшно.

Тіль: Я думаю, певною мірою, щоб контролювати технологію ШІ, треба розвивати технологію ШІ. Тож якщо припустити, що Китай розроблятиме подібні речі, то як ніколи важливо, щоб ми залишалися попереду. Якщо дивитися геополітично, можливо, навіть історію з Hugging Face можна тлумачити так: украй важливо не втратити лідерство, бо інакше нас закидають кібератаками до смерті.

Проміжне, економічне питання, яке я вважаю ключовішим, таке. Я думаю, наше суспільство певною мірою тримається на економічному зростанні. Я вважаю середнім класом людей, які очікують, що їхнім дітям житиметься краще, ніж їм самим. І в цьому сенсі Сполучені Штати були суспільством середнього класу. А що трохи зламалося й почало розповзатися по швах, так це те, що мілленіали, певною мірою й покоління Z, втратили це очікування прогресу від покоління до покоління, і цілком справедливо.

Не знаю, чи вистачить ШІ, щоб це повернути. Є ризик, що ШІ розподілятиметься нерівномірно. Але я б сказав, що якби ми заборонили інтернет і якби тепер заборонили ШІ, зростання практично не було б. Ми були б більше схожі на Європу, на Японію. А це значно неприємніше суспільство з нульовою сумою, де немає зростання, де на кожного переможця є переможений, і це в багатьох відношеннях значно гірший світ.

ШІ, глобалізація та економічне зростання

Айзексон: Так. Одна з причин того, що протягом останніх 40–50 років мілленіали відчувають стагнацію й те, що людей залишають позаду, — багато хто, як і я, вірили в глобалізацію, імміграцію, вільну торгівлю, вільний рух капіталу. Ми думали, це спричинить зростання. І знаєте що? Так і сталося. Ми мали рацію. Чого ми не знали, так це того, як сильно це залишить людей позаду. Це правда? І чи може це стосуватися ШІ?

Тіль: Я думаю, щодо глобалізації це правда: вона призвела до досить значного зростання і в нашій країні, і в інших країнах, але зростання було доволі нерівномірним. З технологіями такий ризик є. Але, не знаю, моя інтуїція завжди підказує, що технологічна форма зростання краща для розвиненої країни, ніж глобалізаційна. Глобалізація — це коли ми просто користуємося арбітражем на ринках праці й таким іншим. І це працює, коли люди в Китаї заробляють 5% від того, що в США, а ми отримуємо дешеві футболки й майже всім стає краще. А в певний момент, коли глобалізація досягає успіху й ці арбітражні можливості зменшуються, це стає більше грою з нульовою сумою.

А технологія, якщо вона справді працює, означає робити більше з меншими ресурсами. Вона означає збільшення не ВВП усієї країни, а ВВП на душу населення. І в найкращому прояві вона має більш прогресивний характер. Проблема певною мірою була в тому, що інтернет виявився недостатньо великим. Він додав трохи зростання, але був недостатньо великим. Я думаю, ШІ більший за інтернет. Думаю, він міг би стати для нас способом справді збільшити ВВП на душу населення, і плавніше, ніж, скажімо, глобалізація.

Чи може ШІ знищити людство?

Айзексон: Повернімося до сценарію судного дня. Ви згадували Ніка Бострома, і всі давно про це говорять. Але за останні кілька тижнів, після Hugging Face та всього іншого, коли я читаю, що робили деякі з цих агентів і як вони змовляються, ідея, що вони можуть розійтися з благом людей, — це те, про що тепер говорить Даріо Амодеї, про що говорить Ілон Маск і багато інших. Чи маєте ви бодай якесь занепокоєння — хай 5 чи 10% — що сценарій судного дня можливий? І чи маєте якісь запасні плани? Якийсь бункер?

Тіль: Не думаю, що бункер допоміг би при такому сценарії судного дня. Я думаю, люди дуже погано інтуїтивно відчувають ймовірності. Якщо ставити питання так, то 5–10% — це, звісно, значно забагато для того, щоб загинули всі на цій планеті. Не думаю, що так станеться. Можливо, навіть трохи більше нуля — це забагато. Але, думаю, інтуїція тут дуже слабка.

Втім, я б заперечив ось у чому: не впроваджувати інновації — теж завжди ризиковано. Небезпечно не тиснути на газ, бо якщо Китай випередить США в ШІ, а геополітичне суперництво з Китаєм посилиться, у них цілком може виникнути спокуса використати це як зброю проти нас.

Айзексон: Зачекайте секунду. Уявіть — просто уявний експеримент — що Китаю немає. Тоді ви б поставили це на паузу, бо врешті-решт це може…

Примітка перекладача: далі Айзексон обігрує відомий американський жарт «А крім цього, місіс Лінкольн, як вам вистава?» — про запитання, яке ігнорує найголовніше.

Айзексон: …«А крім цього, місіс Лінкольн, як вам сподобалася вистава?»

Тіль: Ну, це надто божевільний уявний експеримент. Але, звісно, навіть якщо в нас є ці численні компанії і на них тиснуть, щоб вони розвивали й удосконалювали технологію, вони мають бути досить обережними, щоб усе не пішло шкереберть.

Хто має регулювати штучний інтелект?

Тіль: Тож я думаю, у них багато внутрішніх механізмів контролю. Вони знають про це більше, ніж уряд. Уряд насправді не знає, як це регулювати. Не знаю, може, це надто цинічний погляд, але мені завжди здається, що коли вони кажуть урядовцям «ми хочемо, щоб ви нас регулювали», вони, можливо, знають, що уряд не вміє цього робити і робитиме це повільно, а отже, це їх трохи звільняє від відповідальності. А коли Трамп сказав: «Ні, ви вже й так підпадаєте під усілякі кримінальні покарання, якщо це зіпсуєте, мені не треба регулювати вас додатково», — то його спосіб сказати «треба рухатися повільно» насправді означав: «Ви маєте робити це самі, і це ваша відповідальність, а не моя».

Схожа дискусія в мене була, коли Meta довгі роки перебувала в дуже складному стані інформаційного кругообігу. Я був у раді директорів з 2005 по 2022 рік, і десь у 2018–2019 роках офіційна лінія компанії, яку прийняв Цукерберг, була така: ми вважаємо, що потрібне регулювання, і хотіли б, щоб уряд сказав нам, що можна, а що ні. І в якийсь момент я сказав Цукербергу, який, здається, досі тримає абсолютний рекорд серед приватних громадян за кількістю викликів до Конгресу — його, здається, викликали до восьми комітетів Конгресу, — я сказав йому: «Вони не хочуть тебе регулювати. Вони хочуть на тебе кричати. Вони хочуть на тебе скаржитися й кричати».

І, звісно, є ще проміжна версія, де справа не в тому, що вони хочуть регулювання чи таємно намагаються його зупинити. Інша інтерпретація така: у цих людей різні аудиторії, коли вони домагаються регулювання. І для внутрішньої аудиторії, для працівників, меседж такий: так, ми працюємо над технологією, яка потенційно дуже небезпечна, але, чорт забирай, вона важлива. Це найважливіша компанія у світі, де можна працювати. Це буде неймовірно успішна компанія. Ризик у тому, що ми рухаємося надто швидко, — чого ніхто не каже. Тож так, є частина, де це інколи лякає людей у цих компаніях, і дехто звільнявся та робив заяви. Але на іншому рівні, думаю, це неймовірно мотивує. Бо коли Даріо каже: «Так, це технологія справді велика й справді небезпечна», — це спосіб сказати всім його працівникам: ви працюєте в найвеличнішій, найважливішій компанії в історії світу. Тож це працює й на цьому рівні. Думаю, це працює на багатьох рівнях.

Теорія Антихриста Пітера Тіля

Айзексон: Дозвольте зачитати вам дещо, що ви колись сказали, бо я, чесно, намагаюся розібратися з усією цією темою Антихриста — що ви під цим маєте на увазі. Але це пов'язано з нинішнім моментом у ШІ. Ви сказали, що Антихрист захопить світ так: безупинно говоритиме про Армагеддон, безупинно говоритиме про екзистенційний ризик. Антихрист захопить владу не тим, що влаштує ШІ-апокаліпсис, а тим, що переконає всіх, ніби апокаліпсис наближається. Це те, що відбувається зараз?

Тіль: Ну, оскільки я сказав це років півтора тому, то так, мені кортить зробити свого роду коло пошани: принаймні певні питання треба ставити, і саме цього я хотів би від людей. Візьміть Оппенгеймера та фізиків-ядерників, які хотіли глобального органу, що контролював би всю ядерну зброю. Вони вважали, що після 1945 року США не можна її мати, бо це надто небезпечно, і її треба передати ООН — сильнішій ООН, справжньому світовому уряду. А якщо не передати ООН, буде ядерна війна. Тож є певна паралель із ядерними дебатами. Ми отримали часткові глобальні органи, ми регулювали й контролювали ядерну зброю, але так і не позбулися її повністю. Тож, можливо, Оппенгеймер у довгостроковій перспективі все ще має рацію.

Айзексон: Так, ну, саме це застереження Оппенгеймера призвело до доповіді Ачесона–Ліліенталя, і це справді певною мірою спрацювало.

Тіль: Частково спрацювало, хоча минуло лише, ну, вісімдесят років чи скільки там. Але щодо ШІ: так, я завжди визнаю, що є низка серйозних екзистенційних ризиків. Я думаю, зміна клімату — це досить серйозно. Є інші серйозні екологічні ризики. Я досі думаю, що ядерна зброя — це цілком реальна загроза. Ймовірно, є й інші технології, а ШІ — дуже швидка й дуже велика. Тож, безумовно, є екзистенційні ризики, пов'язані й з ШІ.

Але є екзистенційний ризик, який я теж завжди хочу кинути в загальний котел і врахувати в дискусії, — ризик м'якого тоталітарного єдиного світового уряду. І це теж здається… якщо весь світ стане тоталітарним, не залишиться жодного «зовні», і це відчувається як катастрофічна сингулярність, яку, можливо, не вдасться скасувати. Радянський Союз був тоталітарною системою. У якийсь момент він міг занепасти й розвалитися, бо ще залишалося «зовні». А якщо весь світ — це Північна Корея, це може тривати дуже довго.

Антихрист і глобальний уряд

Айзексон: Стривайте, але поясніть, що ви маєте на увазі під Антихристом.

Тіль: Ну, це, скажімо так, середньовічне, біблійне поняття про тирана, який якимось чином пануватиме над усім світом наприкінці історії. Якщо думати про це в літературному чи творчому ключі, можна запитати: як Антихрист прийшов би до влади в різні часи й у різних місцях? На початку модерну, у XVII–XVIII століттях, Антихрист, можливо, використав би науку й технології, щоб створити зброю та захопити світ. У моєму баченні, в пізньому модерні ми певною мірою досі думаємо про Антихриста в категоріях XVII століття. Ми досі думаємо, що це хтось на кшталт доктора Стрейнджлава чи Едварда Теллера, хто створює ядерні бомби, щоб підкорити світ.

Але якщо дивитися на політичний вимір, то, на мою думку, політика в нашому суспільстві працює так, що страх перед наукою й технологіями значно сильніший, і саме такі речі здатні по-справжньому кристалізувати ситуацію. Я не думаю, що Грета Тунберг — Антихрист. Я не думаю, що вона Антихрист. Але я думаю, що в екологізмі є реальні страхи…

Айзексон: Люди опираються прогресу…

Тіль: …опираються прогресу, але водночас домагаються цих дуже-дуже потужних глобальних політичних структур. Бо щось на кшталт зміни клімату звучить як те, для чого потрібен глобальний регуляторний орган.

Айзексон: Тобто головне ваше занепокоєння — якийсь глобальний регуляторний орган.

Тіль: Так. І знову ж таки, мабуть, є версії цього, які можуть бути добрими. Ядерні механізми, які ми зрештою отримали, безумовно, принесли більше користі, ніж шкоди. Але є й версії, які можуть бути доволі поганими. І я схиляюся до думки, що вони погані, якщо їх не осмислено теоретично. Глобалізація може бути доброю, а може бути поганою. Ми про неї мало думали. І через те, що ми мало про неї думали, з нею прийшло багато поганого, чого, можливо, можна було уникнути, якби ми ставилися до неї критичніше.

Якщо покритикувати… Елієзер Юдковський минулої осені написав книжку «Якщо хтось це створить, усі помруть».

Айзексон: І він говорить про ШІ.

Тіль: Він говорить про ШІ. І знову ж таки, дуже точно й детально про деякі ризики, деякі сценарії. Можна сперечатися, якими насправді є ймовірності, але ця частина досить детальна, досить технічна. А частина, де все повністю розмито, — це те, що це треба регулювати глобально. Тут він висловлюється дуже чітко. Але подробиці того, як це зробити, неймовірно туманні, неймовірно розмиті. І мене непокоїть, що ми про це не думаємо. Отже, ми боїмося Армагеддону, але не боїмося Антихриста. І моя інтуїція всупереч загальній думці підказує, що вже одне це свідчить: Антихриста треба боятися більше, ніж Армагеддону.

Айзексон: У мене таке, можна сказати, особисте запитання. Багато людей вважають вас якимось моторошним чи щось таке. Навіщо використовувати Антихриста? Як це допомагає прояснити речі, коли навіть я дивлюся, як ви читаєте лекції про Антихриста, і думаю: «Що це взагалі таке?»

Тіль: Ну, це привернуло увагу людей. Тож на цьому рівні це точно спрацювало. Мабуть, усе це можна описати філософською чи нейтральнішою, менш релігійною мовою. Федерація американських науковців після 1945 року випустила короткий фільм, який називався «Один світ — або жодного». Там показано, як ядерна бомба знищує світ. І я часто описую це так: «Один світ — або жодного». У певному сенсі це дуже схоже на питання «Антихрист», тобто єдиний світовий уряд, проти «Армагеддону».

Але чому я віддаю перевагу релігійному формулюванню над, скажімо, політичним? У формулюванні «один світ — або жодного» ми, не ставлячи жодних питань, одразу погоджуємося на єдиний світовий уряд. Він очевидно кращий. Ніяких дебатів, жодного осмислення. Якщо ж переформулювати питання як «Антихрист чи Армагеддон», то мета не в тому, щоб бути фаталістом. Мета така: гаразд, нам треба уникнути обох. Вони однаково погані. Ми маємо думати про всі ці екзистенційні ризики, вони серйозні. Але так само серйозний і ризик такої тоталітарної єдиної світової держави. Формула «Антихрист чи Армагеддон» підштовхує нас шукати поміркований третій шлях. А формула «один світ — або жодного» підштовхує до непомірно могутньої ООН.

Чи стали технологічні мільярдери надто могутніми?

Айзексон: У цій серії я розмовляю з будівничими, багатьох із яких ви допомогли виростити: Алекс Карп, Палмер Лакі, Ілон Маск. Виникла справжня хвиля спротиву «технобратам»-мільярдерам. І частково я її розумію. Типу: «Ого, в цих людей стало забагато влади. Вони вийшли з-під контролю». Хіба це вас не непокоїть так само, як інші екзистенційні ризики?

Тіль: Ви про владу в економічному сенсі чи у вузько політичному?

Айзексон: Я мав на увазі і те, і те. Що б з нами не сталося в майбутньому, яке ми намагаємося збудувати, контролює його зараз дуже небагато людей, і, здається, моральних запобіжників у них менше, ніж у попередників.

Тіль: Я трохи думав про це перед вашим інтерв'ю. Мій венчурний фонд називається Founders Fund. Я наче інвестую в людей, які щось засновують. Ви зосереджуєтеся на будівничих, і в певному сенсі це краще формулювання, ніж «засновники». Бо так, заснувати такий бізнес чомусь дуже важливо, але справжнього впливу, справжньої трансформувальної сили — на краще чи на гірше — вони набувають завдяки цьому величезному ефекту складного зростання з часом. Це радше марафон, ніж спринт.

Так, мені хочеться прискіпатися до всіх ваших характеристик, але припустімо, заради аргументу, що всі вони правильні.

Ілон Маск, Стів Джобс і засновники-візіонери

Тіль: Яка альтернатива? На корпоративному рівні альтернатива компанії на чолі із засновником, де є така трохи божевільна творча людина на кшталт Ілона, — це бюрократ із дипломом MBA та дуже бюрократична рада директорів, які ніколи нічого не хочуть робити. Тож так, можливо, це забагато влади в руках харизматичного лідера, або ж це вкрай нудна бюрократія. І я стверджую, що це бімодальний розподіл. Це буквально два єдині типи компаній, які в нас є: або харизматичний, можливо, небезпечний, але дуже надихаючий лідер, який робитиме нові речі, або нудна бюрократія, яка просто…

Айзексон: А як щодо Apple, яка після харизматичного засновника… Чи збилася вона з курсу, чи стала бюрократичною?

Тіль: Це надзвичайна історія. Але так, на мою думку, після Джобса вона не зробила нічого нового. Є всілякі показники, на які можна подивитися: у неї були найнижчі витрати на дослідження й розробки і найбільші — на зворотний викуп акцій. Це була просто чиста, добре керована «акція вартості». І Тім Кук був, можна сказати, анти-Джобсом. Він був ефективним операційним керівником із нульовою харизмою. А виявилося, що мобільний телефон був гігантським винаходом, і далі робити було майже нічого. Залишалося тільки масштабувати, будувати бренд і розвивати це протягом 15 років чи скільки там. Не знаю, якщо питати, що добре для акціонерів, то вони обидва можуть бути добрими. Але я б однаково сказав, що Ілон або Стів Джобс якимось чином значно кращі для суспільства, ніж Тім Кук.

Що рухає Пітером Тілем?

Айзексон: Коли говорять про героїв, про яких я пишу, люди завжди намагаються пояснити їх так: «Ой, вони просто хочуть грошей». А мені здається, що не зовсім так. Що б ви назвали своєю таблицею результатів?

Тіль: Так, тут є безліч вимірів. Мабуть, я надто люблю перемагати. Я дуже захоплююся ідеями. Це не зовсім хобі, але найближче до хобі, що в мене є, — це цікаві розмови з людьми за вечерею. Мені подобається розбиратися в речах заради самого розуміння. Іноді я раціоналізую це тим, що це якось робить мене кращим інвестором. Мабуть, це тут ні до чого. Мабуть, це просто виправдання для певного дилетантства чи чогось такого. Але ні, я вважаю себе людиною справді інтелектуально допитливою.

Айзексон: Яка мета, заради якої ми зараз будуємо? Якщо ми можемо мати колосальну продуктивність, то чи наша мета — зберегти демократичні свободи? Людський розквіт? Що б ви хотіли, щоб ваші будівничі мали за дороговказ, окрім «я можу знайти наступну нову річ в епоху ШІ»?

Майбутнє інновацій і людського прогресу

Тіль: Існує безліч вимірів прогресу, які ми як суспільство могли б мати. І в мене завжди є така оповідь: певною мірою прогрес важко виміряти в сукупності, але в чомусь він сповільнився в 1970-х. У нас був колосальний прогрес у світі бітів і дещо менший у світі атомів. Коли я наприкінці 80-х навчався на бакалавраті у Стенфорді — тоді це, може, не було цілком очевидно, але заднім числом зрозуміло, — більшість інженерних спеціальностей були невдалим вибором: машинобудування, аерокосмічна інженерія, хімічна інженерія. Бо світ атомів був надто повільним, надто зарегульованим, нічого справді драматичного й нового там не відбувалося. Ядерна інженерія вже наприкінці 80-х була цілком пройденим етапом. В електротехніки ще було кілька добрих років. А потім усе по-справжньому перемістилося в інформатику як у єдину галузь замість атомів.

Тож моя постійна надія полягає в тому, що ми, люди, втілені в цьому світі, і світ атомів, у якому ми живемо, — справді важливий світ. І є певна частина…

Айзексон: Ми до цього повертаємося.

Тіль: Я знаю, це було дуже важко. Мені хотілося б більшого прогресу в медицині, в медичних технологіях. Можливо, проєкт радикального продовження життя здається людям надто моторошним, але чи могли б ми принаймні вилікувати деменцію? Чи могли б принаймні вилікувати хворобу Альцгеймера чи щось подібне? І є надія, що відродження науки та інженерії значно ширше буде частково стимульоване ШІ.

Чи має значення виживання людства?

Айзексон: Почасти я веду до цього питання про мету прогресу ось чому. Коли вас інтерв'ював Росс Дутгет, він в один момент спитав: «Вам справді не байдуже, чи виживе людство?» І ви довго мовчали.

Айзексон: Тож я питаю знову. Чи це наша головна мета — така собі азімовська мета, щоб людство вижило? Чи ні?

Тіль: Ну, це надзвичайно важлива мета. Я не думаю, що вона може бути єдиною метою. У певному сенсі людство може вижити, якщо ми нічого не робитимемо. Або ж, можливо, все піде дуже шкереберть, як я кажу, без зростання. Але так, не знаю, я думаю, Кремнієва долина завжди дуже погано розуміє сенс технологій. І, можливо, не тільки Кремнієвій долині належить цей сенс формулювати. Можливо, єдиного сенсу немає. Безумовно, частиною його має бути те, щоб ми робили це так, аби уникати екзистенційних ризиків. А може, технологія навіть є способом уникнути екзистенційних ризиків. Наприклад, якщо ми повернемося до ядерної енергетики, це була б вуглецево нейтральна технологія. Тож ядерна енергетика — технологія, на яку нам треба робити ставку, щоб людство могло вижити більш вуглецево нейтральним способом.

Чому я тоді завагався, відповідаючи на питання Росса? За ним я почув питання в луддитському дусі: можливо, ця технологія небезпечна, і чому б не вдовольнитися тим, щоб усе тривало так, як є зараз? Навіщо нам усі ці вдосконалення та зміни, які можуть бути небезпечними? А моя інтуїція така: так, є безліч аспектів, у яких людство далеке від досконалості. І це був головний проєкт Просвітництва, науки XVII–XVIII століть: полегшення людської долі. Життя мало стати чимось більшим, ніж «бридке, жорстоке й коротке», як у Гоббса. І воно стало довшим. Але я не бачу, чому було б небажано зробити його ще значно довшим, ніж зараз, або принаймні вилікувати багато страшних хвороб, які досі існують, і таке інше. Тож це інша моя інтуїція. Так, я хочу, щоб людство вижило. Я хочу, щоб людство процвітало. І є безліч аспектів, у яких цього, можливо, не станеться без прогресу.

Рене Жірар і міметичне бажання

Айзексон: Дозвольте повернути вас до деяких філософів, які на вас вплинули. Один із них — Рене Жірар, з ідеєю міметичного бажання. Поясніть, що це таке і чому ви відчуваєте потребу йому опиратися.

Тіль: Рене Жірар. Я вивчав філософію на бакалавраті у Стенфорді. Його концепція людської природи полягає в тому, що ми глибоко міметичні, глибоко наслідувальні. Жірар любив цитувати Аристотеля: людина відрізняється від інших тварин більшою схильністю до наслідування. І так можна поєднати Аристотеля й Дарвіна. Дарвін каже, що ми споріднені з мавпами, а Аристотель каже, що від мавп ми відрізняємося більшою схильністю до наслідування, — тобто ми, по суті, «мавпуємо» більше за самих мавп. Бо саме так дитина вчиться мови: копіює батьків. І саме так передається людська культура. Ми не були б людьми, якби не були цими неймовірно потужними машинами наслідування.

Але є й способи, якими наслідування може піти шкереберть. Коли дві мавпи тягнуться до одного банана, це може стати надзвичайно конфліктним. Тож так, у Жірара мімесис — це неймовірно потужна сила на задньому плані.

Айзексон: Мімесис означає копіювання, тобто по суті погані форми наслідування.

Тіль: Він дуже плідний, але в різні моменти стає й руйнівним. І ви опиняєтеся в цих дуже безплідних змаганнях за статус або за ці, знаєте, позиційні блага, які означають далеко не так багато, як вам здається. Здається, Наполеон казав, що дивовижно, на що можна змусити генералів, якщо давати їм медалі чи щось таке.

Психологічне тлумачення Жірара, яке напрошується, хоча сам він так не робив би, таке: треба думати, як уникнути цього поганого мімесису, і не втягуватися в безглузді змагання, де нічого нового, нічого творчого не відбувається. Це психологічна інтуїція проти мімесису. Жірар як християнин сказав би: насправді не в ваших силах не бути міметичним. Найкраще, що ви можете, — це ходити до церкви по неділях чи щось таке. Тож він ставився б до цього скептично.

Проміжний погляд, через який я завжди про це думаю, такий: так, є дуже потужні аспекти. Є також аспекти, де існує мудрість натовпу, але є й божевілля натовпу.

Чому Ілон Маск і Стів Джобс мислять інакше

Тіль: І в певному сенсі, я б сказав… не думаю, що це обов'язково риса всіх будівничих, але, безумовно, багато будівничих, якими я найбільше захоплююся, мали досить своєрідне, стійке бачення. Можливо, воно випливало з певних перших принципів, певних незмінних ідей, як-от Ілон і політ на Марс. Так, це було доволі незвично, але, чорт забирай, це не була соціально конвенційна ідея. І надзвичайно плідним це було тому, що відкривало цілий шлях для зростання й будівництва, якого, можливо, ніколи б не з'явилося, якби він цього не зробив. Тож, мабуть, я б досі, не знаю, назвав Ілона і певною мірою Стіва Джобса двома великими неміметичними будівничими. Джобс склав докупи всі ці елементи. У певному сенсі вони вже існували, але він поєднав їх унікальним чином і створив телефон із доступом до інтернету.

Айзексон: Гаразд. Але, слухаючи вашу відповідь, ви, можливо, розумієте, чому я про це спитав. Бо коли ви кажете «наслідування», «гра в імітацію», «міметичний», «генеративний»… Це та сама мова, якою ми тепер говоримо про ШІ, який, як сказав би Алан Тюрінг, по суті починається як гра в імітацію.

Приховані мотиви творців ШІ

Айзексон: По-друге, він генеративний. А ви кажете, що це небезпечно. Чи є в створенні ШІ щось таке, проти чого застеріг би нас Рене Жірар?

Тіль: Знаєте, думаю, його загальна інтуїція щодо технологій полягала в тому, що ми надавали їм надто великої автономії, а справжні питання стосувалися людей, які ними користуються. Ми схильні говорити про ядерну бомбу так, ніби вона якесь божество…

Айзексон: Хіба він не має рації?

Тіль: Ну, можливо, важливий — чи принаймні один із важливих — вимір питання про ШІ полягає не в тому, що робитиме ШІ, а в тому, що насправді рухає людьми, які будують ці компанії. Які в них мотиви? Що в них на думці? Ось такі питання…

Айзексон: То дайте відповідь на ці питання.

Тіль: О, це важко сказати. Я витратив безліч часу, безмежно багато часу, думаючи про це. Але є якийсь вимір, який важко збагнути, але який, мабуть, дуже важливий. Не знаю. Я оцінюю їх як значно більше добрих, ніж поганих, — усіх без винятку. Я думаю, їх дуже легко демонізувати й робити з них цапів-відбувайлів. Скажімо, Ілон, Даріо, Сем Альтман — візьму цих трьох. Цукерберг.

Але я думаю, навіть у випадку ШІ питання про те, хто ці люди, — справді дуже важливе питання. Коли ви пишете свої біографії, вони про значення цих особистостей і про те, хто вони такі. І це не просто своєрідна історія, яка не має нічого спільного з компаніями, які вони збудували, чи зі світом, який вони допомагають формувати. Це дуже-дуже важливе питання. І не хочу надто спрощувати вашу роботу, але більшість ваших біографій передають відчуття, що ці люди складні, але все ж більше добрі, ніж погані. І альтернативний погляд на це — не те, що ці люди більше злі, ніж добрі. Альтернативний погляд у тому, що вони взагалі не мають значення: немає великих людей, немає харизматичних лідерів, і зовсім неважливо, хто вони такі.

Айзексон: А ці люди мають значення. Ці будівничі. Чи важливо, щоб вони не були злими?

Тіль: Е-е… так. Ну, думаю, так. Хоча є безліч варіацій. Звісно, тут завжди багато складності. Можливо, видимість того, що ти не злий, на цьому етапі — просто фальшивий піар-хід. Тож, можливо, Білл Гейтс займається демонстрацією чеснот, а Ілон Маск — демонстрацією вад. І в нашому світі, можливо, ти чесніший, якщо демонструєш вади, ніж якщо демонструєш чесноти. А чесність, можливо, — це добре. Тож ти насправді краща людина, якщо демонструєш вади, ніж якщо демонструєш чесноти. Тож тут багато складності.

Добро і зло: мораль і компетентність

Тіль: Я завжди… і знову ж таки, це не аргумент на користь зла, який я зараз наведу. Але застереження, яке я завжди роблю: питання в тому, що є антонімом до «доброго»? Це «злий» у моральному сенсі чи «поганий» у сенсі некомпетентний? Скажімо, Ferrari — це «зла» машина, бо вона проїжджає мало миль на галон. А якась «Лада» чи «Трабант», східноблокові машини, які не працюють, гірші за гольф-кар. Це погана машина. Вона постійно ламається. Тож краще бути добрим, ніж злим. Але, можливо, якщо ти злий, ти принаймні компетентний і принаймні не поганий.

І навіть попри всю демонізацію людей на кшталт Ілона, коли в певних контекстах їх постійно описують як злих — і водночас як неважливих, бо, як ми кажемо, особистостей немає, — але тією мірою, якою їх описують як злих, їх принаймні не описують як поганих. А якщо ми живемо у світі, де цими компаніями керують сірі бюрократи…

Айзексон: Стривайте. Хіба ви не воліли б сірих бюрократів, ніж злих людей?

Тіль: Ну, якщо сірий бюрократ означає поганий, тобто некомпетентний… Злий принаймні щось робить. І знаєте…

Айзексон: А на чиєму боці ви були б у цьому?

Тіль: Ну, я їх ранжую. Добро понад зло. Але зло краще, ніж погане. До речі, в цьому й різниця між «Фаустом» Ґете та «Фаустом» Марло. У Марло Фауст — фальшивий учений, шахрай. Він маг, такий собі ошуканець, фальшивий алхімік. Він обдурює людей. Він поганий учений і йде прямо до пекла. У Ґете Фауст працює з дияволом. Тобто це таке зле місце, де він здобуває знання, але потім це щось робить. Це робить більше добра, ніж зла. І Фауст зрештою отримує спасіння. Тож так, я не вважаю себе дияволом у «Фаусті», і навіть Фаустом себе не вважаю, але мені ближчий настрій Ґете, ніж Марло.

Айзексон: І ви віддаєте перевагу злій людині, яка вміє досягати результату, перед некомпетентною?

Тіль: Я просто роблю загальне суспільне спостереження. Я думаю, в нашому суспільстві переважна більшість віддає саме таку перевагу, бо люди скрізь стикаються з некомпетентністю. Коли ви йдете до управління транспортних засобів, не впевнений, що ви назвете це злом. Це просто погано. А погане настільки гірше, ніж…

Айзексон: Як би ви визначили зло?

Тіль: Ну, це… (зітхає) Не знаю, це, мабуть, дуже важко повністю розібрати, але це коли ми наголошуємо на моральних вимірах: що це морально сумнівно. Саме так консерватори атакували дослідження стовбурових клітин у 2000-х. Вони не казали, що це погана наука, бо вона б працювала. Вони не сумнівалися, що вона приведе до ліків. Але це була зла наука, бо потрібно було добувати ембріони. І я думаю, саме тому вони програли дебати, бо всі подумали: «Ого, це ж справді працюватиме. Воно не може бути цілком злим, якщо приносить стільки добра».

А консерватори виграли дебати про мистецтво в 90-х, коли ліберали казали: мистецтво має бути трансгресивним, і це справді велике мистецтво, якщо воно трохи зле, якщо ображає ваші почуття. Зле мистецтво — велике мистецтво. Консерватори на це не повелися. Вони сказали: «Це навіть не мистецтво. Це погане мистецтво. Це навіть не мистецтво. Воно не повинно отримувати державного фінансування. Воно настільки погане». І так: якщо ви кажете, що мистецтво погане, його позбавляють фінансування. Якщо ви кажете, що наука зла, її фінансують. Тож я кажу вам те, з чим, думаю, погодиться більшість людей у нашому суспільстві.

Що Тіль шукає в засновнику

Айзексон: Якби ви підтримували будівничого, то на якому місці у вас був би моральний компас?

Тіль: Я ставлю його досить високо. Високо. Я б сказав… але давайте… Мені не подобається інвестувати в компанії, які є просто бізнесом. Має бути якась трансцендентна мета. Щось дуже важливе, що ви робите. Тож Ілон і політ на Марс — я не знаю точно, де б я поставив це на моральній шкалі добра й зла, але це трансцендентно. Це якимось чином не просто бізнес. Ми не просто якась брокерська контора, яка заробляє кілька доларів щоразу, коли люди купують і продають акції. Це не просто короткостроковий бізнес, який працює, поки кидаєш монетки. У ньому є трансцендентне відчуття мети. Ось що мені подобається.

Чим люди відрізняються від ШІ?

Айзексон: А в цю епоху ШІ, якої ми боїмося, що, на вашу думку, можуть робити лише люди, якщо таке взагалі є?

Тіль: Ну, саме в цьому сенсі питання про ШІ — це питання про нас. Що означає бути людиною? Для когось на кшталт Хомського, лінгвіста з MIT, мова була якимось чином ключовою людською здатністю. І це видавалося досить переконливим аж до 2022 року.

Айзексон: Тепер це свідомість.

Тіль: Ну, я думаю, існує «важка проблема» свідомості, і, мабуть, я тут певною мірою картезіанець: я не думаю, що ШІ має свідомість або колись її матиме. Тож, безумовно, один вимір, у якому люди інакші, — ми переживаємо світ інакше. Ми переживаємо його свідомо. Ви бачите прекрасний захід сонця — існує людський спосіб бачити прекрасний захід сонця.

Айзексон: І ми усвідомлюємо свою свідомість.

Тіль: І якби у світі не було людей, я не думаю, що комп'ютер переживав би захід сонця так само. І це була б дуже велика втрата. Не знаю, чи саме на цьому я хотів би будувати головне пояснення, чому людству необхідно вижити, але якщо людство не виживе, ви принаймні втратите це.

І, знаєте, моя жірарівська інтуїція полягає в тому, що ми також дуже реляційні істоти. Дуже важлива частина нашого життя — це не просто розум, який мислить сам себе, як у Декарта. Це те, як ми пов'язані з іншими людьми: у родинах, у компаніях, у ширшому суспільстві. І реляційний вимір того, що означає бути людиною… Можливо, ШІ його змінить. Теоретично, я думаю, він мав би його поліпшити. Мали б з'явитися способи, як ми можемо в цьому вдосконалитися, приділяти цьому більше часу — менше часу на роботизовану працю на заводі чи щось подібне. Тож я думаю, ці реляційні виміри, можливо, є дуже глибинними й ставатимуть дедалі важливішими. І так, якби ви замінили всіх людей комп'ютерами, ви втратили б принаймні ці дві речі. Це були б дуже тяжкі втрати.

Айзексон: Пітере, дякую.

Тіль: Чудово.

---

Переклад розмови з подкаст-серії Волтера Айзексона «Будівничі» (виробництво Kaleidoscope та iHeart). Виконавчі продюсери від Kaleidoscope — Оз Вошлоян, Девід Вайсборт і Мангеш Хаттікудур; музика — Спенсер Стівенсон (Botny). Переклад скорочено лише в частині технічних ремарок і рекламних пауз.