Цукерберг против Маска, технологии против человека

Два разных пути в будущее, один из которых может обернуться большой бедой

Чуть ли не каждый день мы видим новости о новых достижениях Илона Маска. В последние недели главные заголовки мировые СМИ посвящены проблемам Марка Цукерберга. Оба они — гении XXI века, но их видение будущего принципиально различается. По просьбе Quartz обозреватель Майкл Дж.Корен попытался разобраться, в чем разница между теми, кто каждый свой день отдает тому, чтобы встроить новые технологии в повседневную жизнь. Криптус пересказывает главное из этой статьи.


Принято считать, что амиши до сих пор живут без технологий. Но на самом деле, на многих фермах амишей есть самые разные машины – механические мешалки, дизельные двигатели, ленточные шлифовальные станки.

Амиши — религиозное течение, являющееся частью протестантской конфессии. Предполагает почти дословное толкование Библии и чрезвычайно консервативное отношение к любому проявлению прогресса. Амиши не занимаются миссионерской деятельностью, не строят своих храмов, а жить предпочитают в сельской местности. Течение амишей настолько закрыто, что в брак они вступают только с единоверцами. Основные регионы концентрации амишей — США и Канада.

Фактически, амиши не выступают против технологий. Но общество по привычке считает иначе. Об этом говорит научный сотрудник по социологии в Университете штата Аризона Джеймсон Ветмор. По его словам, в то время, как внешний мир воспринимает любые инновации как что-то хорошее, пока не доказано обратное, амиши изначально оценивают, способна ли новая технология разрушить их ценности.

Эта последняя концепция в последнее время активно обсуждается в Силиконовой долине. Там ведутся дискуссии о том, к каким непредвиденным последствиям могут привести технологии. Отрасль давно разделена, а спор с каждым годом становится все более ожесточенным. Во главе сторонников разных концепций есть безусловный лидер мнений. И у каждого — свои аргументы.

По разные стороны технологий

В одном лагере — генеральный директор Facebook Марк Цукерберг. Он считает технологии непререкаемым достоянием человечества. По его мнению, любые социальные и этические проблемы можно решить по мере развития технологий. Кажется, такой точки зрения по умолчанию придерживается большая часть жителей Силиконовой долины, но это не так.

Его основной оппонент — генеральный директор Tesla и SpaceX Илон Маск. Он проявляет осторожность в работе, например, с искусственным интеллектом, опасаясь потери контроля над ним со стороны человека.

Ни один из них не отвергает технологии. Оба уверены, что будущее зависит от быстрого прогресса. Но недавний скандал с Facebook обнажил их идеологический разрыв. Не случайно Маск удалил страницы Tesla и SpaceX из этой соцсети, хотя на них были подписаны около 5 миллионов человек.

Цукерберг рассматривает мир как бесконечный эксперимент, или тест, который к тому же приносит прибыль. Маск считает что искусственный интеллект необходимо обуздать уже сейчас, поскольку машинный разум неизбежно станет «фундаментальным риском для существования человеческой цивилизации» . Цукерберг отрицает такие взгляды. Во время прямого эфира в Facebook в июле прошлого года он сказал: «В некотором роде, я на самом деле думаю, что это (взгляды Маска) очень безответственно». Маск быстро ответил в Twitter. «Я говорил с Марком об этом. Его понимание предмета ограничено».

Взгляды обоих предпринимателей на риски и преимущества технологий воплощены в их компаниях. Девиз жизни Цукерберга: «Двигайся быстро, и ты сможешь сломать порядок вещей». Этот же принцип воплощен в Facebook, который стал крупнейшей соцсетью в мире, которая начиналась как экспериментальная работа в университете в 2004 году.

Основной целью Цукерберга было как можно быстрее дать возможность пользоваться плодами цифровых технологий как можно большему количеству людей. Маск занимается электромобилями и космическими путешествиями, в которых даже незначительные просчеты могут иметь катастрофические последствия. Никто не станет покупать автомобиль Tesla, если девиз компании будет: «Двигайся быстро, и ты сможешь сломать порядок вещей».

Взять хотя бы решение Tesla о выпуске своего автопилота в бета-версии. Это привело к трагедии в 2016 году, когда Джошуа Браун разбил свою Тесла S на скорости более 100 километров в час. Это была первая смерть, связанная с автопилотом. Национальный совет по безопасности на транспорте США признал виновным водителя, который положился на автоматику транспортного средства. Но при этом власти посчитали ошибкой отсутствие ограничения скорости в автомобиле.

Вопрос безопасности автопилота снова встал 23 марта 2018 года после очередного ДТП. Решение Tesla о выпуске автопилота можно назвать преждевременным и продиктованным желанием опередить конкурентов. А можно рассматривать и как искреннее желание как можно быстрее развить жизненно важную технологию.

Если говорить философски, Маск руководствуется убеждением о том, что человечеству нужно быстро измениться. Неслучайно инновации его компаний связаны с изменениями климата и межпланетными исследованиями, безопасности искусственного интеллекта и очевидном, но до сих пор не созданном подземном транспорте. Маск считает, что вымирание человечества гораздо более вероятно, чем мы могли бы подумать – из-за рискованных технологий и стихийных бедствий.

В лагере Цукерберга — соучредитель Google Ларри Пейдж, изобретатель Рэй Курцвейл и компьютерный ученый Эндрю Ын, выдающаяся фигура в сообществе искусственного интеллекта, ранее возглавлявший подразделение искусственного интеллекта в китайской компании Baidu. Все трое, по-видимому, разделяют философию о том, что технологический прогресс почти всегда положителен и сбалансирован.

Маск наряду с Биллом Гейтсом, покойным физиком Стивеном Хокингом и венчурными инвесторами Сэмом Альтманом и Фредом Уилсоном не считают технический прогресс безусловным благом. По этой причине они открыты для регулирования. После выборов Трампа, например, Уилсон сказал: «Я готов заплатить налог, который создаст хороший нормативный надзор в нашей отрасли».

Теперь я стал смертью

Из-за конфликта взглядов в Силиконовой долине возникает вопрос: на ком лежит ответственность за будущее? Мы управляем технологией, или она управляет нами?

Большинство людей в Силиконовой долине считают, что они контролируют свои и наши судьбы. «Вы не получили бы Facebook, Microsoft, Google и Apple, если бы их основатели не были глубоко оптимистичны, чтобы сделать что-то значимое», — утверждает Цукерберг.

 Эта философия и привела Facebook к успеху.  «У меня больше опасений, что мы не сможем использовать свои возможности по максимуму, чем о том, что мы что-то испортим, и бизнес будет идти плохо», — говорит создатель соцсети.

Оптимизм действительно необходим для технического прогресса. Но непреднамеренные последствия, которые сопровождают добрые намерения, заставляют таких, как Маск, беспокоиться. «Иногда ученые настолько увлечены своей работой, что действительно не понимают последствий того, что они делают», — сказал Маск на саммите Всемирного правительства в Дубае в феврале этого года.

Сегодня ученые, занимающиеся искусственным интеллектом, все чаще задумываются о том, не будет ли их работа иметь эффект «атомной бомбы». В 1945 году физик Роберт Оппенгеймер, наблюдая за появлением грибного облака над испытательным полигоном во время первого в мире ядерного испытания, процитировал строчку из индуистской эпопеи: «Теперь я стал Смертью, разрушителем миров».

Машины уже могут распознавать речь и письменный текст, они могут узнать лицо конкретного человека из миллионов других лиц. Они с большой точностью могут определить доход человека, его пол, чувства, психическое состояние и многое другое.

Проблема в том, что люди плохо отдают себе отчет в том, какие опасности могут нести новые технологии. Когда автомобили только появились, не было правил дорожного движения. Они появились десятилетия спустя. В США начали требовать водительские права в 1930-х годах, а ремни безопасности появились только в 1960-х. Но прогресс ускоряется, и в этот раз у человечества может не быть столько времени, чтобы приспособиться к новой реальности.

Возможно, амишам есть, что сказать по этому поводу. Некоторые семьи амишей купили авто, когда в ХХ веке началось массовое производство. Но позже сообщество проголосовало за отказ от машин. Почему? «Посмотрите, что они сделали с вами. Вы знаете имена своих соседей? Как только у вас появляются машины, вы перестаете разговаривать с соседями. Это не то общество, в котором мы хотим жить», — сказал один из амишей Ветмору.

Соцсети
Сайт сделан в Бреле 2017