Мораль и этика машины без водителя

Кого будут сбивать автоматические системы вождения? Это - серьезный вопрос. И вот почему

18 марта в американском Темпе в штате Аризона беспилотный автомобиль впервые насмерть сбил человека. Как пишет The New York Times, ДТП произошло с участием машины Uber Technologies. Предварительные итоги расследования показали, что женщина шла по обочине и катила рядом с собой велосипед, груженый сумками. Внезапно она вышла на проезжую часть и тут же попала под колеса машины. За рулем в этот момент был водитель, но автомобиль двигался в режиме автопилота. 

Спустя десять дней после инцидента Uber объявила, что не будет продлевать лицензию на испытания беспилотных автомобилей в Калифорнии. Действующая лицензия заканчивается 31 марта, после этого беспилотные автомобили компании на дорогах общего пользования не появятся. Как пишет San Francisco Chronicle, в Uber понимают, что в сложившихся обстоятельствах не смогут предоставить удовлетворительные доказательства безопасности пешеходов — только так можно продлить лицензию. До тех пор, пока ведется следствие, этих доказательств у компании нет.

Автопилот уже был повинен в смерти человека. В мае 2016 года машина Tesla Model S, который также двигалась в автоматическом режиме, врезалась на полном ходу в грузовик. Водитель, находившийся в салоне, погиб. Трагедия заставила задуматься о вине автопилота и, соответственно, компании-производителя. Но Tesla представила доказательства, которые подтверждали неправильное использование системы самим водителем. Кроме того, в пользу компании говорила статистика: на более чем 350 миллионов километров, которые к тому моменту наездили машины в режиме автопилота, этот летальный исход стал первым.

Этика беспилотника

С каждым годом беспилотные технологии становятся все более совершенными. Автомобиль напрямую взаимодействует с дорожной инфраструктурой, сам выбирает маршруты и даже создает нужную для пассажиров атмосферу в салоне. На проходившем в начале марта автосалоне в Женеве концерн Volkswagen показал седан, в котором даже не предусмотрен руль, а все управление машиной ограничено двумя джойстиками для передних и задних пассажиров. Да и эти устройства в большей степени предназначены для выбора комфортного музыкального фона или смены режима подсветки, а вовсе не для управления транспортным средством. Столь продвинутые системы беспилотного вождения специалисты относят к высшему, пятому уровню. В Volkswagen говорят, что к 2025 году подобные машины станут нормой на дорогах. Чем ближе час X, тем чаще будущие покупатели спрашивают: как должна себя вести машина в случае неизбежного столкновения? 

В 2015 году специалисты Тулузской школы экономики опросили около тысячи человек. У всех спрашивали: как они представляют действия автопилота, если на дороге общего пользования перед беспилотным автомобилем внезапно выбежит толпа людей? В издании Technology Review статью с итогами эксперимента опубликовали под заголовком «Why Self-Driving Cars Must Be Programmed to Kill» – «Почему беспилотный автомобиль должен быть запрограммирован на убийство». Опрошенным предложили представить себя наблюдателем или же пассажиром беспилотника.

Тремя вариантами исхода ситуации были:

  1. автопилот резко сворачивает, люди в толпе выживают, но точно гибнет один пешеход на тротуаре;
  2. автопилот сбивает всю толпу, возможно, кто-то и погибнет, но водитель и случайный пешеход на тротуаре точно выживут;
  3. автопилот сворачивает и, возможно, гибнет владелец машины.

Большинство опрошенных устроил первый вариант, при котором количество жертв удастся минимизировать, но жизнь владельца машины при этом будет сохранена. Правда, большинство респондентов не смогли уверенно сказать, что такой сценарий — единственно возможный и его можно было бы утвердить законодательно.  

Этот тест — относительно примитивен. Куда сложнее выбор, который предлагается участникам опроса  Массачусетского технологического института. На сайте Moral Machine посетителям предлагаются 13 гипотетических ситуаций. Все разные: люди на дороге, неожиданное препятствие, люди во всех полосах и так далее. В каждом случае кто-то должен погибнуть. И это могут быть и пешеходы, и люди в машине. В каких-то случаях это будут дети, в других выбор придется делать между мужчинами и женщинами. Есть и совсем жестокий вариант: врезаться в толпу с детскими колясками в одной полосе или в другой. Результат — одинаков. Вот несколько примеров сценариев:

Результаты исследования говорят о том, что решение, кем пожертвовать в каждом конкретном случае, респонденты принимают, исходят из собственных представлений о морали. На выбор также влияют пол, возраст и ответ на жестокий, но неизбежный вопрос: чья жизнь стоит дороже.

Разработчики систем беспилотного вождения избегают комментариев насчет этической составляющей. В целом, их позиция такова: машины с полностью автономными системами вождения пока не готовы к эксплуатации на дорогах общего пользования. Как минимум, необходимо доработать датчики движения и системы обнаружения опасности.

Пионером по регулированию действий беспилотников, вероятнее всего, станут США, где палата представителей уже поддержала законопроект «Safely Ensuring Lives Future Deployment and Research In Vehicle Evolution Act». Если документ утвердит Сенат и его подпишет президент, у инженеров, занимающихся системами автономного вождения, появится понимание, кто и за что будет отвечать на дороге. 

Документ обязательно будет, только вопрос морали все равно останется. Сейчас все решения принимает водитель, который и несет конечную ответственность в случае ДТП. Он совершает выбор, кого сбить: беременную женщину, переходящую дорогу в неположенном месте, ни в чем неповинную старушку, идущую по тротуару, а может, лучше погибнуть самому, врезавшись в фонарный столб.

Соцсети
Сайт сделан в Бреле 2017