Kurfuturelab представляет

Мэттью Керубини
«Этические автономные транспортные средства»

Биография художника и история работы

Мэттью Керубини — швейцарский художник, живущий и работающий в Пекине. Он начинал как разработчик программного обеспечения, но сегодня использует свои навыки работы с кодом, главным образом, чтобы превратить единицы и нули в сложные социально-политические художественные проекты. Одно из его произведений — VR-игра «35,000 Feet» имитирует полет над Сирией. Во время полета виртуального дрона над руинам, оставшимися после военных действий, у пассажира-игрока есть возможности отвлечься: посмотреть голливудский фильм прямо в полете или прочитать глянцевый журнал. Эта концепция связана с «Дневником войны в Афганистане» (политическое досье, представленное совокупностью секретных материалов Пентагона в ходе военной кампании США 2004-2009 годов и опубликованное интернет-ресурсом Wikileaks в 2010 году), в котором виртуальные убийства в военной игре «Counter-Strike» отображались в зонах боевых действий в Афганистане, визуализированных через Google Earth.

Работы художника экспонировались в Центре Помпиду (Париж), Mori Art Museum (Токио), HOW Art Museum (Шанхай), Музее Николы Тесла (Загреб), на Венской биеннале, House of Electronic Arts (Базель).

«Этические автономные транспортные средства» (интерактивная игра и видео 2013-2017)

Первая версия этой работы была создана в 2013 году, новая версия, сделанная в 2017 году, была заказана Центром искусств и медиатехнологий ZKM (Германия) для выставки «Открытые коды» в Берлине.

Многие производители автомобилей прогнозируют, что к 2025 году большинство автомобилей станут беспилотными. Справедливо полагать, что благодаря этому наши дороги станут более безопасными, но непредсказуемость реальных ситуаций, связанных со сложностями морального и этического выбора, делает это предположение не столь однозначным.

Как можно разработать системы, симулирующие сложные моральные и этические процессов мышления, особенно когда речь идет о человеческих жизнях? Подобно выбору цвета автомобиля, этика может стать характерной чертой для автономных транспортных средств, которые можно покупать и выбирать в зависимости от личного вкуса.

В работе представлено три алгоритма, каждый из которых придерживается определенного этического принципа поведения и встроен в виртуальные беспилотные автомобили. Транспорт находится в моделируемой среде, где и будет сталкиваться с различными этическими дилеммами. Гуманистический алгоритм ищет оптимальный результат безопасности для всех сторон; протекционистский алгоритм ориентирован на безопасность водителя и пассажира, а алгоритм, ориентированный на максимальную прибыль, принимает решение на основании бюджетных соображений.

Как такая система может учитывать сложность этических и моральных соображений? Поскольку этика не имеет универсального стандарта, станет ли она товаром, который можно выбирать и покупать в зависимости от личного вкуса? Или этические рамки, встроенные в эти продукты, будут регламентироваться производителем? Самое главное, можем ли мы когда-либо предположить, что наши нынешние личные этические представления можно воспринимать как  универсальные и использовать для продуктов реального мира, которые должны решать моральные дилеммы? 

Скачать интерактивную игру: http://mchrbn.net/

Matthiew Cherubini is an artist from Switzerland living in Beijing. He started out as a software developer but today uses his coding skills mainly to turn ones and zeros into challenging sociopolitical art projects. His VR game 35,000 Feet simulates a flight over Syria. While drones buzz through the skies and the ruins of a war zone pass by below, the player-passenger has the distracting options of watching an inflight Hollywood movie or reading a glossy magazine. The concept ties in with Afghan War Diary (2010), which projected virtual kills in the war game Counter-Strike onto combat zones in Afghanistan visualised through Google Earth. The artist’s works were exhibited at the Centre Pompidou (Paris), Mori Art Museum (Tokyo), HOW Art Museum (Shanghai), Nikola Tesla Museum (Zagreb), at the Vienna Biennale, House of Electronic Arts (in Basel).

«Ethical Autonomous Vehicles» (interactive game, video, 2013 – 2017)

PhD by project, Design Interactions department, Royal College of Art, 2012-present

The first version of this project was developed in 2013, this new version made in 2017 was commissioned by the ZKM for their «Open Codes» exhibition.

Many car manufacturers are projecting that by 2025 most cars will operate on driverless systems. While it is valid to think that our roads will be safer as autonomous vehicles replace traditional cars, the unpredictability of real-life situations that involve the complexities of moral and ethical reasoning complicate this assumption.

How can such systems be designed to accommodate the complicatedness of moral and ethical thought processes, especially when human lives are involved? Just like choosing the color of a car, ethics can become a commodified feature in autonomous vehicles that one can buy, change, and repurchase, depending on personal taste.

Three distinct algorithms have been created — each adhering to a specific ethical principle/behavior set-up – and embedded into driverless virtual cars that are operating in a simulated environment, where these autonomous vehicles will be confronted with various ethical dilemmas.Three distinct algorithms have been created, each adhering to a specific ethical principle: the humanist algorithm looks for the optimal safety outcome for all parties; the protector algorithm is focused on the safety of the driver and passenger(s); and the profit-based algorithm makes its decision based on budgetary reasons.

How can such a system be designed to accommodate the complexity of ethical and moral reasoning? As ethics have no universal standard, will they become a commoditized feature that one can buy, change, and repurchase depending on personal taste? Or will the ethical frameworks embedded into these products be those of the manufacturer? Most importantly, can we ever suppose that our current subjective ethical notions can be taken for granted, and used for real world products that contain a form of moral reasoning?

Download the game: http://mchrbn.net/