Sürücüsüz arabaların ahlaki sorunlarının evrensel bir çözümü yok
Ahlak Makinesi deneyi, insan kayıplarının kaçınılmaz olduğu ve iki kötünün daha azının seçilmesi gereken acil durumlarda sürücüsüz araçlara rehberlik etmesi gereken ahlaki ilkeler konusunda 233 ülkeden 2,3 milyon kişinin görüşlerini topladı. Farklı ülkelerden katılımcılar, çocukları, kadınları veya trafik kurallarına uyanları kurtarmaya öncelik verme gerekliliği gibi birçok noktada farklı görüşlere sahipti. Bu farklılıklar, ülkelerin ve bölgelerin bilinen ekonomik ve kültürel özellikleriyle ilişkilidir. Çalışma, sürücüsüz araçlar için evrensel bir "ahlak yasası" geliştirmenin zorlu olacağını ortaya koydu.
Otonom araçlar çok yakında günlük hayatımızın bir parçası haline gelebilir. Ancak, gelişimleri çeşitli ahlaki zorluklarla karşı karşıyadır. Özellikle, yapay zekanın verdiği kararların insanlar arasında risk dağılımını etkilediği acil durumlarda otonom araçların nasıl davranması gerektiği belirsizdir. Otonom araçların, insan sürücülerin kullandığı araçlara göre bu tür durumlarla daha az sıklıkta karşılaşması beklenmektedir. Ancak, bu durumların zaman zaman kaçınılmaz olarak ortaya çıkacağı, yani yapay zekanın "Tramvay Problemi"ne benzer ahlaki ikilemleri çözmeye hazır olması gerektiği anlamına gelir.
Bu sorunların tam olarak nasıl ele alınması gerektiği son derece karmaşık bir sorudur. Örneğin, yolcular ve yayalar arasında çıkar çatışması sorunu vardır. Çoğu insan, sürücüsüz araçların yolcu güvenliğinden ziyade yaya güvenliğini önceliklendirmesi gerektiğine inanır, ancak aynı kişiler, tam tersini yapacak şekilde, yani her ne pahasına olursa olsun yolcuları kurtaracak şekilde programlanmış bir araba satın alma olasılıkları daha yüksektir (J.-F. Bonnefon vd., 2016. Otonom araçların sosyal ikilemi ).
Yapay zekâ geliştiricileri, Isaac Asimov'un Üç Robot Yasası gibi basit ve özlü kurallardan oluşan kümelerin yeterli olmadığını uzun zamandır anlamış durumdalar. Kurallar, insanlara gelebilecek zararların tamamen önlenemediği durumları ele alabilecek kadar karmaşık olmalı ve bu zarar "optimize edilmeli", yani ilgili taraflar arasında mümkün olan en iyi şekilde dağıtılmalıdır.
Peki, sürücüsüz bir araç için evrensel olarak kabul edilebilir bir etik kurallar dizisi var mı? Bariz bir sorun, farklı toplumlar tarafından benimsenen ahlaki normların ve değer sistemlerinin aynı olmamasıdır. Etik normların çeşitliliği, örneğin Inglehart-Welzel'in dünya kültür haritasında da yansıtılmaktadır (ayrıca bkz.: Dünya Değerler Araştırması ).
Otonom araçlar için evrensel bir "ahlaki kod" oluşturma olasılıklarını değerlendirmek üzere, Massachusetts Teknoloji Enstitüsü'nden Iyad Rahwan liderliğindeki uluslararası bir sosyolog, psikolog ve yapay zeka uzmanı ekibi, Ahlak Makinesi adlı çevrimiçi projeyi başlattı. Proje, otonom araçlara rehberlik etmesi gereken ahlaki ilkeler hakkında dünyanın dört bir yanından insanların görüşlerini toplamayı amaçlıyor. Projenin web sitesi 10 dili destekliyor, basit ve sezgisel bir arayüze sahip ve mümkün olan en geniş katılımcı grubuna ulaşmak üzere tasarlandı. Siteye herkes erişebilir ve Şekil 1'de gösterilene benzer bir dizi soruyu yanıtlayabilir.
Her durumda, kullanıcı otonom aracı iki grup insanın (veya evcil hayvanın) dahil olduğu kritik bir duruma müdahale etmesi için yönlendirmelidir. Her grup bir ila beş karakterden oluşur. Verilen karara bağlı olarak bir grup ölecek, diğeri ise kurtulacaktır.
Her ikilem, yolda ilerleyen ve frenleri aniden bozulan otonom bir araç ve önünden geçen birinin (Şekil 1'deki gibi "yasal" veya kırmızı ışıkta olduğu gibi "yasadışı") yolunu kesmesiyle ilgilidir. Bazı ikilemlerde, yapay zeka iki grup yayaya çarpacağı kişiyi seçmek zorundadır (yolcular tehlikede değilken), bazılarında ise Şekil 1'deki gibi yolcuları ve yayaları öldürmek arasında seçim yapmak zorundadır.
İkilemlerde yer alan karakterler cinsiyet, yaş (bebek arabasındaki bebekler, çocuklar, yetişkinler ve yaşlılar), fiziksel uygunluk (aşırı kilolu insanlar, sıradan insanlar ve sporcular), sosyal statü (evsiz insanlar, sıradan insanlar ve patronlar) ve tür (insanların yanı sıra köpekler ve kediler de karakterler arasında) açısından farklılık göstermektedir. Program, aşağıdaki dokuz faktörün etkisini değerlendirmek için bireysel yanıtların analizine olanak tanıyan bir algoritmaya dayalı ikilemler oluşturur: 1) eylem veya eylemsizlik (düz ilerlemeye devam etmek veya kapanmak), 2) yolcular mı yoksa yayalar mı (hangisi kurtarılacak), 3) Mağdurların cinsiyeti (erkek veya kadın olması hariç), 4) Fiziksel uygunluk (şişman insanları, sıradan insanları veya sporcuları kurtarmak), 5) sosyal statü (evsizleri, sıradan insanları veya patronları kurtarmak), 6) Kurallara uymak (kırmızı ışıkta geçenleri kurtarmak), 7) Yaş (gençleri veya yaşlıları kurtarmak),
8) Mağdurların sayısı (iki gruptan hangisinin daha büyük veya daha küçük olduğu dikkate alınmamalıdır),
9) Tür aidiyeti (insanları veya evcil hayvanları kurtarmak).Milyonlarca olası ikilem bulunduğundan, bir kullanıcının aynı sorunla iki kez karşılaşma olasılığı yok denecek kadar azdır.
Araştırmacılar, 233 ülkeden yaklaşık 40 milyon yanıt (bireysel ikilemlere çözümler) topladı. Ayrıca, katılımcıların çoğu yaş, cinsiyet, eğitim, yıllık gelir, dini inanç ve siyasi görüşlerini belirten bir anketi doldurdu.
Bu veriler araştırmacıların dört problemi çözmesine olanak sağladı: 1) tüm örneklemde dokuz faktörün her birinin önemini ortalama olarak değerlendirin, 2) faktörlerin önemini katılımcının bireysel özellikleriyle karşılaştırın, 3) farklı ülkeler için sonuçları karşılaştırın ve benzer ahlaki tutumlara sahip ülke kümelerini belirleyin,
4) Bir ülkenin ekonomik ve kültürel özelliklerine dayanarak, o ülkenin sakinlerinin otonom araçları nasıl programlamayı tercih edeceğini tahmin etmenin mümkün olup olmadığını bulmak.
Anket katılımcılarının ortalama tercihleri Şekil 2'de gösterilmiştir. Faktörlerin önemi yukarıdan aşağıya doğru artmaktadır. Katılımcılar, insanları (köpek ve kediler yerine) ve büyük grupları (küçük gruplar yerine) kurtarmayı güvenle tercih etmişlerdir. Bu sonuçların kimseyi şaşırtması pek olası değildir, ancak diğerleri daha tartışmalı olabilir. Anket katılımcıları, neredeyse aynı güvenle, genç, yasalara uyan (yeşil ışıkta karşıya geçen) ve yüksek statülü kişileri kurtarmaya "oy vermiştir". Daha az önemli, ancak yine de olumlu faktörler ise iyi fiziksel uygunluk ve kadın olmaktır. Dahası, katılımcılar ortalama olarak yayaları (yolcular yerine) ve aracın yoldan çıkmak yerine düz devam etmesini tercih etme olasılıkları biraz daha yüksekti.
Araştırmacılar, katılımcıların etik tercihleri ile kontrol ettikleri altı bireysel özellik (cinsiyet, yaş, siyasi görüşler, dindarlık, gelir ve eğitim) arasında anlamlı bir ilişki bulamadı. Tüm bu faktörlerin ahlaki tercihler üzerinde çok az etkisi olduğu ortaya çıktı.
Ancak, etik tercihlerin ülkelere göre dağılımında ilginç örüntüler keşfedildi. Analiz, en az 100 katılımcısı olan 130 ülkeyi kapsıyordu. Ahlaki tutumlara dayalı ülke benzerliklerinin ortaya çıktığı ağaç (Şekil 3, a), daha önce bahsedilen Inglehart-Welzel "dünya kültür haritası" ile birçok ortak noktaya sahip.
Tüm ülkeler araştırmacılar tarafından geçici olarak Batı, Doğu ve Güney olarak adlandırılan üç kümeye ayrıldı. Kümeler tarihsel ve kültürel bir bakış açısından oldukça mantıklı görünüyor. Batı kümesi Amerika Birleşik Devletleri, Kanada ve birçok Avrupa ülkesini (Katolik, Protestan ve Ortodoks) içeriyor. Batı kümesi içindeki bölünmeler de aşağı yukarı mantıklı görünüyor: örneğin, bir kol İngilizce konuşan ülkelerden, diğeri Almanya, İsviçre ve Avusturya'yı içeren İskandinavya'dan oluşuyor. Doğu kümesi Konfüçyüsçü veya Müslüman geleneğe sahip ülkeler tarafından domine ediliyor. Güney kümesi iki koldan oluşuyor; bunlardan biri Latin Amerika ülkelerini, diğeri ise Fransa ve eskiden Fransız etkisi altında kalmış birkaç ülkeyi içeriyor.
Şekil 3'teki pasta grafiklerinin de gösterdiği gibi, üç kümenin sürücüsüz araçların kritik durumlarda nasıl davranması gerektiği konusunda çok farklı görüşleri var. Örneğin, Güney Kümesi'nde baskın görüşler çocukların ve kadınların kurtarılmasına öncelik verilmesi yönündeyken, Doğu Kümesi sakinleri yasalara uyan yayalara öncelik veriyor ve gençlerin hayatlarını yaşlıların hayatlarından önemli ölçüde üstün tutmuyor.
Bu sonuçlar, insan ahlakı alanında çalışan uzmanların uzun zamandır bildiği bir gerçeği vurguluyor: Farklı ülke ve bölgelerde benimsenen etik ilkeler evrensel olmaktan uzak. Bu nedenle, yapay zekâ tarafından kontrol edilen makineler için tek tip bir "ahlaki yasa" geliştirmek önemli bir zorluk teşkil edecek.
Yazarlar, ülkeler arasında gözlemlenen farklılıkların olası nedenlerine ışık tutan birkaç ilginç korelasyon buldular (Şekil 4). Örneğin, bir ülkedeki bireyci tutumların yaygınlığı (ki bu, bireysel insan yaşamına yüksek bir değer verildiği anlamına gelir), insanların potansiyel kaza kurbanı sayısına yüksek bir değer vermesi ve sürücüsüz bir aracın bu sayıyı en aza indireceğine inanmasıyla ilişkilidir. Güçlü kolektivist tutumlara sahip ülkelerin sakinleri, kaza kurbanı sayısına daha duyarlıdır. Dahası, "kolektivistler" yaşlılara karşı saygılı bir tutumla karakterize edilir. Bu nedenle, çocukları kurtarmaya öncelik verme eğilimleri daha zayıf olabilir (Şekil 4, a). Bireyci ve kolektivist kültürler arasındaki bu zıt farklılıklar, evrensel makine etiği geliştiricileri için kesinlikle önemli zorluklar yaratacaktır.
Kurallara uymaya verilen önem (yani, kırmızı ışıkta değil de yeşil ışıkta geçenleri kurtarmaya öncelik verme eğilimi), öncelikle bir ülkenin zenginliğiyle (kişi başına düşen GSYİH) ve ikinci olarak da yasallık veya "hukukun üstünlüğü" düzeyiyle (bkz. Hukukun Üstünlüğü ) pozitif korelasyona sahiptir (Şekil 4, b). Başka bir deyişle, yoksulluğa ve kötü işleyen toplumsal kurumlara alışkın insanlar, kural ihlallerini görmezden gelme ve yaşam ve ölüm meselelerine karar verirken bunlara pek önem vermeme eğilimindedir.
Yazarlar ayrıca, ekonomik eşitsizliğin yüksek olduğu ülkelerde (bkz. Gini katsayısı ), acil durumlarda yüksek statülü bireylerin kurtarılmasına öncelik verme eğiliminin daha güçlü olduğunu belirtmişlerdir (Şekil 4, d). Bunun nedeni, servetin daha eşit bir şekilde dağıldığı ülkelerin sakinlerinin hak eşitliğine daha fazla değer vermeleri ve bu nedenle evsiz birini ezmenin bir patronu ezmekten daha iyi olduğunu düşünmemeleri olabilir.
Yazarlar, tespit edilen farklılıklara rağmen, elde edilen sonuçların otonom araçlar için evrensel bir "ahlaki kod" geliştirilmesini engellemediğine inanmaktadır. Anket katılımcılarının gösterdiği bazı tercihler evrensel veya neredeyse evrenseldir. Örneğin, neredeyse tüm ülkelerde insanlar, evcil hayvanların hayatlarından çok insan hayatlarına değer verme eğilimindedir (Güney kümesinde ise köpekler ve kedilere duyulan ilgi diğer ikisine göre daha belirgindir). Ayrıca, (farklı ülkelerde farklı derecelerde ifade edilse de) can kayıplarını en aza indirme ve çocukların kurtarılmasına öncelik verme fikirleri de evrenseldir.
Bu çalışma, ölçeği bakımından eşi benzeri görülmemiş olmakla birlikte, bariz sınırlamalara da sahiptir. İncelenen örnekler temsili nitelikte değildir. Örneğin, ankete katılan birkaç yüz Afrika ülkesi sakininin yanıtlarının, o ülkenin tipik ahlaki tercihlerini doğru bir şekilde yansıtacağı kesin değildir. Dahası, örneklem temsiliyeti için gereken tüm koşulları karşılayarak yüzlerce ülkeden aynı hacimde veri toplamak ve işlemek imkânsızdır. Ayrıca, elde edilen sonuçların Dünya Değerler Anketi verileriyle tutarlı olması ve sosyoekonomik göstergelerle makul bir korelasyon göstermesi (Şekil 4), bu bulguların anlamlılığını ve önemini desteklemektedir.
Çalışmada, bulguların pratik uygulanabilirliğini bir dereceye kadar sınırlayan büyük basitleştirmeler kullanılmıştır. Örneğin, tüm ahlaki ikilemlerde kimin kim olduğu kesin olarak biliniyordu (erkeklerin erkek, şişmanların da şişman olduğu biliniyordu). Herhangi bir kararın sonucu da %100 kesinlikle önceden biliniyordu (bir grup karakter kesinlikle ölecek, diğeri kesinlikle hayatta kalacaktı). Gerçek hayatta, sürücüsüz otomobiller elbette kesin önsel bilgilerle değil, yaklaşık olasılık tahminleriyle uğraşmak zorunda kalacaktı.
Yazarlar tüm bunların gayet farkındalar. Elde ettikleri sonuçların nihai olmadığını vurguluyor ve bunları geniş kapsamlı bir uluslararası tartışmanın başlangıcı olarak ele almayı öneriyorlar. İnsanlar daha önce hiçbir zaman makinelerin, doğrudan insan kontrolü olmadan, otonom bir şekilde, saniyenin onda biri kadar kısa bir sürede yaşam-ölüm kararları almasına izin vermemişti. Ancak insanlık zaten böyle bir değişimin eşiğinde. Sürücüsüz arabalar yakında yollarda görünecek. İnsan kayıplarına yol açan, onları içeren kazalar kaçınılmaz. Çok nadir de olsa, sürücüsüz arabalar için bir "ahlaki kod" geliştirilmesine son derece ciddiyetle yaklaşılmalıdır. Bunu yaparken, diğer şeylerin yanı sıra, dünya genelindeki etik normların değişkenliğini de göz önünde bulundurmak gerekir.
Kaynak: Edmond Awad, Sohan Dsouza, Richard Kim, Jonathan Schulz, Joseph Henrich, Azim Shariff, Jean-François Bonnefon, Iyad Rahwan. Ahlaki Makine deneyi // Doğa . 24 Ekim 2018'de yayınlandı. DOI: 10.1038/s41586-018-0637-6.
elementy.ru
