En çok fayda tek başına etik karar verir mi?

Kısa cevap ve açık argüman

“En çok faydayı üreten seçenek doğrudur” cümlesi güçlü bir sezgi taşır: Etik kararların sonuçlara kayıtsız kalmaması gerekir. Bir kamu kurumu aynı kaynakla daha fazla kişiye hizmet verebiliyorsa bu fark gerekçedir. Fakat cümle, faydanın nasıl ölçüldüğünü, kişiler arasında nasıl toplandığını ve ağır zararın küçük bir gruba yığılmasının hangi sınırda kabul edilemez olduğunu söylemez. Bu yazının sonucu, fayda hesabını reddetmek değil yerini daraltmaktır. Sonuç karşılaştırması karar için gerekli olabilir; hak, dağılım, belirsizlik, açıklama ve itiraz koşullarından bağımsız olarak yeterli değildir.

Argüman dört öncüle dayanır. Birinci öncül: Öngörülebilir yarar ve zararlar etik gerekçenin parçasıdır. İkinci öncül: Toplam veya ortalama fayda, aynı sonucun kimlere dağıldığını tek başına göstermez. Üçüncü öncül: Bir karar kişilerin haklarını, özerkliğini veya insan olarak statüsünü etkiliyorsa bu etkiler yalnız toplam puanın içinde eritilemez. Dördüncü öncül: Ölçüm hatası, model belirsizliği ve itiraz edememe, beklenen yarar yüksek görünse bile kararın meşruiyetini değiştirir. Sonuç: Etik değerlendirme, sonuç hesabını hak ve süreç sınamalarıyla birlikte açıkça gerekçelendirmelidir.

Mill’in yarar ilkesi neden yalnız bir toplama işlemi değildir?

Project Gutenberg’de erişilen kamu malı Utilitarianism metninin II. bölümü, doğru eylemi mutluluğu artırma ve acıyı azaltma eğilimi üzerinden açıklar. Bu yaklaşım, iyi niyet söyleminin gerçek sonuçlarla sınanmasını ister. Bir politikanın kaç kişiye yarar sağladığını, zararın olasılığını ve seçeneklerin karşılaştırmalı etkisini sormak bu nedenle etik bakımdan anlamlıdır. Fakat Mill’in metni yalnız “puanları topla” talimatına indirgenemez. Hazların niteliğini tartışır, yerleşik ahlak kurallarının rolünü kabul eder ve sonraki bölümde yaptırım, karakter ve toplumsal duygulara uzanır.

V. bölüm özellikle önemlidir; çünkü adalet itirazını yararcılığın dışında bir engel gibi bırakmak yerine hak, güvenlik ve toplumsal yarar ilişkisi içinde ele alır. Bu hamleye katılmak zorunlu değildir, fakat Mill’i kişisel hakları fark etmeyen kaba bir hesapçı gibi sunmayı engeller. SEP maddesi de Mill’in yararcı ve liberal ilkeleri arasındaki ilişkinin yorum gerektirdiğini gösterir. Dolayısıyla burada eleştirilen şey Mill’in bütün felsefesi değil, modern karar sistemlerinde görülen dar bir kullanım biçimidir: karmaşık değerleri tek metrikte toplayıp o metriği gerekçenin tamamı saymak.

Kantçı itiraz toplam faydanın neresine sınır çizer?

Kant’ın 1785 Groundwork metni farklı bir başlangıç yapar. Eylemin ahlaki niteliğini yalnız beklenen sonuçtan değil, iradenin ilkesinden ve rasyonel varlıkların statüsünden hareketle sınar. İkinci bölümde geliştirilen insanlık formülü, kişiyi yalnız başkasının amacı için kullanılan bir araç haline getirmemeyi ister. Gündelik işbirliğinde insanlar elbette birbirlerinin hizmetlerinden yararlanır; sorun “araç olmak” değil “salt araç” olmaktır. Aldatma, zorlayıcı manipülasyon veya kişinin kendi amaçlarını kurma kapasitesini sistematik biçimde yok sayma bu sınırı görünür kılar.

Bu itiraz, sonuçları hiç değerlendirmemek gerektiğini kanıtlamaz. Kantçı yaklaşımın bu yazıdaki işlevi daha sınırlıdır: Bazı karar biçimlerinin, toplam yararı artırsa bile kişiye nasıl davranıldığı hakkında ayrı bir gerekçeye ihtiyaç duyduğunu göstermek. Bir azınlığın temel çıkarı, çoğunluğun küçük rahatlık artışına görünmezce dönüştürülüyorsa “net puan pozitif” ifadesi kişi statüsü sorununu cevaplamaz. Öte yandan hakların kapsamı, ödevlerin çatışması ve somut kurum tasarımı Kant’ın tek formülünden mekanik olarak çıkmaz. Felsefi sınır, uygulama kararının yerine geçen algoritma değil, kararın hangi soruyu atlamaması gerektiğini belirleyen testtir.

Karşı örnek: Yapay zekâ ile kamu yardımı önceliklendirme

Varsayımsal bir kamu kurumu, sınırlı inceleme kapasitesini dağıtmak için yapay zekâ destekli bir risk puanı kullansın. Sistem ortalama işlem süresini kısaltsın ve doğru ödemelerin toplamını artırsın; toplam fayda hesabı bu seçeneği destekler. Fakat küçük bir grupta veri eksikliği nedeniyle yanlış retler yoğunlaşsın, kararın gerekçesi açıklanmasın ve etkili itiraz yolu bulunmasın. Bu bir saha bulgusu veya gerçek kurum iddiası değildir; toplam performansın dağılım ve süreç sorunlarını nasıl saklayabileceğini gösteren düşünce deneyidir. Olumlu toplam, ağır ve düzeltilemeyen zararın kimde biriktiğini kendiliğinden açıklamaz.

Karşı örnekte öncüller açıkça ayrılabilir. P1: Daha hızlı ve daha doğru toplam dağıtım yarardır. P2: Yanlış ret, geçim desteğine bağımlı kişi için ağır zarar doğurabilir. P3: Hata belirli gruplarda yoğunlaşıyor ve itiraz yolu yoksa zarar yalnız rastlantısal değil kurumsal olarak dağıtılmıştır. P4: Kişi gerekçeyi bilmeden ve kararı sorgulayamadan puanın nesnesi haline gelir. Sonuç: Sistemin toplam yararı, bu tasarımı tek başına etik olarak yeterli kılmaz. Çözümün otomatik olarak sistemi yasaklamak olduğu da çıkmaz; veri, eşik, insan incelemesi, açıklama ve telafi seçenekleri yeniden tasarlanabilir.

UNESCO çerçevesi felsefi ayrımları nasıl kuruma çevirir?

UNESCO’nun Yapay Zekâ Etiği Tavsiyesi 23 Kasım 2021’de kabul edildi. Belge üye devletlere gönüllü uygulama için yöneltilmiş normatif bir tavsiyedir; ulusal hukuk, bağlayıcı mahkeme kararı veya tek bir etik okulun zaferi değildir. Buna rağmen uygulama sorularını somutlaştırır. İnsan hakları ve haysiyeti temel alır; zarar önlemeyi, adalet ve ayrımcılık yapmamayı, şeffaflık ve açıklanabilirliği, insan gözetimini ve sorumluluğu yaşam döngüsü boyunca birlikte ele alır. Özellikle refah, istihdam, sağlık ve adalet gibi haklara duyarlı kullanım alanlarında gözetim mekanizmaları ister.

Bu yapı, toplam faydaya neden ek testler gerektiğini gösterir. Bir model genel doğruluğu artırabilir; yine de eğitim verisindeki eşitsizliği büyütebilir. Bir karar ortalama bekleme süresini azaltabilir; yine de etkilenen kişinin anlamlı açıklamaya erişimini engelleyebilir. UNESCO, sorumluluğun sisteme devredilemeyeceğini; nihai hesabın rolüne göre insanlara veya tüzel kişilere atfedilmesi gerektiğini belirtir. Etki değerlendirmesi, denetim, izlenebilirlik ve itiraz kanalları sonuç metriğine rakip süsler değildir. Sonucun hangi koşullarda üretildiğini ve yanlış olduğunda kimin düzeltme yapacağını belirleyen meşruiyet altyapısıdır.

En güçlü itiraz: Ek sınırlar daha kötü sonuç üretmez mi?

Savımıza yöneltilebilecek güçlü itiraz şudur: Hak, açıklama ve insan incelemesi gibi koşullar sisteme maliyet ekler; daha yavaş karar yüzünden yardım bekleyen çok sayıda kişi zarar görebilir. Eğer amaç acıyı azaltmaksa, küçük bir grup için kusursuz süreç aramak toplamda daha büyük kayıp yaratabilir. Bu itiraz ciddidir, çünkü süreç ilkelerini sonuçlardan tamamen bağımsızlaştırmanın da bedeli vardır. Yanıt, her karara sınırsız bürokrasi eklemek değildir. Zararın ağırlığı, geri döndürülebilirliği, olasılığı ve kararın haklara etkisi arttıkça açıklama ve insan gözetimi eşiğinin güçlenmesi; düşük riskli işlemlerde ise orantılı mekanizmalar kurulmasıdır.

Sonuç tek bir “doğru etik teori” ilanı değildir. Mill’in yaklaşımı, iyi görünen niyetlerin gerçek etkilerini sormaya zorlar; Kantçı sınır, kişilerin toplam hedefin hammaddesine dönüşmesini sorgular; UNESCO ise bu gerilimi risk, hak, açıklama, gözetim ve sorumluluk adımlarına çevirir. Kurum etik karar verdiğini iddia ediyorsa hangi faydayı nasıl ölçtüğünü, kimin zararını hangi ağırlıkla değerlendirdiğini ve itiraz halinde ne yapacağını yayımlamalıdır. Bu yazı herhangi bir kamu sistemini denetlemediği ve etkilenen kişilerden veri toplamadığı için belirli bir kararın etik ya da hukuka uygun olduğu sonucunu desteklemez.