“Bir robot, bir insana zarar veremez veya pasif kalarak zarar görmesine izin veremez. Bir robot, birinci kuralla çelişmediği sürece, insanlar tarafından verilen emirlere itaat etmelidir. Son olarak bir robot, birinci ve ikinci kurallarla çelişmediği sürece, kendi varlığını korumalıdır.”
Isaac Asimov’un 1940’lı yıllarda bilim kurgu dünyasına “Ben, robot” romanıyla kazandırdığı Üç Robot Kuralı, teknolojik etik tartışmalarında sıkça dillendirilir. Duayen bilim kurgu yazarının o dönemde tanıttığı kurmacalar geleceğin bir hayali niteliğindeydi; ancak özellikle son dönemde yapay zeka ve robotik alanlarında yaşanan gelişmeler, Asimov’un satırlarını yavaş yavaş gerçek kılmaya başladı. Şirketlerin iş stratejilerinden devletlerin güvenlik politikalarına uzanan geniş bir yelpazede, yapay zekanın “etik” boyutu da en az teknolojik ilerleme kadar önemli bir konuma yükseldi. Asimov’un robot kuralları hayli pratik gibi görünse de gerçek dünyanın yapay zeka etiği oldukça çetrefilli bir mesele.
Bu yazıda, yapay zekâ etiğini algoritmik önyargılar, adalet, otomatik karar alma süreçleri, hesap verebilirlik ve gizlilik gibi temel unsurlar üzerinden ele alacağım. Yapay zekâ etiğine dair regülasyonlar da büyük önem taşıyor ama onları daha önce ayrı bir yazıda detaylandırdığım için değinmeden geçeceğim.
Algoritmik önyargılar: Yapay zekâda görünmez tuzaklar
Verilerdeki tarihsel adaletsizliklerin yapay zekâ sistemlerine taşınmasını algoritmik önyargı olarak adlandırıyoruz. Bilinen en klasik örneklerden biri, Amazon’un 11 yıl önce geliştirmeye başladığı işe alım modeli. Reuters’ın 2018 tarihli haberine göre bu sistem, erkek adayları kadınlara göre daha yüksek oranda tercih etmişti. Sebebi ise eğitim verilerinin ağırlıklı olarak erkek adayların verilerinden oluşmasıydı. Model, erkek egemen bir iş dünyası gerçekliğini veri seti olarak alıp yeniden üretmişti; teknik anlamda sistem görevini “doğru bir şekilde” yerine getiriyordu. Ancak sonuç sosyal adalet bakımından kabul edilemezdi. Amazon projeyi sonlandırdı, geriye yapay zekanın önyargıları nasıl yeniden üretebileceğine dair çarpıcı bir ders kaldı. 2018’den bu yana yapay zeka modelleri çok daha karmaşık hâle geldi; fakat veri kaynaklı önyargılar, şeffaflık eksikliği ve etik sorunlar güncelliğini koruyor.
