Uluslararası Af Örgütü, yapay zeka ve algoritmik sistemler ile ilgili insan hakları ihlallerinin araştırılması ve görünür kılınması amacıyla gazetecilere, sivil toplum kuruluşlarına, hak savunucularına, akademisyenlere ve bu ihlallere maruz kalan bireylere yönelik kapsamlı bir “Algoritmik Sorumluluk” kılavuzu yayımladı.
Birçok hükümet ve şirket, yapay zekanın toplumsal fayda sağladığını öne sürüyor. Ancak kılavuz, bu teknolojilerin pratikte önyargıları derinleştirdiğini, dışlama ve hak ihlallerine zemin hazırladığını gözler önüne seriyor. Rehber; sosyal güvenlik, polislik, eğitim ve sağlık hizmetleri gibi kamu alanlarında hayatın ayrılmaz bir parçası haline gelen algoritmik sistemlerin yol açtığı zararların nasıl araştırılabileceğine dair bir “nasıl yapılır” yaklaşımı sunuyor.
Kılavuz, üç yıllık araştırma ve uluslararası işbirliklerine dayanıyor. Kılavuzda, şeffaf olmayan yapay zeka sistemlerini incelemek için kullanılan araçlar, adımlar, pratik şemalar ve aynı zamanda kampanya, iletişim, savunuculuk ve stratejik dava yöntemleriyle değişim yaratmayı hedefleyen kapsamlı taktikler yer alıyor.
“Kitlesel Gözetimi Kolaylaştırıyor”
Uluslararası Af Örgütü Teknoloji Birimi Program Direktörü Damini Satija, yapay zeka sistemlerinin yalnızca verimlilik iddiasıyla masumlaştırılamayacağını belirtti. Bu teknolojilerin sosyal koruma hakkına zarar verdiğini, kitlesel gözetimi kolaylaştırdığını ve protesto özgürlüğü ile eşitlik ilkesini tehdit ettiğini ifade etti. Satija, kılavuzun amacının bilgiyi demokratikleştirmek ve bu sistemlerin zararlarını açığa çıkarma mücadelesine kolektif güç kazandırmak olduğunu vurguladı.
Dokuz Ülkeden Çalışma Örnekleri Kılavuza Yön Verdi
Kılavuz, Uluslararası Af Örgütü'nün Danimarka, İsveç, Sırbistan, Fransa, Birleşik Krallık, Hindistan, İşgal Altındaki Filistin Toprağı, ABD ve Hollandada gerçekleştirdiği araştırmalara dayanıyor. Bu çalışmalardan biri, Danimarka'nın yapay zeka destekli sosyal yardım sisteminin engelli bireyler, göçmenler, mülteciler ve düşük gelirli kişilere karşı ayrımcılık riski taşıdığını ortaya koydu.
Örgütün yürüttüğü “Ban the Scan” (Gözetleme Yasaklansın) kampanyası da yüz tanıma teknolojilerinin yasaklanması çağrısını güçlendiriyor. Kampanya; İşgal Altındaki Filistin Toprağı, New York ve Haydarabad'da yapılan araştırmalara dayanarak hükümetlerin bu teknolojileri denetimsiz kullanmasının toplumsal hak ve özgürlükler açısından büyük riskler barındırdığını savunuyor.
