ENGELLİ BİREYLERİN HAKLARI VE YAPAY ZEKA TEMATİK RAPORU ÇEVİRİSİ
Hazırlayan Fikret Alp SANCAR
Engelli Kişilerin Hakları Özel Raportörünün Raporu
ÖZET
Bu rapor, Konsey’in 44/10 sayılı kararı uyarınca, engelli hakları Özel Raportörü Gerard Quinn tarafından İnsan Hakları Konseyi’ne sunulmuştur. Rapor, 2021 yılında gerçekleştirilen faaliyetlere genel bir bakış sunmakta ve yapay zeka ve engelli hakları üzerine tematik bir çalışma içermektedir.
Dünya, yapay zeka, otomatik karar verme ve makine öğrenimi teknolojilerinin Devletler tarafından kullanımında benzeri görülmemiş ve hızlı bir büyüme yaşamaktadır. Bu yeni teknolojiler engelli bireyler için çok büyük faydalar sağlayabilir ve istihdam, eğitim ve bağımsız yaşam gibi çok çeşitli alanlarda kapsayıcı eşitlik arayışını teşvik edebilir. Bununla birlikte, iyi bilinen birçok ayrımcı etkisi bulunmaktadır. Bu yeni teknolojilerin yol açabileceği geniş çaplı insan hakları zorlukları konusunda artan bir farkındalık olsa da, bu teknolojilerin engelli bireylerin haklarına yönelik spesifik zorlukları konusunda daha odaklı bir tartışmaya acilen ihtiyaç duyulmaktadır. Özel Raportör, tematik çalışmasında böyle bir tartışmayı başlatmayı ve bilgilendirmeyi amaçlamaktadır. Çalışmasında, bu teknolojinin Engelli Kişilerin Haklarına Dair Sözleşme’de öngörüldüğü üzere engelli kişilerin insan haklarından yararlanmaları açısından oluşturduğu riskleri tanımlamaktadır. Engelli bireylerin insan haklarının bu teknolojilerle ilgili tartışmaların merkezine yerleştirilmesi gerektiğini savunmaktadır. Bu riskler ele alındıktan sonra, yapay zekanın pratik faydaları gerçekleştirilebilir. Bu amaçla, bunun nasıl yapılabileceğine ilişkin pratik öneriler elde edilen sonuçlar raporun son bölümünde yer almıştır.
I. GİRİŞ
Bu rapor, Engelli Hakları Özel Raportörü Gerard Quinn tarafından 44/10 sayılı karar uyarınca İnsan Hakları Konseyi’ne sunulmuştur. Rapor, 2021 yılında Özel Raportörlük tarafından üstlenilen faaliyetleri tanımlamakta ve yapay zekâ ve engelli hakları üzerine tematik bir çalışma içermektedir.
Özel Raportör bu çalışmayı hazırlarken Üye Devletlere, ulusal insan hakları kurumlarına, Birleşmiş Milletler sistemi ajanslarına, sivil toplum kuruluşlarına, iş dünyasına ve engelliler ile onları temsil eden kuruluşlara yöneltilen bir ankete verilen yanıtları analiz etmiştir. Özel Raportör toplam 35 katkı almıştır ve katkı sağlayanlara şükranlarını sunar.
II. ÖZEL RAPORTÖRÜNÜN FAALİYETLERİ
A. Ülke Ziyaretleri
Koronavirüs hastalığı (COVID-19) salgını nedeniyle Özel Raportör 2020 ve 2021 yıllarında herhangi bir ülke ziyareti gerçekleştirmemiştir. Botsvana’ya 2021 yılında yapılması planlanan ziyaret ise pandemi nedeniyle ertelenmiştir. Özel Raportör, Botsvana Hükümeti’ne işbirliği için teşekkür eder ve görev süresi boyunca ziyareti gerçekleştirmeyi umar.
Özel Raportör 2022 yılında Avrupa Birliği ve Ürdün’ü ziyaret etmek için talepte bulunmuştur.
B. paydaşlarıyla istişareler, toplantılar ve katılım
Özel Raportör, bilgi alışverişinde bulunmasına, iyi uygulamaları paylaşmasına ve engellilikle ilgili konularda farkındalık yaratmasına olanak tanıyan çok sayıda konferans ve toplantıya katılmıştır. 2021’in bazı faaliyetleri aşağıda belirtilmiştir.
Şubat 2021’de Özel Raportör, Yaşlanma Açık Uçlu Çalışma Grubu’nun çalışmalarına katkıda bulunmak üzere Birleşmiş Milletler İnsan Hakları Yüksek Komiserliği (OHCHR) tarafından düzenlenen COVID-19 salgını sırasında ve sonrasında yaşlıların insan haklarının korunmasının güçlendirilmesi konulu bir uzman toplantısına katılmıştır. Ayrıca Sosyal Kalkınma Komisyonu’nun elli dokuzuncu Oturumuna katılmıştır. Mart 2021’de, İnsan Hakları Konseyi’nin engelli hakları konusundaki yıllık tartışmasına katılmıştır. Temmuz 2021’de Özel Raportör, Engelli Kişilerin Haklarına Dair Sözleşme’ye Taraf Devletler Konferansı’nın on dördüncü oturumuna ve paralel etkinliklerine katılmıştır. Kasım 2021’de, 43/13 sayılı Konsey kararıyla yetkilendirilen İnsan Hakları Konseyi’nin ruh sağlığı ve insan hakları konulu oturumlar arası istişaresine ve Konsey tarafından bu karar uyarınca düzenlenen değişen çalışma dünyasında sosyal güvenlik hakkı konulu oturumlar arası panel tartışmasına katılmıştır.
Özel Raportör, bölgesel örgütler ve diğer paydaşlarla istişarelerde bulunmuştur. Bu istişareler arasında, diğerlerinin yanı sıra, Avrupa Komisyonu’nun 2021-2030 engelli hakları stratejisini sonuçlandırmak için yapılan istişareler; Avrupa Konseyi Parlamenterler Meclisi Sosyal İşler, Sağlık ve Sürdürülebilir Kalkınma Komitesi’nin engellilerin kurumsuzlaştırılmasıyla ilgili kamuya açık oturumu; Kanada Senatosu Hukuk ve Anayasal İşler Daimi Komitesi’nin Ceza Kanunu’nda (ölümde tıbbi yardım) değişiklik öngören bir yasa tasarısıyla ilgili kamuya açık oturumu; ve İrlanda Parlamentosu Engellilik Konuları Ortak Komitesi’nin ülkenin Engelli Hakları Sözleşmesi’nin uygulanmasında kaydettiği ilerlemeyle ilgili kamuya açık oturum gerçekleşmiştir.
Ayrıca, Anti Personel Mayınlarının Kullanımının, Depolanmasının, Üretiminin ve Devredilmesinin Yasaklanması ve Bunların İmhası Sözleşmesi Mağdurlara Yardım Komitesi, Uluslararası Kızılhaç Komitesi, ulusal insan hakları kurumlarının temsilcileri, engelliler ve onları temsil eden kuruluşlar, diğer sivil toplum kuruluşları, akademisyenler ve diplomatlarla istişarelerde bulunmuştur.
C. İletişim
Bu raporun kapsadığı dönemde gönderilen görüşmelerin ve alınan yanıtların özetleri özel prosedürlerin iletişim raporlarında (ve OHCHR’nin kamuya açık iletişim veri tabanında) mevcuttur.
III. YAPAY ZEKA VE ENGELLİ KİŞİLERİN HAKLARI
Yapay zeka, otomatik karar verme ve makine öğrenimi teknolojileri dünyayı hızla değiştiriyor. Önceki teknolojik devrimlerde olduğu gibi, otomatik karar verme ve makine öğrenimi teknolojileri insanlarla bir arada yaşama koşullarını yeniden belirliyor. Bu teknolojiler, hem kamu hem de özel sektör aktörleri tarafından, birçok alanda ve hayatın her alanına ulaşan çeşitli şekillerde kullanılmaktadır. Yapay zeka insanlığın en büyük meydan okuması olarak tanımlanmaktadır.
Birçok kişi yapay zekanın engelli bireyler için özgürleştirici potansiyeli hakkında yorum yapmıştır. Doğru ve sorumlu bir şekilde kullanıldığında, uluslararası insan hakları hukukundaki genel “kapsayıcı eşitlik” hedefini ve özellikle Engelli Hakları Sözleşmesi’nde belirtilen hakları, istihdam, ticari mal ve hizmetlere erişim, engellilik hizmetlerinin dönüşümü, bağımsız yaşam ve eğitim dahil olmak üzere çok sayıda alanda ilerletebileceğine şüphe yoktur. Ayrıca, engelli bireylere doğrudan ve dolaylı olarak fayda sağlayarak sürdürülebilir kalkınmayı anlamlı bir şekilde hızlandırabilir. Bireysel koşullara uygun şekilde uyarlandığı takdirde yapay zeka, engelli bireyler için etkili makul uyumlaştırma arayışını tüm ülkelerde yeni ve belki de önemli ölçüde daha etkili yollarla önemli ölçüde ilerletebilecektir.
Aynı zamanda yapay zeka, insan haklarından faydalanma konusunda da ciddi zorluklar ortaya çıkarmaktadır. Bu risklerin birçoğu diğer gruplarla paylaşılsa da, bazıları engelli bireylere özgüdür veya farklılaştırılmış ve orantısız riskler taşımaktadır. Engellilik bağlamında yapay zekanın sunduğu riskler ve fırsatlar dengesini dikkate alan bir tartışmaya acilen ihtiyaç vardır.
Yapay zekânın insan hakları üzerindeki etkileri belirginleşmeye başlamıştır ve bu rapor için önemli bir zemin oluşturmaktadır. OHCHR, 2021 yılında yapay zeka ile ilişkili mahremiyet konusundaki bazı derin endişelerin altını çizmiştir. Yapay zekânın insan haklarından yararlanma üzerindeki etkisi, çeşitli özel prosedür yetki sahipleri tarafından da kapsamlı bir şekilde incelenmiştir. Yapay zekâ konusunda tematik raporlar yayınlamış olan Özel Raportörler arasında kalkınma hakkı, eğitim hakkı, düşünce ve ifade özgürlüğünün geliştirilmesi ve korunması, aşırı yoksulluk ve insan hakları, yargısız, yargısız veya keyfi infazlar, ırkçılığın güncel biçimleri, ırk ayrımcılığı, yabancı düşmanlığı ve ilgili hoşgörüsüzlük, köleliğin güncel biçimleri ve özel hayatın gizliliği konularında çalışan bağımsız uzman ve yaşlıların tüm insan haklarından faydalanması konusunda çalışan uzmanların raporlarından bazıları, yapay zeka kullanımının engelliler üzerindeki özel etkilerini dikkate almaktadır.
Birleşmiş Milletler uzman kuruluşları da yapay zekânın sunduğu riskler ve fırsatlar dengesine dikkat çekmektedir. Örneğin, Birleşmiş Milletler Çocuklara Yardım Fonu (UNICEF), yapay zeka sistemlerinin engelli çocuklar da dahil olmak üzere çocukları etkileyip etkilemediğini ve nasıl etkilediğini belirlemek için önemli çalışmalar yürütmüş, örneğin yapay zekanın nasıl kullanıldığını ve evde, okulda ve oyunda çocuklar üzerindeki etkilerini ve yapay zeka kullanımından hem olumlu hem de olumsuz olarak orantısız bir şekilde etkilenebilecek çocuk hakları yelpazesini ele almıştır.
Uluslararası Çalışma Örgütü̈ (ILO), yapay zekanın çeşitli unsurlarını ve işin geleceği üzerindeki etkilerini dikkate alan bir dizi girişimi desteklemiştir. Yapay zekanın işin geleceği üzerindeki etkilerine ilişkin çalışması, yapay zekanın ekonomisini ve iş gücü piyasasıyla ilişkisini incelemektedir. Yazarlar, yapay zekâ temelli teknolojik ilerlemenin faydalarının geniş çapta paylaşılması için eşitsizliğin artması şeklindeki risklerin ele alınması gerektiğini vurgulamaktadır. ILO, Dünya İstihdam ve Sosyal Görünüm 2021 raporunda, diğer hususların yanı sıra, platform tasarımı ve algoritmik yönetimin dijital emek platformlarında çalışanların günlük deneyimlerini nasıl tanımladığını ele alır.
Uluslararası Telekomünikasyon Birliği ve Birleşmiş Milletler Eğitim, Bilim ve Kültür Örgütü (UNESCO) tarafından genişbantın uluslararası politika gündemindeki önemini artırmak amacıyla 2010 yılında kurulan Sürdürülebilir Kalkınma için Genişbant Komisyonu, engelli bireylerin daha iyi bir küresel sağlık yaratmak için yapay zeka araçlarını birlikte yaratmalarının önemini vurgulamıştır. Dünya Sağlık Örgütü (WHO) de benzer şekilde yapay zekânın sağlık hizmetlerinin dönüştürülmesinde oynayabileceği rolü vurgulamıştır. Örneğin, sağlık için yapay zekânın etiği ve yönetişimine ilişkin yayınında.11 Bu yayında DSÖ, fırsatların ve risklerin birbiriyle bağlantılı olduğuna dikkat çekmekte ve sağlık verilerinin etik olmayan bir şekilde toplanması ve kullanılması, algoritmalarda kodlanmış önyargılar ve hasta güvenliği, siber güvenlik ve çevreye yönelik riskler konusunda uyarılarda bulunmaktadır. Ayrıca, öncelikle yüksek gelirli ülkelerdeki bireylerden toplanan verilerle eğitilen sistemlerin, düşük ve orta gelirli ortamlardaki bireyler için iyi performans göstermeyebileceği konusunda da uyarıda bulunmaktadır; bu, engelli kişilerin daha az kaynağa sahip ülkelerde tıbbi ve rehabilitasyon müdahalelerine çok farklı erişimleri olacağı düşünüldüğünde endişe vericidir. UNESCO, engelli bireylerin özel durumunu göz önünde bulundurarak yapay zekanın ortaya çıkardığı zorlukları tanımlamıştır ve Genel Konferansı tarafından kırk birinci oturumunda kabul edilen yapay zeka etiğine ilişkin tavsiye kararı, engellilik temelinde ayrımcılık yapılmaması ilkesini vurgulamaktadır. Dünya Bankası, yapay zeka destekli kimlik belirleme teknolojilerinin yarattığı fırsat ve risklerin farkında olarak, yapay zeka teknolojisinin kullanıldığı ulusal yasal kimlik kanıtlama projelerine yönelik engelli kapsayıcı yaklaşımlar hakkında bir kılavuz yayınlamıştır. Ayrıca Banka, ulusal kimlik belirleme projelerinde kullanılan biyometrik kimlik belirleme teknolojisiyle ilgili riskleri ve faydaları anlamak için bu teknolojinin kullanıldığı Batı Afrika’daki engelli paydaşlarla doğrudan iletişime geçmiştir.
İnsan hakları sözleşmesi organları da yapay zekânın yarattığı zorlukların farkındadır. Örneğin, Ekonomik, Sosyal ve Kültürel Haklar Komitesi, 25 (2020) sayılı genel yorumunda, “bilimsel ilerleme ürünlerinin engellilerin özgürlüklerini ve özel ihtiyaçlarını dikkate almadığı” durumlarda engellilere yönelik ayrımcılık riskinin altını çizmiştir. Komite, engelli bireylerin bilimsel karar alma süreçlerine katılımının ve bilimsel ilerlemelerin ürünlerinden faydalanabilmeleri için makul düzenlemelerin sağlanmasının gerekliliğini vurgulamıştır.
Yapay zekanın insan hakları üzerindeki etkisini ele almak üzere önemli bölgesel girişimler de devam etmektedir. Örneğin Avrupa Konseyi, Yapay Zeka Komitesi’nin ‘çalışmaları aracılığıyla yapay zekanın geliştirilmesi, tasarlanması ve uygulanmasına ilişkin bir insan hakları sözleşmesi hazırlamayı düşünmektedir. Avrupa Komisyonu, ayrımcı uygulamalar da dahil olmak üzere yapay zekanın kullanımını düzenlemek için bir yapay zeka yasası önerisi yayınlamıştır. Asya ve Pasifik Ekonomik ve Sosyal Komisyonu (ESCAP) Afrika İnsan ve Halkların Hakları Komisyonu da yapay zeka ve insan hakları konusunda önemli çalışmalarda bulunmuştur.
Ulusal düzeyde, birçok Devlet artık yapay zekânın etik ve bazı durumlarda insan hakları ile ilgili zorluklarını kabul ederek ulusal yapay zekâ stratejilerini uygulamaya koymaktadır. Ulusal insan hakları kurumları, yapay zeka sistemleri ve bunların kullanımının ortaya çıkardığı insan hakları riskleri ve fırsatları arasındaki dengeyi vurgulamaya başlamıştır. Avustralya İnsan Hakları Komisyonu ve Almanya Federal Ayrımcılıkla Mücadele dahil olmak üzere bazıları engelli haklarına ilişkin endişelere açıkça atıfta bulunmuştur.
Bu genel ilgi patlamasına rağmen, yapay zekanın dünyadaki yaklaşık 1 milyar engelli birey için doğrudan faydaları ve potansiyel zararları hakkında çok az ayrıntılı değerlendirme yapılmıştır. Bu büyük bir eksikliktir. Şimdi, Devletler, insan hakları uzmanları, engelli örgütleri, sivil toplum ve özel aktörler arasında, engelli haklarını yapay zeka gelişiminin merkezine yerleştirecek bilinçli bir tartışma başlatarak bu boşluğu doldurmanın tam zamanıdır.
Engelli Kişilerin Haklarına Dair Sözleşme’nin hakları ve temel normları, yapay zekanın sunduğu risk ve fırsatların değerlendirilmesinde temel kıstasları oluşturmaktadır. İlgili haklar ve bunlara bağlı yükümlülükler, diğerlerinin yanı sıra, mahremiyet, özerklik, bağımsız yaşam, istihdam, eğitim, sağlık ve özellikle genel eşitlik ve ayrımcılık yapmama garantisini içerir. Sürdürülebilir Kalkınma Hedefleri, Sözleşme hükümlerini güçlendirmektedir. Özellikle 10. Hedef, Sözleşme’nin eşit muamele temelini yinelemekte ve engelli bireylerin ayrımcılığa maruz kalmadan yaşamlarını sürdürdükleri bir toplum yaratmayı amaçlamaktadır. Dijital İşbirliği Üst Düzey Paneli, Sürdürülebilir Kalkınma Hedeflerinin desteklenmesi için dijital teknolojilerden yararlanılması gerektiğini vurgulamıştır. Çoğu zaman en geride kalan kesim olan engelli bireylerin, teknolojiden gerektiği gibi yararlanamadığı takdirde, onları yakalama şansları olmayacaktır.
A. Yapay zekanın doğası
Yapay zekanın tek bir evrensel tanımı yoktur. Ancak “makineleri akıllı hale getirme bilimi” olarak özetlenebilir. Temel fikir, makinelerin insanlarla aynı veya benzer şekilde, ancak daha hızlı, daha iyi ve daha güvenilir bir şekilde ve teorik olarak insan önyargısı olmadan çalışması için yapılabileceğidir. Neredeyse tüm durumlarda bu, algoritma olarak bilinen talimatları oluşturmak için eğitim seti olarak adlandırılan verilerin ilk değerlendirmesini içerir. Bunu, orijinal eğitim setindeki kalıplar hakkında “öğrenen” makineye atıfta bulunarak sensörler, kayıtlar veya tarayıcılar gibi bir veya daha fazla kaynaktan elde edilen diğer verileri analiz etmek için makinenin daha sonra konuşlandırılması izler. Makinenin ulaştığı kararlar “otomatik karar verme” olarak kendi kendini harekete geçirebilir veya bir insan aktörün harekete geçmesi için bilgi sağlayabilir.
Yapay zeka, makine öğrenimi süreciyle “akıllı” hale getirilir. Sistemin akıllı olması, makineye sağlanan bilgi ve verilere bağlıdır. Bu nedenle, bir yapay zeka modelinin bir hedefe ulaşması gerektiğinde (örneğin, bir iş için en iyi adayı belirlemek için), genellikle geçmişte başarılı olduğu düşünülen çalışanlar hakkında veriler sağlanır. Geçmişi yansıtan bu tür veriler, geçmişte işe alınan adaylara ayrıcalık tanımak üzere tasarlanmıştır. Dolayısıyla, engelli kişiler gibi tarihsel işe alım normlarına uymayan farklı adayların faydalarını hesaba katması pek olası değildir. Sonuç, yapay zeka sisteminin daha sonra ideal adayları belirlemek için farklı bir veri setine (örneğin, muhtemel çalışanlar listesi) uygulanabilecek verilerdeki korelasyonları görmek için öğrenmeye yönlendirildiği, sağlanan verileri kullanarak “standart” bir iyi çalışanın oluşturulmasıdır. Bu veriler birçok farklı türde olabilir ve mülakat video ve ses verilerinin yanı sıra yaş, geçmiş iş geçmişi ve eğitimle ilgili verileri de içerebilir.
Yapay zeka sistemlerini “eğitmek” için kullanılan veri seti genellikle önceki insan kararları ve değer yargıları tarafından şekillendirilen verileri içerecektir ve bunlar birçok gerekçeyle hatalı olabilir. Örneğin, bir iş için en iyi kişiyi belirleme iddiasında olan bir yapay zeka sistemi, genellikle ilgili iş için kimin en iyi olduğuna dair önceki insan kararlarından elde edilen bir veri seti üzerinde eğitilecektir. Veri setinin temsil ettiği insan kararları ayrımcı ise, yapay zeka sistemi muhtemelen yeni verileri de aynı ayrımcı şekilde işleyecek ve böylece sorunu devam ettirecektir. Bu durum, engelliliği ve dolayısıyla bir işe uygun olmadığı varsayımını işaret edebilir. Endişe verici bir şekilde, bu neredeyse çoğu zaman makul düzenlemelerin engelli bir bir kişinin bir işin temel işlevlerini yerine getirmesini nasıl sağlayabileceği hakkında bir değerlendirme yapılmadan ortaya konur.
Yapay zeka modelleri genellikle insanların profilini çıkararak çalışır (örneğin, bir iş adayı). Bu, sistem bir kişi hakkında kişisel verilerine veya bilgi izine dayanarak bir yargıya vardığında ortaya çıkacaktır: örneğin, dolandırıcılık yapma olasılığı veya belirli sağlık bakım ihtiyaçları olup olmadığı gibi. Bireyler veya birey grupları hakkında derin kararlar vermek için kullanılabilir.
Farklı şekillerde ortaya çıkabilen otomatik karar alma mekanizmasının tek bir tanımı yoktur. Dolayısıyla, yapay zeka ile güçlendirilmiş makineler, doğrudan insan müdahalesi olmadan karar verebilir. Uluslararası sınırlarda otomatik sınır kontrolü buna bir örnektir; burada yapay zeka makinesi sınırı geçmek isteyen bir kişiye kapıyı açabilir, ancak süreç kapalı devre televizyondan izleyen bir insan tarafından denetlenir. Birçok durumda, makine ile uygulaması arasına nominal olarak bir insan aktör yerleştirilse de, insan müdahalesinin derecesi sınırlı olabilir. Örneğin, makine çıktısının karar verme sürecinde baskın bir role sahip olduğu ve insanın bunu eleştirmeksizin belirleyici olarak kabul ettiği durumlarda durum böyledir.
Yapay zeka genel anlamda insan hakları endişeleri yaratsa da, makine öğrenimi ile ilişkili riskler “kara kutu” veya şeffaflık sorunu nedeniyle çok daha ciddi olabilir. Yapay zeka genellikle ya fikri mülkiyet haklarını korumak için sistemin iç işleyişi kasıtlı olarak gizlendiğinden ya da sistem sadece bilgisayar kodlarını okuyup yazabilenler tarafından anlaşılabilir olduğundan gözlerden saklanır. Aslında, makine öğrenimi nedeniyle süreç o kadar karmaşık olabilir ki, herhangi bir insan karar verme süreçlerini anlamakta zorlanabilir. Bazen verilerin korunmasına ilişkin kaygılar nedeniyle veriler silinir veya harmanlanmaz bile. Bunun ters bir sonucu olarak, ayrımcılığın gerçekleşip gerçekleşmediğini geriye dönük olarak belirlemek neredeyse imkansız hale gelebilir. Bu şeffaflık eksikliği, engelli bireylere eşit muamele hakkı önünde gerçek bir engeldir. Makine öğreniminin şeffaf olmayan doğası, her türlü dahili ayrımcı tasarımı etkili bir şekilde gizleyen fikri mülkiyet yasaları ve uluslararası ticaret anlaşmaları ile daha da karmaşık hale gelmektedir. Bir bireyin engellilik durumu temelinde alınan ayrımcı kararları tespit etme becerisi bile yoksa, bu tür uygulamalara karşı çıkmak son derece zor hale gelir.
B. Yapay zekanın engelli bireyler üzerindeki genel etkileri
Yapay zeka engelli bireyler için muazzam fırsatlar sunmaktadır. Yapay zeka destekli sistemler, özellikle yardımcı teknolojilerde, örneğin engelli bireylerin bulundukları yerdeki erişilebilir rotaları belirlemelerine olanak tanıyarak olumlu katkılar sağlamaktadır. Diğer uygulamalar, yapay zeka destekli navigasyon araçlarıyla görme engelli veya görme bozukluğu olan bireylerin kişisel hareketlilik haklarını geliştirebilir. Diğerleri arasında göz izleme ve ses tanıma yazılım teknolojisi yer almaktadır.
Uyarlanabilir öğrenme platformları, engelli öğrencilerin özel ihtiyaçlarını karşılayan türde kişiselleştirilmiş öğrenme deneyimleri sağlayabilir. Konuşmadan metne yazılım, işaret dili tercümanlarının kronik eksikliğini gidermek ve konuşma bozukluğu olan kişilerin başkalarıyla daha kolay etkileşime girmesini sağlamak için kullanılmaktadır. İşaret avatarları artık işitme engelli ve işitme güçlüğü çeken kişilere yardımcı olmaktadır. Yapay zeka destekli sistemler, hastalıkları teşhis etmek ve tedavi önermek için kullanıldığında engelli kişiler için daha iyi sonuçlara katkıda bulunabilir; bu kullanımlar herkes için yararlıdır ve rehabilitasyon bağlamlarındaki uygulamalara da faydalı bir şekilde genişletilebilir. Yapay zeka, diğerlerinin yanı sıra, akran desteğini yapılandırmak ve başka şekillerde ruh sağlığı hizmetleri sağlamak da dahil olmak üzere ruh sağlığı alanında da kullanılmaya başlanmıştır.
Yapay zeka, engelli haklarının ilerletilmesi için fırsatlar sunarken, engelli bireyler için önemli riskleri de beraberinde getirmektedir. Yapay zekâ, devletin engelli bireylerle olan ilişkisini dönüştürmektedir; örneğin araştırmalar, bazı durumlarda yapay zekânın ve gelişmekte olan teknolojilerin sosyal koruma yardımları için kapı bekçileri haline geldiğini ortaya koymuştur. İşsizlik yardımı gibi yardımlara uygunluk, yapay zeka tarafından önyargılı veri setleri ve ayrımcı algoritmalar kullanılarak kısıtlanabilmektedir. Dünyagenelinde çok sayıda engellinin yoksulluk içinde yaşadığı ve birçoğunun aşırı yoksulluk içinde olduğu göz önünde bulundurulduğunda, yapay zeka sistemlerinin engellilerin hizmet ve desteklere uygunluğunu uygunsuz bir şekilde reddetmemesi çok önemlidir.
Yapay zekanın ve gelişmekte olan teknolojilerin yaygınlaşması, bağımsız yaşamak isteyen engelli bireyler için de bir nimet olmuştur; zira yapay zeka ile çalışan robotlar ve diğer araçlar artık bakım ve diğer yardımları sağlamak üzere evlerde kullanılmaya başlanmıştır.35 Yapay zekanın geleceği, engelli bireylerin gelecekteki olayları algılayabilen, öğrenebilen ve tahmin edebilen akıllı makinelerle yan yana yaşamasını gerektirebilir. Ancak bunun somut riskleri de yok değildir.
Yapay zeka, engelli bireyleri tüketici sıfatıyla da etkilemeye başlamıştır. Belirli engel türlerine dayalı hatalı yapay zeka risk değerlendirmeleri, özel sağlık sigortasına erişimin engellenmesine ve sağlık sigortası primlerinde uygunsuz artışa yol açabilir. Yapay zeka sistemi tarafından verilen kararın gerekçesinin bilinmediği ve hatta bilinemeyeceği durumlarda, tüketiciler için sigorta primlerinde artışa yol açan karar verme sürecinde yapay zeka kullanımına ilişkin endişeler dile getirilmiştir. Makine öğrenimi ve otomatik karar verme tarafından kullanılan temel mantığa ilişkin şeffaflık eksikliği, genel nüfus için önemli sorunlar teşkil etmektedir ve sağlık ve hayat sigortası piyasalarında zaten marjinalleştirilmiş olan engelli bireyleri etkilemesi muhtemeldir.
İstihdam alanı, engelli bireyler üzerinde güçlü bir etkiye sahip olabilecek yapay zeka araçları tarafından giderek daha fazla domine edilmektedir. Yapay zeka araçları, işe alım sürecinin her aşamasında adayları dışlayabilir. Örneğin, mülakatlarda kullanılan ve yapay zeka tarafından etkinleştirilen sohbet robotları, engelli bireyler için erişilemez olabilir. Özgeçmiş tarama araçları, engelli bir aday için engel teşkil edebilir, çünkü örneğin özgeçmişi, üstlenilen stajları veya sanal olarak çalışma seçeneklerini yansıtmaz. Eşdeğer deneyime ilişkin açıklayıcı bilgiler neredeyse hiçbir zaman bir insan tarafından incelenmez. Yapay zeka destekli video tarama araçları genellikle engelli kişiler denek olarak kullanılmadan geliştirilmektedir. Bu durum, bir insan mülakatçının bir iş adayıyla görüşmesinden önce atipik özelliklere dayalı dışlama olasılığı yaratmaktadır. Engelli adaylara, istihdam edilebilirliği belirlemek için bir yapay zeka aracı tarafından kullanılan puanlama sürecinde bazen olumsuz bir ağırlık verilmekte, bu da istihdam kurumunun engelli bir adaya iş aramasında daha az kaynak ayırmasına ve daha az destek vermesine neden olmaktadır.
Giderek daha popüler hale gelen yapay zeka destekli mülakatlar, potansiyel çalışanları kişilik testlerinden oyunlaştırılmış testlere kadar çeşitli değerlendirmelere tabi tutuyor. Algoritma, mülakat verilerinde duygusal istikrar, dışa dönüklük, dürtüsellik veya dikkat süresi gibi özellikleri arar. Ayrıca, görüşülen kişinin göz teması ve ses coşkusu seviyeleri için yüz ifadelerini de ölçebilir. Yapay zeka araçları genellikle engelli kişilerin yüz ifadelerini okuyamamakta ya da yanlış okumaktadır. Bu da onların aday olarak dışlanmasına yol açabilir. Özellikle, ister tasarım gereği ister başka bir şekilde olsun, engelli kişilerle mülakat yapmaya yönelik yapay zeka teknolojisinin geliştirilmesinde makul düzenlemelerin dikkate alınmaması dikkat çekicidir.
İşe alımın ötesinde, yapay zeka, çalışanların sürekli gözetimini ve denetimlerinin otomasyonunu sağlamak için giderek daha fazla kullanılmaktadır ve ortaya çıkan kanıtlar, engelli çalışanların meslektaşlarından daha yüksek seviyelerde işaretlendiğini göstermektedir. Yapay zekanın geliştirilmesinde engelli kişilerin dikkate alınmaması ve sürece dahil edilmemesi nedeniyle, bu sistemler erişimi ve desteklenen ortamları teşvik etmek yerine bölünmeler yaratmaktadır.
Yapay zeka destekli araçlar, bire bir özel dersler, sosyal becerilerin öğrenilmesini kolaylaştıran yaratıcı oyunlar ve yapay zeka destekli problem çözme de dahil olmak üzere engelli bireylerin eğitim fırsatlarına erişimini iyileştirme potansiyeline sahiptir. Bununla birlikte, yapay zekanın eğitim fırsatlarının nasıl dağıtılacağına ilişkin kararlar almak için kullanıldığına dair kanıtların artması endişe vericidir. Bu durum, mevcut rapora katkı çağrısına verilen yanıtlardan birinde vurgulanmıştır ve engelli bireylerin eğitime erişimini nasıl olumsuz etkileyebileceğini göstermektedir.
C. Engelli Kişilerin Haklarına Dair Sözleşme’nin yapay zekanın geliştirilmesi ve kullanımı için geçerli olan temel hak ve yükümlülükleri
Engelli Kişilerin Haklarına Dair Sözleşme, yapay zekanın geliştirilmesi ve kullanımı konusunda Devletlere yasal yükümlülükler getirmektedir. Daha da önemlisi, Devletler aynı zamanda “herhangi bir kişi, kuruluş veya özel teşebbüs tarafından engelliliğe dayalı ayrımcılığı ortadan kaldırma” yükümlülüğünü de taşımaktadır (madde 4.1 (e)). Bu, yapay zekânın geliştirilmesi ve kullanımı söz konusu olduğunda Hükümetlerin özel sektör karşısındaki düzenleyici sorumluluklarını kesinlikle devreye sokmaktadır. Ayrıca, Devletler bilgi teknolojilerinin “erken bir aşamada” tasarlanmasını ve geliştirilmesini teşvik etme yükümlülüğünü taşımaktadır (madde 9.2 (h)). Bu da Devletin özel sektörü uygun şekilde teşvik etme ve düzenleme konusunda güçlü bir sorumluluğu olduğuna işaret etmektedir.
İlgili hak ve yükümlülükler hem özü (örneğin mahremiyet) hem de süreci (danışılma hakkı) kapsamaktadır. Önemli bir uyarıdan bahsetmek gerekir: Geleneksel olarak teknoloji ve engellilik hakkında düşünüldüğünde, doğal olarak akla şu gelebilir ; erişilebilirlik (Sözleşme’nin 9. maddesi). Burada söz konusu olan, yeni teknolojilerin engelli bireyler için erişilebilir ve onlar tarafından kullanılabilir hale getirilmesidir. Yapay zeka gerçekten de bir dizi erişilebilirlik sorununu gündeme getirse de, Özel Raportör’ün bu rapordaki temel kaygısı yapay zeka araçlarının engelli kişileri nasıl etkilediğidir. Eşit muamele veya ayrımcılık meselesi ön planda ve merkezdedir.
Aşağıda, bu bağlamda söz konusu olan bazı haklara ilişkin kapsamlı olmayan bir açıklama yer almaktadır.
Eşitlik ve ayrımcılığa uğramama hakkı (madde 2, 5 ve 18)
Sözleşme, özünde “kapsayıcı eşitlik” kavramını savunmaktadır (madde 5). Sözleşme’deki tüm haklar diğerleriyle eşit bir şekilde güvence altına alınmalıdır. Engelli Hakları Komitesi, 5. maddenin temelinde yatan eşitlik kavramını geniş anlamda ve kapsayıcı eşitlik başlığı altında ele almaktadır.
Daha da önemlisi, ayrımcılığın önlenmesi, bireyin haklarını tam olarak kullanabilmesini sağlamak için makul düzenlemelerin yapılmasını gerektirebilir (madde 2). Komite’nin de belirttiği gibi, bu, bireyin kişisel koşullarının ayrıntılı olarak değerlendirilmesini gerektiren bireyselleştirilmiş ve kişiye özel bir süreçtir.
Buna ek olarak ve yapay zeka bağlamında daha da önemlisi, yükümlülüğün öngörüye dayalı bir boyutu da olabilir; yani, hangi makul düzenlemenin gerekli olabileceğini düşünmeden önce engelli kişilerin kendilerini göstermelerini beklemek gerekmeyebilir. Yapay zeka tarafından desteklenen mal ve hizmetlerin (örneğin, yapay zeka tarafından yönlendirilen tarama veya mülakat araçları) engelli bireyler üzerindeki etkisinin makul bir şekilde öngörülebildiği durumlar bunun bariz bir örneğidir. Bir diğeri ise, kimliğin yasal olarak kanıtlanmasını kolaylaştırmak ve eğitim, sağlık ve oy verme gibi kamu hizmetlerine erişimin kilidini açmak için biyometrik teknolojinin kullanılmasıdır. Sözleşme, kanun önünde tanınma hakkını ve engelli çocukların kimlik ve doğum kaydı belgelerini edinme, sahip olma ve kullanma hakkını teyit etmektedir (madde 18). Burada, bu tür yapay zeka araçlarının amacı, yasal kimlik kanıtı olmayan en marjinalleştirilmiş nüfuslara ulaşmaktır. Bununla birlikte, erişilebilir biyometrik sistemlerin üretilmesine yönelik standartlara uyulmaması veya teknolojinin başarısız olduğu durumlarda alternatif araçların sağlanmaması, engelli kişilerin bu tür teknolojilerin faydalarına erişebilmelerini sağlamak için ele alınması gereken engelleri oluşturmaktadır.
Özerklik ve karar verme hakkı (madde 3, 12 ve 23)
Etik yapay zeka ilkeleri, her bir insanın kendi içinde bir amaç olduğunu ve başkalarının amaçları için araçsallaştırılmaması gerektiğini kabul eder. Sözleşme, 3. (genel ilkeler) ve 12. (kanun önünde eşit tanınma) maddelerde yansıtıldığı üzere, özerklik ve karar verme haklarıyla bağlantılı olarak insan kişiliğinin değerine dair doğuştan gelen bir anlayışa dayanmaktadır. Diğer insan hakları belgeleri gibi, Sözleşme de rızanın bilgilendirilmiş, gerçek, şeffaf, etkili olmasını ve asla varsayılmamasını gerektirir. Özerklik, makine öğreniminin engelli kişileri bilgileri olmadan etkileyen profilleme ve diğer kararları kullandığı durumlarda söz konusudur.
Özerkliğin kilit uygulamalarından biri evlenme ve aile kurma hakkı ile ilgilidir (madde 23). Yapay zeka tarafından desteklenen ve sağlık ve üreme taramasında kullanılan teknolojiler, aile haklarının korunmasına ilişkin endişeleri artırmaktadır. Bilgiye erişim, üreme ve aile planlaması 23. madde kapsamında güvence altına alınan haklardır ve yapay zeka araçları için de aynı şekilde geçerlidir. Yapay zeka tarafından mümkün kılınan DNA ve genetik testler, 23. maddeye ilişkin endişeleri artırmaktadır.
Özel hayatın gizliliği hakkı (madde 22 ve 31)
Mahremiyet ve veri koruma hakları insan onuru için temeldir. Özel hayatın gizliliği hakkı, Sözleşme’nin 22. maddesi kapsamında korunmaktadır ve 31. madde, engellilik verilerinin ve istatistiklerinin korunmasına ilişkin parametreleri ortaya koymaktadır. Engelli bireylere ait veriler, oluşturdukları içerikleri, haklarında toplanan bilgileri ve algoritmalar aracılığıyla çıkarılanları ifade eder. Madde 22 ve 31 birlikte, verilerin korunmasını ve engelli kişilerin mahremiyetine saygı gösterilmesini zorunlu kılar. Yapay zeka bağlamında bu, engelli bireylerin kişisel verileri üzerinde temsil yetkisine sahip olabilmeleri ve verilerine erişim, güvenli paylaşım, kullanımını anlama, kontrol etme ve silme konularında desteklenmeleri gerektiği anlamına gelmektedir.
Çalışma ve istihdam hakkı (madde 27 ve 9)
Sözleşme, işe alma, işe yerleştirme ve istihdam koşulları, istihdamın devamı, kariyerde ilerleme ve güvenli ve sağlıklı çalışma koşulları dahil olmak üzere istihdamda engelliliğe dayalı ayrımcılığa karşı koruma sağlar ve makul düzenleme sağlama yükümlülüğünü de içerir. Bu durumda, bu, engelli başvuru sahiplerinin becerilerini kullanma fırsatlarını kısıtlamayacak şekilde alternatif test ve tarama araçları sağlamak anlamına gelebilir. Test sırasında sağlanan makul düzenlemelere eşit ağırlık verilmeli ve tüm adayların belirli bir yüzdesine paralel, algoritmik olmayan bir işe alım yolu sağlanması önyargı ve damgalamanın ortadan kaldırılmasına yardımcı olabilir.
Yapay zeka araçları, işe alım sürecinin her aşamasında adayları dışlayabilir ve engelli bir birey işe alındıktan sonra daha fazla dışlanma riski ortaya çıkarabilir. Yapay zeka tarafından sağlanan video tarama araçları tipik olarak engelli bireyleri denek olarak dahil etmeden geliştirilmekte, böylece bir insan mülakatçı bir adayla görüşmeden önce atipik özelliklere dayalı dışlama olasılığı yaratmaktadır. Sözleşme’nin 27. maddesi, 9. madde (erişilebilirlik) ile birlikte okunduğunda, işverenlerin yapay zeka araçlarını erişilemeyen teknolojilerin ayrımcı etkilerini önleyecek şekilde kullanmalarını gerektirmektedir.
Eğitim hakkı (madde 24)
Yapay zekâ sistemlerinin eğitimde oynayacağı önemli bir rol vardır ve Sözleşme her düzeyde kapsayıcı eğitimi benimsemektedir. Madde 24, bireysel öğrencinin gereksinimleri için makul uyumlaştırma sağlama görevini ve en önemlisi, “bireyselleştirilmiş destek önlemlerinin, tam kapsayıcılık hedefiyle tutarlı olarak akademik ve sosyal gelişimi en üst düzeye çıkaran ortamlarda sağlandığını” vurgulamaktadır. Sözleşme’nin eğitimde yapay zekâya ilişkin açık anlamı, yeni teknolojilerin eğitimde ayrımı güçlendirmek veya meşrulaştırmak için kullanılması değil, kapsayıcılığın kolaylaştırılmasıdır.
Yeterli yaşam standardı ve sosyal korunma hakkı (madde 28)
İş otomasyonu, işlerin ortadan kaldırılması yoluyla engelli kişilerin işgücü piyasasına erişimde karşılaştıkları mevcut engelleri güçlendirme potansiyeline sahiptir ve bu da Sözleşme’nin 28. maddesinde güvence altına alınan yeterli yaşam standardı hakkının yerine getirilmesini Hükümetler için acil bir öncelik haline getirmektedir. Sosyal koruma 28 (2) maddesinde belirtilmekte ve yoksulluk içinde yaşayan kişiler için yardım programları da dahil olmak üzere bir dizi önlemi garanti altına almaktadır. Hükümetler, engellilikle ilgili harcamalara yardım gibi yapay zeka tarafından sağlanan devlet destekli hizmetler için karar alma yönünde ilerledikçe, bu tür karar alma şeffaflık olmadan gerçekleşebilir.
Sağlık hakkı (madde 25) ve habilitasyon ve rehabilitasyon hakkı (madde 26)
Sözleşme’nin 25. ve 26. maddelerinde ele alınan engelli bireylerin sağlık ve rehabilitasyon hizmetlerine erişimi ayrımcılık yapılmaksızın sağlanmalıdır. Yapay zekanın sağladığı araçların, örneğin hasta tedavi önerilerinin bireyselleştirilmesi veya uzman tıbbi ve rehabilitasyon tavsiyelerinin daha erişilebilir hale getirilmesi gibi avantajları, engelli bireylere eşit şekilde tanınmalıdır. Yapay zeka, maliyet düşürme gibi sonuçların programlanabileceği, hasta refahını riske atabilecek ve engelli bireyleri risk altında bırakabilecek sağlık hizmetlerinde ayrımcılık riskleri oluşturmaktadır.
Bu tür bir ayrımcılık, engellilik temelinde sağlık bakımı veya sağlık hizmetlerinden ayrımcı bir şekilde mahrum bırakılmayı yasaklayan Sözleşme’nin 25. maddesinde ele alınmaktadır. Aynı maddede yer alan engellilik temelinde sağlık sigortası ve hayat sigortası sağlanmasında ayrımcılık yasağı, sağlık sigortasına erişimi belirlemek için yapay zeka kullanımını da kapsayacaktır.
İfade ve düşünce özgürlüğü ve bilgiye erişim(madde 21 ve 29)
Sözleşme, müdahale olmaksızın bilgi arama, alma ve verme hakkı da dahil olmak üzere ifade özgürlüğü hakkını (madde 21) güvence altına almaktadır; yapay zeka sivil alanı kapatmak ve sansürü artırmak için kullanılırsa ve Hükümetlere azınlıklar da dahil olmak üzere belirli grupların üyelerini izleme ve hedef almada yardımcı olursa bu haklar zarar görebilir. Madde 21’de belirtildiği üzere, bilgiye erişimi desteklemeye yönelik tedbirler arasında, erişilebilir yapay zeka araçlarıyla kolaylaştırılabilecek erişilebilir formatlarda ve teknolojilerde bilgi sağlanması da yer almaktadır. Devletler aynı şekilde, özel kuruluşların ve kitle iletişim araçlarının, internet de dahil olmak üzere, engelli bireyler için erişilebilir ve kullanılabilir formatlarda bilgi ve hizmet sunmalarını sağlamaya teşvik edilmektedir. Sözleşme’nin 29. maddesi ile korunan örgütlenme özgürlüğü, yapay zeka ile çalışan sistemlerin Hükümetler tarafından engelli örgütlerinin ve engelli savunucularının örgütlenmek ve protesto haklarını kullanmak için dayandıkları bilgileri, yayınları, grupları ve web içeriklerini kaldırmak için kullanılması halinde tehlikeye girebilir. Sözleşme tarafından öngörülen ifade özgürlüğüne ilişkin diğer endişeler arasında, tarihsel ayrımcılığa maruz kalmış marjinal toplulukların üyeleri için özellikle caydırıcı bir etkiye sahip olan bot destekli çevrimiçi tacizin kullanılması yer almaktadır.
Siyasi ve kamusal yaşama katılım (madde 29)
Sözleşme’nin 29. maddesinin seçimlere erişimle ilgili gereklilikleri, seçim döngülerinde halihazırda kullanılmakta olan çok çeşitli yapay zeka teknolojileri için de geçerlidir. Buna, çevrimiçi oylama sistemleri, benzer şekilde etkinleştirilmiş seçmen eğitim araçları ve potansiyel seçmenlere dezenformasyon sağlamaya çalışan yabancı trolleri tespit etmek ve ortadan kaldırmak için sosyal medya platformları tarafından kullanılan araçlar gibi yapay zeka tarafından etkinleştirilen araçlar dahildir. Tüm bu araçlar, engellilerin ihtiyaçlarını ve endişelerini kapsayacak şekilde erişilebilir bir şekilde geliştirildikleri takdirde, engellilerin siyasi sürece erişimini artırabilir. Aynı zamanda Sözleşme, örneğin yapay zeka ile desteklenen gözetimin, engelli kişilerin, özellikle de siyasi süreçlerde ötekileştirilen ırksal, etnik veya diğer gruplara mensup kişilerin siyasi katılımını kısıtlamak veya engellemek için kullanılmamasını sağlamak için proaktif önlemler alınmasını gerektirmektedir.
Risk durumları ve insani acil durumlar (madde 11)
Yapay zeka sistemleri, Sözleşmenin 11. maddesine uygun olarak, engelliler de dahil olmak üzere marjinal grupların zarar ve sömürüden ve diğer risk durumlarından aktif bir şekilde korunmasında rol oynayabilir. Engelli mültecileri ve ülke içinde yerinden edilmiş kişileri daha iyi desteklemek için yapay zekânın kullanılması ve engelli kişiler için önemli olan kölelik, insan kaçakçılığı ve çocuk işçiliğinin çağdaş biçimlerini önlemek için yapay zekânın kullanımının araştırılmasına yönelik çalışmalar hâlihazırda devam etmektedir.46
Aynı zamanda, yapay zeka kullanımının riskli durumlarda engelli bireyler üzerinde zararlı etkileri olabilir. Örneğin, diğer yapay zeka sistemleri gibi tamamen otonom silah sistemlerinin konuşlandırılması ve kullanılması, yapay zeka tarafından yönetilen silahların muharipler ile muharip olmayanlar arasında ayrım yapma ve yardımcı bir cihazın engelli bir kişiyi tehdit olarak nitelendirip nitelendirmediğine dair incelikli bir belirleme yapma becerisine ilişkin endişeleri artırmaktadır. Ayrıca, güvenlik kontrol noktalarında bir kişinin tehdit oluşturup oluşturmadığının belirlenmesine yardımcı olmak için yüz veya duygu tanıma teknolojisinin kullanılması, eksik veya önyargılı veri setleri nedeniyle engelli kişilerin tepkilerini doğru bir şekilde değerlendirmek için aynı yeteneğe sahip değildir. Bu tür endişeleri hafifletmek ve gidermek için risk durumlarına uygulanan yapay zeka teknolojisinin geliştirilmesi, tedarik edilmesi ve konuşlandırılmasında engelliler de yer almalıdır.
Uluslararası işbirliği (madde 32)
Yapay zeka alanında engelliler için eşit hakların kolaylaştırılması, engellileri kapsayan kalkınma programlarının ve uluslararası işbirliğinin kapsayıcı yapay zeka sistemlerini geliştirmesini sağlamak anlamına da gelmektedir. Özellikle, Sözleşme’nin 32 (c) ve (d) maddeleri, “araştırma ve bilimsel ve teknik bilgiye erişimde işbirliğini” ve “erişilebilir ve yardımcı teknolojilere erişimve bunların paylaşımını” kolaylaştıran uluslararası işbirliği tedbirlerine atıfta bulunmaktadır.
Fikri mülkiyet hakları (madde 30)
Sözleşme’nin 30 (3) Maddesi, Devletleri, kültürel materyallerle ilgili olarak “fikri mülkiyet haklarını koruyan yasaların makul olmayan veya ayrımcı bir engel teşkil etmemesini sağlamaya” çağırmaktadır. Bu maddenin gerektirdiği yeniden dengelemenin, kültürel hakların maddi kapsamının ötesine geçtiği öne sürülmektedir. Böyle bir yeniden dengeleme, telif hakkı kısıtlamalarının basılı materyallerin erişilebilir versiyonları önünde yarattığı engellerin ele alındığı Kör, Görme Engelli veya Başka Türlü Baskı Engelli Kişilerin Yayımlanmış Eserlere Erişimini Kolaylaştırmaya Yönelik Marakeş Antlaşması’nda gerçekleştirilmiştir. Bunun diğer bağlamlarda başarılamaması için öncelikli bir neden yoktur.
Kamu alımları
Madde 4 (d) (genel yükümlülükler), Sözleşme’deki diğer hükümlerle birlikte, kamu makamlarının taahhütlerine uygun olarak faaliyet göstermesini sağlamak için sağlam bir kamu alımları biçimi için yeterli gerekçeleri ortaya koymaktadır. Sözleşme, yapay zeka sistemleri ve araçlarının Devlet ve Devletin uzantıları tarafından tedarik edilmesinin engellilik temelinde ayrımcılık yapmamasını ve erişilebilir olmasını gerektirmektedir. Kapsayıcı tedarik, uluslararası kuruluşların çalışmalarıyla da bağlantılıdır ve tedarik, Birleşmiş Milletler Engelliliği İçerme Stratejisi gibi engellilik politikalarına özel olarak yansıtılmaktadır.
Aktif istişare (madde 4 ve 7)
Sözleşmenin kapsayıcı ilkelerinden biri, 4 (3) maddesinde yer alan ve metnin tamamına yayılmış olan, engelli kişilerin politikalara ve her alanda karar alma süreçlerine tam katılımıdır. Engelli haklarının katılım ve kapsayıcılık ilkeleri, tüm yapay zeka politikaları ve sistemlerinin tasarımı, geliştirilmesi ve yaygınlaştırılmasında engelli bireylere aktif olarak danışılması gerektiği anlamına gelmektedir. Ortaya çıkan araçlar hedeflerine ulaşmak için daha iyi tasarlanacağından, bu ticari açıdan da mantıklıdır.
Engelli hakları matrisi içinde katılım ve dahil etme aynı zamanda yapay zeka tarafından etkinleştirilen ürün ve hizmetleri tasarlayan, geliştiren, veri toplayan ve işleyen, uygulayan, araştıran ve düzenleyen ekipleri çeşitlendirmek için proaktif önlemler almak anlamına gelir. Örneğin, istihdam ve işe alma bağlamında bu, algoritmalar ve istihdam ayrımcılığı konularında engelli uzmanların dahil edilmesi anlamına gelmektedir.
Katılım hakları, diğerlerinin yanı sıra yerli halkları, göçmenleri, azınlıkları, kadınları, çocukları ve engelli yaşlıları da kapsayacak şekilde kesişimsel olarak uygulanır. Yapay zekâ sistemlerinin ve ürünlerinin kullanıcıları olarak engelli çocuklar, Sözleşme’nin 7 (3) maddesi kapsamında yapay zekâ ile ilgili görüşlerini ifade etme konusunda özel bir hakka sahiptir. Ayrıca, engelli çocuklar da dahil olmak üzere çocuklar için tasarlanan yapay zeka hizmetleri ve ürünleri çocuğun yüksek yararını göz önünde bulundurmalıdır. Bunu yapmanın en iyi yolu, çocuğun gelişen kapasitelerine uygun ve saygılı bir şekilde ve Çocuk Hakları Sözleşmesi hükümleri doğrultusunda ürün tasarımına aktif katılımlarını sağlamaktır.
D. Yapay zekanın engelli kişilere yönelik ayrımcı uygulamaları
Eğer engelliliğe dayalı eşitsiz muamele ya da ayrımcılık bu raporun odaklandığı temel meseleyse, o zaman bu gerçekte nasıl ortaya çıkmaktadır? Yapay zeka destekli internet arama motorlarında “atlet” için görsel araması yapıldığında ortaya çıkan durum buna çarpıcı bir örnektir. Bu tür arama motorları, engelli kişilerin sporcu olamayacağı şeklindeki çağdışı görüşe bağlı bir veri setine veya algoritmaya dayandıkları için, engelli sporcuların resimlerini getirmeleri pek olası değildir. Yapay zekaya engellilerin dahil edilmesi, yalnızca kullanılan veri setlerinin değil, aynı zamanda ayrımcılığı önlemek için yapay zeka sisteminin karar verme sürecinin de anlaşılmasını gerektirdiğinden, sistemik önyargıya yönelik önerilen düzeltmeler dikkatle ele alınmalıdır.
Özgün veri setleri ve modellerin geliştirilmesinde engelliliği doğrudan ele almayan ve bunun yerine geçmiş uygulamalara dayanan yapay zeka, genellikle engelli kişileri tamamen dışlamaktadır. Örneğin, özgeçmiş madenciliği araçları, gelecekteki istihdam için başarılı adayların göstergeleri olarak bir işverenin önceki işe alımlarına dayanır. Önceki çalışanların profillerine güvenmek, yapay zeka sisteminin başvuruları taramada kullanması için zorunlu olarak önyargılı bir veri seti veya model oluşturur. Ayrıca, şirketin işe alım uygulamaları daha önce engelli kişileri kapsayıcı olmadığı sürece, engelli kişilerin (ve aslında tarihsel olarak ötekileştirilmiş diğer gruplardan adayların) işe alınmasının önündeki toplumsal engelleri pekiştirmeye hizmet eder. Ne yazık ki, henüz buna güvenemeyiz.
Ayrıca, bir bireyin belirli bir iş için yeterlilik ve yeteneğinin ilk taraması için kullanılan yapay zeka sistemleri yanlış yönlendirebilir. Örneğin, çevrimiçi bir testi tamamlamak için geçen süre, testi alan kişinin beceri düzeyi için bir kriter ise, yardımcı teknolojileri kullanan engelli bireyler dezavantajlı olabilir. Bu durum, özellikle test platformunun tam erişilebilir olmaması halinde söz konusudur. Makul düzenleme yapma yükümlülüğü göz ardı edilirse durum daha da kötüleşir. Performans takibine yönelik olanlar gibi yapay zeka tarafından yönlendirilen diğer işyeri araçları da aynı derecede şüpheli olabilir.
Yapay zeka sistemleri, engellilik deneyimi olmayan kişiler için doğru olabilecek ancak engelli kişiler için tamamen uygunsuz olan vekil verileri kullanarak kişiler hakkında çıkarımlar yaptığında ayrımcılık başka şekillerde de gerçekleşebilir. Örneğin, araştırmalar finans sektöründe kullanılan makine öğrenimi modellerinin kredi başvurularında kelimelerin doğru büyük harfle yazılması ile kredibilite arasında pozitif bir korelasyon tespit ettiğini ortaya koymaktadır. Bu durum, engelli bireyler için kredi puanlamasında haksız bir düşürmeye katkıda bulunabilir. Basitçe söylemek gerekirse, kullanılan yapay zeka modelindeki temel özelliklerin, bireylerin kredi geri ödeme kabiliyetleri üzerinde hiçbir etkisi olmayabilir.
İnsanları tanımlayan veya görüntülerden özellikler çıkaran yüz tanıma teknolojisi, engelli kişilerle ilgili olarak benzer endişeleri gündeme getirmektedir. Bazı yüz tanıma algoritmalarında, yüzleri yapay zeka sistemine programlanan standarda uymadığı için güvenilmez olarak değerlendirilen engelli kişilere karşı doğal bir önyargı olduğuna dair belgesel kanıtlar vardır. Kanıtlar, yüz analiz yazılımlarının çeşitli yönlerinin Down sendromu, akondroplazi, yarık dudak veya damak veya yüz farklılıklarına neden olan diğer koşullara sahip kişiler için iyi çalışmayabileceğini göstermektedir. Araştırmalar ayrıca yapay zeka sistemlerinin göz anatomisi ve albinizm gibi durumlar nedeniyle kör olan veya az gören kişilerde başarısız olabileceğini göstermektedir. Ayrıca kameraya sırtını dönmek gibi beklenmedik davranışlar sergileyen kişilerde de başarısız olabilirler. Bununla beraber, duygu işleme algoritmaları, insanların yüz ifadelerini yanlış yorumlayabilir. (Örneğin, Williams sendromlu kişiler veya inme, Parkinson hastalığı veya Bell felci geçirmiş kişiler gibi atipik yüz ifadeleri olan diğer kişiler.)
İnsanlar hakkında değerlendirici yargılarda bulunmak için kullanılan duygu tanıma teknolojisi de önemli engelli hakları kaygılarını gündeme getirmektedir. Bildirildiği üzere, kullanımı öğrenciler arasındaki öğrenme güçlüklerini ortaya çıkarabilir, dolayısıyla bu tür verilerin kullanımına ilişkin endişelerin yanı sıra mahremiyet ve gizlilik endişelerini de beraberinde getirir.
Yapay zekaya aşırı güvenmenin engelli bireyler için insan hakları sonuçları doğurabileceği başka yollar da vardır. Hizmet sağlayıcılar, insan bakıcılara olan ihtiyacı azaltmak veya ortadan kaldırmak için yapay zeka tarafından sağlanan teknolojiye güvenebilirler. Bu durum, engelli bireylerin ruh sağlığı açısından ciddi riskler taşıyabilir ve ayrıştırma ve izolasyonu güçlendirebilir.
Bazı sivil toplum kuruluşları, yapay zeka alanında engelli bireylerin hakları için kampanya yürütmektedir.53 Ancak, yapay zeka sistemleri tarafından engelli bireylere karşı ayrımcılık yapıldığına dair sadece birkaç resmi şikayet, resmi soruşturma veya yasal işlem yapılmıştır. Yukarıda vurgulanan girişimlerin ötesinde, bu rapora kaynaklık eden araştırmada, özellikle engelli kişileri yapay zekanın veya algoritmaların ayrımcı etkilerinden korumayı hedefleyen hiçbir ulusal yasama girişimi tespit edilmemiştir. Yapay zekanın engelli bireyler üzerindeki insan hakları etkilerine özel bir vurgu yapan ulusal bir yapay zeka stratejisi de tespit edilmemiştir.
Yapay zeka geliştirme topluluğunda, daha temsili veri setleri kullanıldığında modellerin iyileştirilebileceği ve önyargıların ortadan kaldırılabileceği yönünde ortak bir görüş vardır. Bir kişinin yaşı gibi bazı kategorizasyonlar bir veri setine ikili bir şekilde girilebilirken, engellilik daha akışkan, heterojen ve nüanslı bir kavramdır. Engelliliğin tüm çeşitliliğini tam olarak temsil eden bir eğitim veri seti oluşturmak zordur, ancak imkansız değildir. Bu tür zorluklar aşılabilir ve ürün tasarımının en erken aşamalarında istişarenin önemini vurgulamaya hizmet eder.
Yukarıda bahsedilen tüm ayrımcı etkilerin temelinde fikri mülkiyet hakları yatmaktadır. Şeffaf yapay zeka sistemlerinin önündeki başlıca engeller arasında algoritmalardaki kodun ve sistemin kendisinin gizliliği yer almaktadır. 54 Engellileri kapsayan yapay zekanın önündeki diğer engeller arasında, patentlerin yeni yapay zeka sistemlerinin geliştirilmesini engellemeyecek şekilde lisanslanabilmesini sağlamak için adil makul ve ayrımcı olmayan kuralların avantaj ve dezavantajları yer almaktadır.
Uluslararası ticaret hukukunun yapay zeka ve insan hakları ile karmaşık etkileşimine dair bir anlayış ortaya çıkmaya başlamıştır ve daha yakından incelenmeyi gerektirmektedir. Yapay zeka sistemleri, bunların arkasında yatan fikri mülkiyet hakları ve bunların veri ve diğer biçimlerdeki ürünlerinin ticareti ile ilgili etik yükümlülüklerin ele alındığı Dünya Ticaret Örgütü, Asya-Pasifik Ekonomik İşbirliği, Güneydoğu Asya Ülkeleri Birliği ve Ekonomik İşbirliği ve Kalkınma Örgütü (OECD) bünyesinde bu konular bir dereceye kadar ele alınmaktadır. Örneğin OECD, yapay zeka için dünya çapında etik standartların geliştirilmesinde önemli bir rol oynamıştır. Birleşmiş Milletler Ticaret ve Kalkınma Konferansı da yapay zeka bağlamında bazı insan hakları endişelerini ele almaya başlamıştır. Bununla birlikte, yapay zeka bağlamında uluslararası ticaret kurallarının engelli bireyler üzerindeki etkilerine ilişkin özel olarak çok az önemli katkı yapılmıştır.
Yaygın sorunlardan biri, uluslararası ticaret anlaşmalarında kullanılan standart terimlerde yatmaktadır. Bunlar arasında, dijital ürünlerin ticaretini teşvik etmek için tasarlanan ve sınırlar arasında ticareti yapılırken gizliliklerinin korunmasını gerektiren hükümler de yer almaktadır. Bu tür kurallar, ticareti yapılan yapay zeka sistemlerinin nasıl ayrımcılığa neden olabileceğinin gerçek boyutunu ortaya çıkarmayı özellikle zorlaştırıyor ve genel olarak ağır bir şekilde eleştiriliyor. 59 Şeffaflığın altını oymakta, bu da eşit muamele garantisinin uygulanmasını imkansız olmasa da zorlaştırmaktadır. Daha önce de belirtildiği üzere, Devletler 30. madde kapsamında kesinlikle geniş bir alana sahiptir Engelli Kişilerin Hakları Sözleşmesi’nin yapay zeka bağlamında engelli kişilerin fikri mülkiyet haklarını yeniden dengelemek için. Bu konuda daha fazla özveri ve çabaya ihtiyaç vardır.
IV. SONUÇLAR VE ÖNERİLER
A. Sonuçlar
Yukarıdaki tartışmaya dayanarak üç genel sonuca varmak mümkün görünmektedir:
(a) Birincisi, yapay zekânın eşi benzeri görülmemiş gücü, özellikle Engelli Hakları Sözleşmesi’nin hayata geçirilmesiyle bağlantılı olduğunda, engelli bireyler için bir iyilik gücü olabilir. İnsanlık için büyük ilerlemeler, en geride kalanların nihayet bilimden ve onun ilerlemelerinden tam olarak faydalanabilmelerini sağlamak için uygun şekilde kullanılmalıdır;
(b) İkinci olarak, yapay zekanın engelliler üzerindeki iyi belgelenmiş olumsuz etkilerinin Devletler, iş dünyası, ulusal insan hakları kurumları, sivil toplum ve engelli örgütleri tarafından birlikte çalışılarak açıkça kabul edilmesi ve düzeltilmesi gerekmektedir. Kalkınma düzeyinde, bu olumsuz etkiler, ayrımcılığa yol açması neredeyse kesin olan zayıf veya temsili olmayan veri setlerinden, teknolojide şeffaflık eksikliğinden (ayrımcı bir etkiyi ortaya çıkarmayı neredeyse imkansız hale getiren), engelli kişiyi daha da dezavantajlı hale getiren makul düzenleme yükümlülüğünün kısa devre yapmasından ve etkili çözüm yollarının eksikliğinden kaynaklanmaktadır. Bazı çözümler kolay, bazıları daha az anlaşılır olsa da, yeni teknolojiden en iyi şekilde yararlanmak ve en kötüsünden kaçınmak için ortaklık içinde çalışmak için ortak bir kararlılığa ihtiyaç vardır;
(c) Üçüncü olarak, Engelli Hakları Sözleşmesi ve diğer insan hakları belgelerinde yer alan hak ve yükümlülüklerin daha fazla dikkate alınması ve daha fazla kanıta dayalı olarak tartışmanın temelden yenilenmesi gerekmektedir.
Yapay zeka sistemlerinin geliştirilmesi, tedarik edilmesi ve yaygınlaştırılması süreçlerine engelli bireylerin ve onları temsil eden kuruluşların katılımı Engelli Hakları Sözleşmesi kapsamında zorunludur. Bu hak Engellilerin ve onları temsil eden kuruluşların yapay zekâ politikalarının oluşturulmasına ve yapay zekânın geliştirilmesi, yaygınlaştırılması ve kullanımına ilişkin kararlara katılmaları, yapay zekâdan en iyisini elde etmenin ve en kötüsünden kaçınmanın anahtarıdır. Politika oluşturma sürecine ve örneğin Birleşmiş Milletler Küresel İlkeler Sözleşmesi aracılığıyla işletmeler arasındaki müzakerelere aktif olarak dahil olma hakkına sahiptirler.
B. Tavsiyeler
Özel Raportör, uluslararası toplumun engellilik bağlamında yapay zekadan en iyi şekilde yararlanmak ve en kötüsünden kaçınmak üzere konumlanmasını sağlamak için aşağıdaki tavsiyeleri ortaya koymaktadır.
Devletler şu konularda teşvik edilmektedir:
(a) Ulusal yapay zeka tartışmalarını Engelli Hakları Sözleşmesi’ni açıkça göz önünde bulundurarak genişletmek, bilgilendirmek ve derinleştirmek;
(b) Ulusal yapay zeka düzenlemelerinin insan hakları ilke ve standartlarını ve yapay zekanın engelli kişilerle ilgili ayrımcı ve zararlı kullanımlarına veya etkilerine karşı açık bir yasağı içermesini sağlamak. Ulusal dijital içerme stratejileri, özellikle engelliliği ele alırken insan haklarına uygun yapay zeka araçlarına duyulan ihtiyacı açıkça dikkate almalıdır;
(c) İnsan haklarını korumaya yönelik yeterli güvenceler sağlanana kadar ayrımcılık açısından en büyük riski teşkil eden yapay zeka sistemlerinin satışına ve kullanımına moratoryum getirmeyi düşünün. Buna yüz ve duygu tanıma teknolojilerine yönelik bir moratoryum da dahil olabilir. Engelli bireylere yönelik istisnai ayrımcılık riski bu bağlamda özellikle akut görünmektedir ve Devletler, engelli bireyleri temsil eden kuruluşlarla katılımcı bir şekilde etkilerin tam bir denetimi yapılana kadar herhangi bir konuşlandırmayı ertelemeyi düşünmelidir;
(d) İnsan hakları durum tespiti mevzuatının, yapay zeka sistemleri edinilirken, geliştirilirken, konuşlandırılırken ve işletilirken ve bireyler hakkında tutulan büyük veriler paylaşılmadan veya kullanılmadan önce iş dünyası tarafından yürütülmesini sağlamak da dahil olmak üzere, kapsamlı ve engelliliği kapsayıcı olmasını sağlayın. Özel sektör aktörleri tarafından kullanılan yapay zekaya ilişkin insan hakları durum tespiti gerektiren mevzuatı yürürlüğe koymayı düşünen devletler, söz konusu mevzuatın yapay zekanın engelli bireylerin hakları üzerindeki etkisini açıkça dikkate almasını sağlamalıdır;
(e) Yapay zeka sistemlerinin işletilmesinde, makul düzenlemelerin yapay zeka araçlarına dahil edilmesi de dahil olmak üzere, makul düzenleme yükümlülüğü konusunda ısrarcı olun. Makul düzenlemenin gerekli olduğu durumları vurgulamak veya işaretlemek için yapay zeka araçlarını kullanmanın olumlu yollarını araştırın - her zaman bireyin mahremiyet hakkına tabi olarak. Engelli Hakları Sözleşmesi’nin 8. maddesine uygun olarak, Devletler özel sektörü (yapay zeka geliştiricileri ve kullanıcıları) ve yapay zeka kullanan kamu sektörü ve Devlet kurumlarını, engelli bireyler ve yapay zeka uzmanları ile tam bir işbirliği içinde, makul düzenleme sağlama yükümlülükleri konusunda eğitmelidir;
(f) Engelliliği kapsayıcı kamu alımları standartlarına bağlı kalınmalıdır. Devletin (ve tüm uzantılarının) yapay zeka sistemleri veya araçları satın alması, bu sistemlerin insan haklarına uygun olması koşuluna bağlanmalıdır;
(g) Yapay zekânın engelli hakları üzerindeki etkisini etkili bir şekilde izlemek için engelli temsilci örgütlerinin kapasitelerinin geliştirilmesini destekleyin. Devletler, sorumlu ve engellileri kapsayıcı yapay zekayı savunmak, özel sektör de dahil olmak üzere tüm paydaşlarla etkili bir şekilde etkileşim kurmak ve teknolojinin zararlı veya ayrımcı kullanımlarını vurgulamak için kapasitelerini güçlendirerek engelli kişilerin temsilci örgütlerini desteklemenin yollarını düşünmelidir; (h) Engellilik ve yapay zeka ile ilgili olarak kaydedilen ilerlemeyi, karşılaşılan engelleri ve bulunan yenilikçi çözümleri ele almak üzere Devletlerle diyalog için mevcut alanları kullanarak, yapay zekanın engelliler üzerindeki ayrımcı etkilerini tespit etme ve düzeltme ve engelli haklarını ilerletmek için yapay zeka araçlarını ve hizmetlerini kullanma konusunda kaydedilen ilerlemeyi raporlamayı düşünün. Örneğin, Devletler, Engelli Hakları Sözleşmesi’nin hükümlerini ilerletmek için yapay zekânın nasıl kullanıldığına dair bilgileri, antlaşma organlarına ve evrensel periyodik incelemeye yönelik periyodik raporlarına ve Sürdürülebilir Kalkınma Hedeflerine ilişkin gönüllü raporlarına dâhil etmeyi düşünebilirler.
Ulusal insan hakları kurumları şunları yapmalıdır:
(a) Ulusal yapay zeka politikası tartışmalarını Engelli Hakları Sözleşmesi ve diğer insan hakları standartlarını kullanarak bilgilendirmek ve ulusal politikanın Sözleşme de dahil olmak üzere uluslararası insan hakları hukukunun en iyi şekilde anlaşılmasına dayanabilmesi için yapay zeka ile ilgili politikalara katılımlarını artırmak;
(b) Engellilerin hakları da dahil olmak üzere yapay zekanın insan hakları üzerindeki geniş etkisini incelemekle özel olarak görevlendirilmiş üyeler atanmayı düşünülmelidir.
İşletmeler ve özel sektör yapmalıdır:
(a) Şeffaflıkla çalışmalı ve yapay zeka sistemlerinin nasıl çalıştığı hakkında bilgi sağlamalıdır. Bu, açık kaynak ve açık veri standartlarına uyumu ve yapay zeka sistemlerinin nasıl çalıştığına dair erişilebilir bilgilerin yayınlanmasını içermelidir;
(b) Engellilerin hakları üzerindeki olumsuz etkilerini tespit etmek ve düzeltmek için yapay zekanın engelliliği de kapsayan insan hakları etki değerlendirmelerini uygulayın. Tüm yeni yapay zeka araçları, engelli hakları perspektifinden bu tür değerlendirmelere tabi tutulmalıdır. Yapay zeka işletmeleri, etki değerlendirmelerini engelli kişileri ve engelli kullanıcıları temsil eden kuruluşlarla yakın istişare içinde yürütmelidir;
(c) Engellilik ve yapay zekayı açıkça dikkate almak için kurumsal insan hakları durum tespitini kullanın. Makine öğrenimi teknolojilerini geliştiren ve uygulayan özel sektör aktörleri, engelli kişiler üzerindeki potansiyel ve fiili insan hakları etkilerini proaktif olarak belirlemek ve yönetmek, gelecekteki herhangi bir gelişmede bilinen riski önlemek ve azaltmak için kurumsal insan hakları durum tespiti yapmalıdır;
(d) Yapay zeka sistemlerinin engelli bireyler üzerindeki olumsuz etkilerinden kaynaklanan insan hakları zararları için erişilebilir ve etkili yargı dışı çözüm ve telafi yollarının sağlanması. Bu, mevcut yasal çözüm yollarını tamamlamalı ve Engelli Bireyler için Adalete Erişim Hakkında Uluslararası İlkeler ve Kılavuz İlkeler ile uyumlu olmalıdır;
(e) Veri setlerinin çok daha gerçekçi ve engelliliğin çeşitliliğini temsil eder hale gelmesini sağlayın ve iş döngüsünün en erken anlarından itibaren teknik çözümler oluştururken engelli kişilere ve onları temsil eden kuruluşlara aktif olarak danışın. Bu, engellilik deneyimi olan yapay zeka geliştiricilerini proaktif olarak işe almayı veya gerekli bakış açısını kazanmak için engelli kişilerin kuruluşlarına danışmayı içerir.
Birleşmiş Milletler sistemi ve uzman kuruluşlar şunları yapmalıdır:
(a) Yapay zeka stratejilerine engelliliği de dahil etmeleri ve sorumlulukları kapsamında yapay zekanın engelli bireyler üzerindeki etkilerini proaktif bir şekilde ele almaları, böylece var olabilecek tüm fayda ve tuzakların faydalı bir şekilde incelenmesini sağlamaları gerekmektedir;
(b) Engelliliği kapsayıcı yapay zeka uygulamasının Birleşmiş Milletler Engelliliği Kapsama Stratejisinin bir unsuru olmasını sağlamak.
Birleşmiş Milletler sistemi tarafından satın alınan ve kullanılan yapay zeka sistemlerinin ve diğer yeni teknoloji ürünlerinin engellileri kapsayıcı olmasına yönelik gereklilikleri içerecek şekilde yeniden düzenlenmiştir.
Birleşmiş Milletler antlaşma izleme organları ve İnsan Hakları Konseyi’nin özel usulleri, insan hakları ve ulusötesi şirketler ve diğer ticari işletmeler konusundaki Çalışma Grubu da dahil olmak üzere, aşağıdaki hususları yerine getirmelidir:
(a) Yapay zeka konusundaki değerli çalışmalarını sürdürmek ve engelliliğe özgü etkileri değerlendirmek için genişletmek;
(b) Yapay zekayı ele alan genel yorumların veya insan haklarına ilişkin yasal ve politika rehberlerinin kabul edilmesi veya revize edilmesi düşünülürken engelli hakları boyutlarının kapsanmasının sağlanması.
Özellikle, Engelli Hakları Komitesi, Engelli Hakları Sözleşmesi kapsamında yapay zeka ile ilgili olarak Devletlerin yükümlülüklerini (ve özel aktörlere karşı düzenleyici sorumluluklarını) açıklığa kavuşturan genel bir yorum geliştirmeyi düşünmelidir.
Uluslararası ticaret anlaşmaları yapay zeka adaletini engellememelidir. Dünyaticaretinin teşvik edilmesi ve düzenlenmesinde rol alan uluslararası ticaret örgütleri, yapay zeka ve makine öğrenimi gibi yeni teknolojilerin geliştirilmesinden etkilenen engelli bireylerin haklarını açıkça göz önünde bulundurmalıdır. Fikri mülkiyet haklarını, engelli bireylere eşit muamele ve ayrımcılık yapmama garantisi ile yeniden dengelemenin yolları bulunmalıdır.
Araştırma, engelli bireylerin örgütleriyle aktif ortaklık ve ortak üretim içinde geliştirilmelidir:
(a) Yapay zekanın kullanım alanlarını ve bunların engelli hakları üzerindeki etkilerini araştırmak ve bu kapsamda (a) Engelli Hakları Sözleşmesi’nin uygulanması için yapay zekanın olumlu kullanımlarını belirlemek; (b) olumsuz etkileri (amaçlanan veya amaçlanmayan) netleştirmek ve tanımlamak; ve (c) bu etkileri düzeltmenin ve gelecekte bunlardan kaçınmanın yollarını araştırmak;
(b) Yapay zekanın sağlık, eğitim, istihdam, bağımsız yaşam, hizmetlerin dönüşümü, barınma ve finansal hizmetler gibi alanlarda engelli bireyler üzerindeki etkisini analiz etmek;
(c) Uluslararası ticaret anlaşmalarının, Devletlerin yapay zekânın ayrımcı etkilerini etkili bir şekilde düzenleme kapasitesi üzerindeki etkisini ve gerektiğinde yeniden dengelemenin nasıl sağlanabileceğini değerlendirmek.