M. Beheşti Aydoğan/Warwick Üniversitesi
1. Giriş
2018 Kasım ayında kurulan Pekin Yapay Zeka Akademisi tarafından 28 Mayıs 2019 tarihinde yapay zekanın gelişim, kullanım ve yönetim süreçleri sırasında benimsenmesi gerektiğini düşünülen bir takım ilkeler yayınlanmıştır. İlkeler bazılarınca Pekin’in mahremiyet ve özgürlüklerin yapay zeka konusunda dikkate alınması gerektiği düşüncesine doğru bir adım atması olarak değerlendirilmektedir. Ancak vurguladığı noktalara bakıldığında Pekin’in tartışmayı klasik insan hakları retoriği ile yapmak istediği iddiasının fazla aceleci bir yorum olduğu anlaşılmaktadır. İlkelerde genel olarak sorumlu ve bilinçli bir yapay zeka geliştirme ve kullanma sürecine vurgu yapıldığı görülmektedir. Yine benzer bir biçimde insanın bireysel özgürlüklerine yönelik genel bir vurgu yerine yapay zekanın insan türüne yapacağı genel etkiye dikkat çekilmektedir. İlkelerin insanın bilgisizliği dolayısıyla yapay zeka tarafından istismar edilmesinin önlenmesine yönelik düşüncesi, insan istihdamı konusuyla beraber ilkelerinin farklılık oluşturan yanı olarak göze çarpmaktadır. İlkelerin ayrıca yapay zekaya yönelik mevzuatın yapay zeka teknolojisine paralel olarak mütemadiyen yenilenmesi gerektiğine dikkat çektiği de görülmektedir. Bu bakımdan klasik hukukun teknolojinin takibinde yavaş kaldığına ve bundan dolayı düzenlemelerde boşluklar oluştuğuna dair iddiaları anımsattığı söylenebilir.
2. Çeviri
PEKİN YAPAY ZEKA İLKELERİ
28.05.2019
Yapay zekanın gelişimi tüm toplumun, insanlığın ve çevrenin geleceğini ilgilendirmektedir. Aşağıdaki ilkeler yapay zekanın araştırılması, geliştirilmesi, kullanımı, yönetimi ve uzun vadede planlaması için bir öneri olarak sunulmaktadır. Ortak kadere bağlı bir toplum inşasını desteklemek için yapay zekanın sağlıklı bir şekilde geliştirilmesine, insanlık ve tabiat için yararlı yapay zeka yapımına davet etmektedir.
ARAŞTIRMA VE GELİŞTİRME
Yapay zeka araştırma ve geliştirme şu ilkelere riayet etmelidir:
İyilik yap: Yapay zeka toplumun ve insan medeniyetinin ilerlemesini teşvik amacıyla, doğa ve toplumun sürdürülebilir gelişimini teşvik etmek için, tüm insanlığa ve çevreye yararlı olmak için, toplumun ve ekolojinin sıhhatinin güçlendirilmesi için dizayn edilmeli ve geliştirilmelidir.
İnsanlık için: Yapay zeka araştırma ve geliştirme insanlığa hizmet etmeli ve insanların genel çıkarının yanında insani değerlerle de uyumlu olmalıdır. İnsan mahremiyeti, haysiyeti, özgürlüğü, özerkliği ve haklarına yeterince saygı gösterilmelidir. Yapay zeka insanlara karşı kullanılmamalı, onları kullanmamalı ve onlara zarar vermemelidir.
Sorumlu davran: yapa zeka araştırmacıları ve geliştiricileri ürünlerinin getirdiği muhtemel ahlaki, hukuki ve sosyal etki ve riskler hakkında yeterli bilgiye sahip olmalı ve bunları azaltmak ve önlemek için somut adımlar atmalıdır.
Risklere hakim ol: Verinin emniyet ve güvenliğini, yapay zeka sisteminin kendisinin emniyet ve güvenliğini ve yapay zeka sisteminin harekete geçtiği dış çevrenin emniyetini sağlamak amacıyla yapay zeka sistemlerinin olgunluğunu, sağlamlığını, güvenilebilirliğini ve kontrol edilebilirliğini geliştirmek için sürekli çaba sarf edilmelidir.
Ahlaklı ol: Yapay zeka araştırma ve geliştirme sistemi güvenilir kılmak için ahlaki dizayn yaklaşımlarını benimsemelidir. Bunlar aşağıdakilerle sınırlı olmamak kaydıyla şu yaklaşımları kapsar: sistemi olabildiğince adil yapmak; muhtemel ayrımcılık ve önyargıları azaltmak; şeffaflığını, açıklanabilirliğini ve tahmin edilebilirliğini artırmak; sistemi daha takip edilebilir, izlenebilir ve mesul kılmak.
Farklı ve kapsayıcı ol: Yapay zeka geliştirme, çeşitlilik ve kapsayıcılığı yansıtmalıdır. Yapay zeka -hususen yapay zeka uygulamalarında yetersiz derecede temsil edilecek veya ihmal edilecek olan insanlar olmak üzere- olabildiğince çok insanı kapsayacak biçimde dizayn edilmelidir.
Aç ve paylaş: Veri/platform tekellerini önlemek için, yapay zeka geliştirmenin yararlarını en geniş planda paylaşmak için ve farklı bölge ve sanayilerde eşit geliştirme imkanlarını yaymak için açık yapay zeka platformlarının kurulması desteklenir.
KULLANIM
Yapay zeka kullanımında şu ilkelere riayet edilmelidir:
Bilinçli ve düzgün kullan: Yapay zekanın yararlarının azami düzeye çıkarılması, risklerinin de asgari düzeye indirilmesi için yapay zeka sistemleri kullanıcıları:
– Sistemi dizaynına göre çalıştırabilmek için gerekli bilgi ve kapasiteye sahip olmalıdır.
– Yapay zekanın kötüye kullanılma ve istismar edilme ihtimalini engellemek için muhtemel etkilerini yeterince anlıyor olmalıdır.
Aydınlatılmış onam: Yapay zeka sisteminin hissedarlarının sistemin kendi hak ve çıkarlarına etkisi hakkında yeterli düzeyde aydınlatılmış onamı olduğunu temin etmek için önlem alınmalıdır. Beklenmeyen durumlar ortaya çıktığında kullanıcıların hak ve çıkarlarının zedelenmemesi temin etmek için veri ve hizmet geri alma mekanizmaları kurulmalıdır.
Eğitim ve Öğretim: Yapay zeka sistemlerinin hissedarları; yapay zeka gelişiminin ruhsal, duygusal teknik bakımdan etkilerine alışmalarına yardımcı olacak eğitim ve öğretim görmelidir.
YÖNETİM
Yapay zeka yönetiminde aşağıdaki ilkelere riayet edilmelidir:
İstihdam optimizasyonu: Yapay zekanın insan istihdamına olacak muhtemel etkisine karşı kapsayıcı bir tavır alınmalıdır. İnsan istihdamına büyük etkisi olacak yapay zeka uygulamalarının teşvikine karşı ihtiyatlı davranılmalıdır. İnsan ve yapay zeka işbirliğine ve işin yeni şekillerine dair insanın üstünlüklerine ve özelliklerine tam rol tanıyacak araştırmalar teşvik edilmelidir.
Ahenk ve iş birliği: İşbirliği; disiplinlerarası, sahalararası, sektörlerarası, örgütlerarası, bölgelerarası, küresel ve kapsamlı bir yapay zeka ekosistemi inşa etmek için fiili olarak geliştirilmelidir ki kötücül yapay zeka yarışı önlensin, yapay zeka yönetimi tecrübesi paylaşılsın ve “Ortak Yaşam Optimizasyonu” düşüncesi üzerinden yapay zekanın etkisiyle hep beraber başa çıkılsın.
Uyumlu ve makul hale getirme: Yapay zeka ilkelerini, politikalarını ve mevzuatını yapay zekanın gelişimi ile uyumlu hale getiren revizyonlar bifiil değerlendirilmelidir. Yapay zekaya dair yönetim tedbirleri sadece ondan düzgünce yararlanılmasının engellenmesini önlemek için değil onun toplum ve tabiata yararlı olmasını temin etmek için onun gelişim düzeyine denk olmalıdır.
Tasnif ve uygulama: Daha özel ve ayrıntılı kılavuzlar oluşturulması için farklı alanlarda ve senaryolarla yapılan yapay zeka uygulamaları bifiil değerlendirilmelidir. Bu tarz ilkelerin yapay zeka araştırma, geliştirme ve uygulamasının tüm aşamalarında tatbiki bifiil teşvik edilmelidir.
Uzun vadeli planlama: Arttırılmış Zeka, Yapay Genel Zeka (YGZ) ve Süper Zekanın muhtemel risklerine dair sürekli araştırma yapılması teşvik olunmalıdır. Yapay zekanın her vakit topluma ve tabiata yararlı olmasını temin için stratejik dizaynlar sürekli değerlendirilmelidir.
