25 Mayıs 2019 tarihinde Pekin Zhıyuan Yapay Zekâ Araştırma Enstitüsü Yapay Zekâ Etiği ve Güvenliği Araştırma Merkezi kuruldu. Pekin Yapay Zekâ Araştırma Enstitüsü, Pekin Üniversitesi, Tshinghua Üniversitesi, Çin Bilimler Akademisi Makineleştirme Enstitüsü, Çin Bilimler Akademisi Düşünce Teknolojisi Araştırma Enstitüsü Birimi birleşerek, “Yapay Zekâ’da Pekin Ortak Bilinci Bildirisi”ni yayımladı ve yapay zekânın Araştırma-Geliştirme (Ar-Ge) çalışmaları, kullanımı ve yararı ile ilgili insanlığın kaderinin ve insanların sosyal gelişiminin 12 prensibini ilan etti.
Ana içerik
Yapay zekâ çalışmaları Ar-Ge anlamında sosyal ve ekolojik refahın gelişmesinde yararlı olmalı, insanlığın bütün çıkarlarına itaat etmeli, projeleri etik olarak tasarlanmalı, çeşitliliği ve kapsayıcılığı ortaya koymalı, mümkün oldukça daha fazla insana yararlı olmalı, gizli tehlikelere karşı sorumlu olmalı, teknoloji seviyesini yükselterek riskleri kontrol etmeli ve yapay zekâ gelişim sonuçlarını en geniş yelpazede paylaşmalıdır.
Kullanım anlamında, iyi kullanımı ve ihtiyatlı kullanımı savunmalı, yanlış kullanımı ve suiistimali önlemeli, yapay zekâ teknolojisinin faydalarını en üst seviyeye çıkartmalı ve getirdiği riskleri en aza indirmeli, paydaşların hakları ve çıkarları üzerindeki etkileri konusunda tam bilgi ve rıza göstermelerini sağlamalı ve yapay zekâ gelişiminin etkilerine eğitim ve öğretim yoluyla uyum sağlayabilmelidir.
Yönetim anlamında, insan işinin yerini alan yapay zekânın tüm yönlerinde kapsayıcı ve tedbirli olunmalı, insanın avantaj ve özelliklerine tam anlamıyla yer verebilecek yeni işlerin araştırılması teşvik edilmeli, kapsamlı uluslararası işbirliği yürütülüp yapay zekâ yönetimi deneyimi paylaşılmalıdır. Yapay zekânın kriterleri ve yönetim önlemleri birbirine uyumlu ve ılımlı hale getirilmeli ve yapay zekânın gelecekte her zaman toplum için faydalı bir yönde gelişmesini sağlayacak uzun vadeli stratejik tasarım yapılmalıdır.
Ortak bilinç
Yapay zekânın gelişimi tüm toplumların, insanlık ve çevrenin geleceği ile ilgilidir. Aşağıdaki yönergeler, yapay zekânın Ar-Ge, kullanım, yönetim ve uzun vadeli planlamasını teşvik etmek için girişimler önermektedir. Yapay zekânın sağlıklı gelişimini teşvik ederek, topluluğun inşasına yardım edilebilir ve insana, doğaya yararlı olan yapay zekâya ulaşılabilir.
Araştırma ve Geliştirme
Yapay zekânın araştırılması ve geliştirilmesinde aşağıdaki ilkeleri izlemelidir:
Fayda Sağlamak: Yapay zekâ, toplumun ve insan uygarlığının ilerlemesini, doğanın ve toplumun sürdürülebilir kalkınmasını teşvik etmek, tüm insanlığa ve çevreye fayda sağlamak, toplumun ve ekolojinin refahını arttırmak için kullanılmalıdır.
İnsanlığa Hizmet: Yapay zekânın araştırılması ve geliştirilmesi insana hizmet etmeli, insani değerlere ve insanlığın genel çıkarlarına uymalı; insanın mahremiyetine, onuruna, özgürlüğüne, özerkliğine ve haklarına tam saygı gösterilmeli; Yapay zekâ insanları hedef almak, kullanmak veya zarar vermek için kullanılmamalıdır.
Sorumlu Olmak: Yapay zekâ araştırma ve geliştiricileri, etik, yasal, sosyal riskleri ve kazanımlarının getirdiği gizli tehlikeleri azaltmak ve önlemek için ellerinden gelenin en iyisini yapmalı ve denemelidir.
Riski Kontrol Etmek: Yapay zekâ ve ürünlerinin geliştiricileri, modelin ve sistemin olgunluğunu, sağlamlığını, güvenilirliğini ve kontrol edilebilirliğini sürekli geliştirmeli ve veri güvenliğini, sistemin kendi güvenliğini, yapay zekâ sisteminin dış ortamının güvenliğini sağlamalıdır.
Etiğe Uymak: Aşağıdakiler dâhil ancak bunlarla sınırlı olmamak üzere sistemi güvenilir hale getirmek için etik bir tasarım yaklaşımı benimsenmelidir: Sistem olabildiğince adil kılınmalı, sistemdeki ayrımcılık ve önyargı azaltılmalı; sistemin şeffaflığı iyileştirilmeli, sistemin açıklanabilirliği ve tahmin edilebilirliği geliştirilmeli; sistem izlenebilir, doğrulanabilir ve hesap verebilir hale getirilmelidir.
Çeşitlilik ve Katılım: Yapay zekânın gelişimi çeşitlilik ve kapsayıcılığı yansıtmalı. Özellikle teknik uygulamalarda kolayca ihmal edilen ve temsil eksikliği olan gruplar olmak üzere mümkün olduğunca daha çok insanın yararlanabileceği şekilde tasarlanmalıdır.
Açık Paylaşım: Yapay zekâ açık platformunun kurulması teşvik edilmeli, veri ve platform tekelinden kaçınılmalı, yapay zekâ geliştirme sonuçlarının paylaşımı en üst düzeye çıkarılmalı ve farklı bölgelerdeki ve sektörlerdeki yapay zekâ fırsatlarının eşit gelişimi teşvik edilmelidir.
Kullanım
Yapay zekânın kullanımında aşağıdaki ilkelere uyulmalıdır.
İyi Niyetli ve Dikkatli Kullanım: Yapay zekâ kullanıcıları, yapay zekâ sisteminin tasarıma göre çalışmasını sağlamak için gerekli bilgi ve yeterliliğe sahip olmalı, olabilecek potansiyel etkileri tam olarak anlamalı, yapay zekânın faydalarını en üst düzeye çıkarmak ve riskini en aza indirgemek için kötüye kullanımı ve suiistimali önlemelidir.
Tam Bilgi ve Onaylama: Yapay zekâ sisteminin paydaşlarının yapay zekâ sisteminin hak ve çıkarlarına etkilerini tam olarak bilmesini ve onaylamasını sağlamak için önlemler alınmalıdır. Beklenmeyen durumlar ortaya çıktığında, kullanıcıların haklarının ve çıkarlarının ihlal edilmemesini sağlamak için makul bir veri ve hizmet iptali mekanizması kurulmalıdır.
Eğitim ve Öğretim: Yapay zekânın paydaşları, yapay zekâ gelişiminin eğitim ve öğretim yoluyla psikolojik, duygusal ve teknik yönleriyle etkilerine uyum sağlayabilmelidir.
Yönetim
Yapay zekânın yönetiminde aşağıdaki ilkeler izlenmelidir:
En Yüksek Seviyede İstihdam: Yapay zekânın insan istihdamı üzerindeki potansiyel etkisine yönelik kapsayıcı bir tutum benimsenmelidir. Hâlihazırdaki insan istihdamı üzerinde önemli etkiye sahip olabilecek yapay zekâ uygulamalarının kullanılmasının teşvik edilmesine özen gösterilmelidir. İnsan-makine işbirliğinin araştırılması teşvik edilmeli ve insan avantaj ve özelliklerini tam anlamıyla ortaya çıkarabilecek yeni işler yaratılmalıdır.
Uyum ve İşbirliği: Bilimler arası, disiplinler arası, sektörler arası, kurumlar arası, bölgeler arası, küresel ve kapsamlı bir yapay zekâ yönetimi ekosistemi oluşturmak için aktif olarak işbirliği yapılmalı; kötü niyetli rekabetten kaçınılmalı; yönetim deneyimi paylaşılmalı ve yapay zekânın oluşturduğu etkilere karşı koyabilmek için ortak yaşam kavramından en iyi şekilde istifade edilmelidir.
Uyum ve Yeterlilik: Yapay zekânın gelişimine uyum sağlamak için, yapay zekâ kriterlerinin, politikalarının ve düzenlemelerinin uyarlanabilir yenilenmesi aktif olarak göz önünde bulundurulmalıdır. Yapay zekâ yönetim önlemleri, sadece rasyonel kullanımını engellemeyen, aynı zamanda toplumun ve doğanın çıkarlarını da sağlayan yapay zekânın gelişimi ile eşleştirilmelidir.
Detaylandırma ve Uygulama: Yapay zekâ gelişiminin özel durumu farklı senaryolarda ve alanlarda aktif olarak göz önünde bulundurulmalı, daha spesifik ve ayrıntılı kılavuzlar oluşturulmalı, yapay zekâ kriterlerinin ve kurallarının uygulanması teşvik edilmeli, yapay zekâ geliştirme ve uygulamaları yaşam döngüsü boyunca yapay zekâ ilkelerinin ve kurallarının uygulanması teşvik edilmelidir.
Uzun Vadeli Planlama: Gelecekte yapay zekânın her zaman topluma ve doğaya faydalı olması yönünde gelişim sağlamak için gelişmiş zekâ, genel zekâ ve süper zekânın potansiyel etkisine ilişkin sürekli araştırmalar teşvik edilmelidir.