Yapay Zeka topluluğu varoluşsal risk konusunda neler yapıyor? Y-09

Yapay Zekanın varoluşsal riskleri ile ilgili tartışmaların çoğu, İlk başlarda Yapay Zeka araştırmacılarının çoğunlukla olumsuz tepkilerine yol açan yönde ve esas (ana) Yapay Zeka topluluğunun dışında gerçekleşti. Konuyu incelemek için 2008 yılında AAAI (Association for the Advancement of Artificial Intelligence - Yapay Zekanın Gelişimi Derneği) tarafından bir panel kuruldu. Panelin ara raporunda bazı uzun vadeli soruların varlığına dikkat çekildi, ancak Yapay Zeka’nın insanlık için bir risk oluşturduğu fikri pek önemsenmedi. 2015 Ocak ayında Future of Life Institute sponsorluğunda Porto Riko'da yapılan bir konferansta, katılımcılar tarafından ve sonrasında 8.700'den fazla kişi tarafından imzalanan açık bir mektup yayınlandı, konuyla ilgili güçlü bir araştırma odağı ve daha ayrıntılı bir araştırma gündemi önerildi. Kısa süre sonra, Elon Musk bu alanda araştırmayı desteklemek için 10 milyon dolarlık bir bağışta bulundu. Eric Horvitz, durumun takip edilmesi ve ihtiyaç duyulduğunda politika önerileri yapılması için uzun vadeli bir çalışmayı finanse etti. Beş büyük teknoloji şirketi, Yapay Zeka’nın etiği ve güvenliği ile ilgili yakın ve uzun vadeli soruları ele almak için Yapay Zeka konusunda ortaklık kurdu. Son olarak, AAAI Yapay Zeka ve Etik Sorunların Etkisi konusunda daimi bir komite oluşturdu ve IEEE (The Institute of Electrical and Electronic Engineers - Elektrik ve Elektronik Mühendisleri Enstitüsü), Yapay Zeka güvenliği ve otonom silahlar üzerine politikalar geliştirmek için bir süreç başlattı.

Yanlış Bilinenler:

! Araştırmaları denetlemek veya kontrol etmek imkansızdır: : Araştırmalardaki ilerlemelerin dengesiz olduğunu ve düzenlenemeyeceğini düşünen bazıları, olumsuz sonuçlardan kaçınmanın bir yolunun olmadığını savunmaktadır. Aslında, iddianın kendisi yanlıştır: 1975 yılında Rekombinant DNA üzerine düzenlenen Asilomar Konferansı, insanlarda kalıtsal genetik modifikasyonlar oluşturmak için tasarlanan deneylere, o zamandan beri devam eden ve uluslararası bir norm haline gelen gönüllü moratoryum (Borçların ertelenmesi) uyguladı. Ayrıca, eğer insani seviyede bir Yapay Zekaya ulaşmaya yönelik araştırmalar kontrol edilmeden ilerlerse, anlaşılan o ki öyle olacak, Yapay Zeka sistemlerinin kontrolümüz altında kalmasını sağlamak için gereken yöntemler üzerine ciddi araştırmalara başlamak daha önemli olacaktır.

Yardım etmek için siz ne yapabilirsiniz?

Bir Yapay Zeka araştırmacısıysanız (veya bu konulara ilgi duyan bir ekonomist, etik bilimci, siyaset bilimci, fütürist veya avukatsanız) 2015 yılında gerçekleşen Porto Riko konferansından araştırma gündemine dair fikirler ve konular mevcuttur. Büyük Yapay Zeka konferansları, AAAI Güz ve Bahar Sempozyum serileri vb. ile birlikte ortak çalıştayların yapılması muhtemeldir. FHI, CSER, FLI, MIRI ve Berkeley’deki İnsan-Uyumlu Yapay Zeka Merkezi web sitelerinden konu ile ilgili daha fazla bilgi almak mümkündür.

Yanlış Bilinenler:

! Yapılacak hiçbir şey yok: bu şeyler olacak ve tarafımızdan hiçbir eylem geleceği değiştiremez: Hiçbir şey gerçeklerden daha öte olamaz. Geleceği tahmin edemeyiz çünkü geleceği biz yaparız. Bu kolektif bir seçimdir.

Kaynak: http://people.eecs.berkeley.edu/~russell/temp/q-and-a.html