İnsanlar neden Yapay Zeka konusunda aniden endişelenmeye başladılar? Y-08

Medya, 2014 yılından itibaren, Stephen Hawking, Elon Musk, Steve Wozniak ve Bill Gates gibi tanınmış isimler tarafından dile getirilen endişeleri haber yapmaya başladı. Bu haberler genellikle “yaklaşmakta olan tehlike” tarzında kısa açıklamaları alıntılamakta fakat “Yapay Zekanın varoluşsal riski nedir?” başlığı altında tarif edilenlere benzer kaygıların altında yatan gerçek nedenleri içermemektedir. Bu tip kaygıların çoğu Nick Bostrom’ın “Superintelligence” kitabındaki okumalara dayanmaktadır. Bu konuya ilişkin ilgi dalgasının bir diğer nedeni de “Yapay Zeka” alanındaki ilerlemenin hızlanıyor gibi görünmesidir. Muhtemelen bu ivme, yapay zekanın farklı kullanım alanlarına bağlantılı teorik temelin daha da somutlaştırılarak daha bir bütüne bağlanması ve akademik çalışmaların seviyesinin yapay zekanın dünyadaki gerçek sorunları çözebilecek kaliteye gelmesinden dolayı yapay zeka araştırmalarındaki ticari yatırımların hızlı bir şekilde artması gibi bazı faktörlerin birleşiminden kaynaklanmaktadır.

Yanlış Bilinenler:

! İnsanlar bu kadar endişeliyse, süper akıllı yapay zeka eli kulağında demektir: Yapay Zeka araştırmacılarının çok azı süper akıllı makinelerin çok yakında olduğunu düşünmektedir. Fakat bu durum, konuyu ciddiye almak için onların gelmesini beklememiz gerektiği anlamına gelmez! 50 yıl içinde dünyaya çarpma ihtimali olan 10 mil genişliğinde bir asteroit keşfetsek, el sallayıp "Seni 5 yıl kala dikkate alacağım" diyebilir miyiz?

Yapay Zeka önümüzdeki yıllarda nasıl bir ilerleme gösterecek?

Yapay Zekanın, önümüzdeki 10 yıllık süreçte, genel olarak insan düzeyinde muhakeme ve zeka gerektirmeyen alanlarda belirli bir olgunluğa ulaşacağı ve güvenilir yüksek kalitede ürünler yaratacağı muhtemeldir. Bunların arasında konuşma tanıma, basit olgusal materyaller içinden bilgi çıkarma, nesnelerin ve davranışların görsel olarak tanınması, gündelik nesnelerin robotik manipülasyonu ve otonom sürüş sayılabilir. Metin ve video anlama sistemlerinin kapsamını ve kalitesini genişletme - arttırma ve hizmet robotlarını daha sağlam ve genel olarak yararlı hale getirme çabaları, tüm bu yöntemler arasında öğrenmeyi ve performansı bir araya getirerek sağduyulu bilgi sergileyen sistemlerin oluşturulmasına yol açacaktır. Bilimsel bilgiyi edinmek ve düzenlemek ve karmaşık hipotezleri yönetmek için uzmanlaşmış sistemler, muhtemelen moleküler biyoloji, sistem biyolojisi ve tıp gibi alanlarda çok önemli bir etkiye sahip olacak; sosyal bilimlerde ve politik oluşumlarda, yani özellikle insan faaliyetleri ile ilgili makine tarafından elde edilebilir verilerdeki ve güvenilir olduğu sürece insani değerleri anlayan makinelere olan ihtiyaçtaki büyük artışın olduğu alanlarda da benzer etkileri görmeye başlayabiliriz. Kamu ve özel bilgi kaynakları - sadece veri depolarını değil gerçek dünyayı bilen ve akıl yürüten sistemler - toplumun ayrılmaz bir parçası olacaktır.

"Değer uyumlaştırma" nedir? Önemi nedir?

Değer uyumlaştırma, makinenin en uygun seçiminin, kabaca, insanları en mutlu kılan seçim olması için makinelerin değerlerini (amaçlarını) insanınkilerle eşleştirme görevidir. Bu olmadan, süper akıllı makinelerin kontrolümüz dışında kalma ihtimali, ihmal edilemez bir risktir.

Yanlış Bilinenler:

! Tek ihtiyacımız olan Asimov kanunlarıdır: Asimov'un kanunları temelde bir IOU'dur (I owe you: sana borçluyum): Bir insana, çeşitli hikaye konularının temelini oluşturmak için yeterince mantıklı oluşumlar sunar, ancak daha fazla detaylandırılmadığı sürece bir robot için neredeyse hiçbir faydalı bilgi taşımazlar. Fayda fonksiyonu olarak değil, bir dizi kural olarak temel yapıları problemlidir: sözlük bilimsel yapıları (örneğin, insanlara verilecek herhangi bir zararın, robotların tamamının zarar görmesinden kesinlikle daha önemli olduğu gerçeği), herhangi bir belirsizlik veya feragat (bir şeyi elde etmek için başka bir şeyden vazgeçme) için herhangi bir yer olmadığı anlamına gelir. Bu durumda bir robot, daha sonraki zamanlarda insanı ısırabilecek bir sivrisineği yakalamak için kendisini yok eden bir uçurumdan atlamak zorunda kalabilir. Dahası, belki de arabanın kapısını da tamamen bloke etmesi gerekebilir, çünkü kapı arabaya binerken insanın zarar görme riskini arttırır. Son olarak, insan kaynağını maksimize etmeye hedefleyen bir yaklaşımla, üçüncü yasaya (robotun kendi kendini koruması) gerek yoktur, çünkü kendi varlığını korumayan bir robot, insan yararına katkıda bulunamaz ve kesinlikle sahibini hayal kırıklığına uğratır.