Dronlar, otonom silahlar ve katil robotlar nedir? Y-06

Dronlar insanlar tarafından uzaktan kontrol edilen uçaklardır; bazıları insan kontrolü ile serbest bırakılabilecek silahlar (genellikle füzeler) taşıyabilirler. Otonom silah, bir hedefi otomatik olarak seçen ve görevi devreye alan herhangi bir cihazdır (Örneğin, hedefi seçer ve yok etmeye çalışır). Kore DMZ’de (Korean Delimitarized Zone: Kore Sivilleştirilmiş – Askerden Arındırılmış- Bölge) kullanılan kendi kendine hedefleyen yerleşik makineli tüfekler ve gemide taşınan çeşitli füzesavar gibi sistemler bu kapsamda değerlendirilir. İnsan kontrollü drone ünitesinin, tam otomatik bir sistemle değiştirilmesi teknik olarak hızla mümkün hale gelmekte ve bu durum CCW’de (“Konvansiyonel Silahlar” konulu Cenevre’deki Birleşmiş Milletler toplantıları) tartışmalara da konu olan “Öldürücü Otonom Silah Sistemleri”ne (LAWS: Lethal Autonomous Weapon Systems) doğru gitmektedir. "Katil robot" terimi, tekerlekli veya bacaklı araçları, gemileri, uçakları, denizaltıları ve hatta yapay uçan böcekleri kapsayan bir silah sınıfını tanımlamaktadır.

Yanlış Bilinenler:

! Tamamen otonom silahlar 20-30 yıl kadar uzaklıktadır: Cenevre'deki LAWS (Lethal Autonomous Weapons: Öldürücü Otonom Silah Sistemleri) tartışmaları hakkında yazılmış birçok makalede bu iddia tekrarlanmıştır. Kaynağı tam olarak belli değildir ancak aşırı abartılı bir değerlendirme olarak görünmektedir. Otonom silahların konuşlandırılmasına dair teknoloji büyük ölçüde mevcuttur ve mühendislik görevleri açısından sürücüsüz otomobilleri oluşturmaktan çok daha kolay görünmektedir (kısmen silahlar için güvenilirlik gereksinimi çok daha düşüktür). İngiltere Savunma Bakanlığı, deniz angajmanları gibi karışık olmayan ortamlar için “Tamamen Otonom Silahların” (Fully Autonomous Wepons)" muhtemelen şu anda ulaşılabilir olduğunu belirtmiştir.

! Otonom silahlarımız varsa, savaşlarda insanların ölmesi gerekmez: Savaşlar genellikle bir tarafın sürdürülemez kayıplar ya da ülkenin nüfusunu savunma kapasitesinin sona ermesi nedeniyle teslim oluncaya kadar devam eder. Bir ulusun “Tamam, robotlarımız kaybetti, bu yüzden teslim olacağız ve bizi köleleştirebilirsiniz” demesi pek mümkün değildir.

! Makineler savaşçılarla savaşçı olmayanları birbirinden ayırt etmekte insanlardan daha iyidir veya olacaktır, bu yüzden savaşlarda makineleri kullanmalıyız: Birincisi, Uluslararası İnsani Hukuk (IHL: International Humanitarian Law) uyarınca, bir saldırıda sadece ayrım değil askeri gereklilik ve orantılılık (Askeri hedefin değeri ve beklenen hasar değerinin arasındaki orantı) da gerekir. İkincisi, tek sorun “Uluslararası İnsani Hukuk” ile uyumluluk değildir. Otonom silahlar ölçeklenebilir kitle imha silahları olarak işlev görebilirler. Çünkü konuşlandırılan silahların sayısı onları kontrol etmek için gereken insan sayısından tamamen ayrılabilir. Nükleer saldırıdakilerle kıyaslanabilecek zayiatlarla sonuçlanabilecek büyük çapta anti-personel silah sistemleri konusunda özel bir endişe vardır.

Kontrolden çıkmış veya dünyayı ele geçiren katil robotlar için endişelenmemize gerek var mı?

Otonom silahlar konuşlandırıldığında, insan askerlerin karşılaştıkları dostu düşmandan, sivilleri savaşçılardan ayırma gibi zorluklarla karşılaşacaklardır. Sivil ölümlerle sonuçlanan taktik kazalar olabileceği gibi, robotlar üzerindeki kontrol, sinyallerin bozulması veya siber saldırılarla tehlikeye girebilecektir. İkinci sorun nedeniyle, bazı askeri uzmanlar, otonom silahların elektronik iletişim olmadan çalışabilen kapalı sistemler olması gerektiğini düşünmektedirler; bu, sistem yanlış çalıştığında, otonom kontrol ünitesini geçersiz kılmayı zorlaştırabilir. Ancak, öngörülebilir gelecekte sınırlı kapsamda görevler için otonom silahların kullanılacağı da muhtemeldir. Küresel ölçekte kendi planlarını hazırlamak için programlanmış olmaları pek olası değildir (Yani dünyayı ele geçirecek şekilde bir sistemi kendi kendine kurmaları için tasarlanmaları pek olası görünmüyor).

Yanlış Bilinenler:

! Sadece "off" düğmesine basarız: Bir "kapama" düğmesi, herhangi bir otonom silahı siber saldırıya açık hale getirir. Bu yüzden bu tür iletişim kanalları savaşta devre dışı bırakılabilir. Ayrıca, yürütme görevi verilen genel olarak akıllı bir sistem, "kapama" düğmesine basılmasını önleyecek şekilde güdülenebilir.

Kaynak: http://people.eecs.berkeley.edu/~russell/temp/q-and-a.html