Yapay Zeka ve Ulusal Güvenlik

Yazan  18 Kasım 2018

Yapay zekânın ulusal güvenliğe dahli, tıpkı yapay zekânın kendisi gibi henüz erken bir evre.

Bu raporun ana amacı, yapay zekâ alanının hâlihazırda ne konumda olduğunu ve başarılı bir yapay zekâ sisteminin kabul ve yönetimini içiren temel etkenlerin neler olduğunu doğru bir şekilde anlayarak, yapay zekânın ulusal güvenlik uygulamalarına başarılı bir entegrasyonuna olanak sağlamak için gerekli birtakım adımları ortaya koymaktır. Bu amacı sağlamaya yönelik olarak gelecekteki bazı analitik çalışmaların tartışılması işte o zaman mantıklı olacaktır.

Bu girişimin temel bulgusu, yönetimde dirençli bir yapay zekâ ekosistemi inşa etmenin önemidir. Bu meselelerin her birini anlamak ve kolaylaştırmak için önemli çalışmalar gerekmektedir. 2019 Mali Yılı John S. McCain Ulusal Savunma Yetki Yasası, Savunma Departmanı personel yönetim sistemine ilişkin iş sahası uzmanlaşmasını artıracak personel vasıtalarının sağlanması gibi yapay zekâyı uygulamaya koymak için gerekli teknik kabiliyetin yetiştirilmesi ve korunmasında uygulanabilecek önemli reformlar içeriyor. Gelecekteki çalışmalar; Savunma Departmanı’nın bu yetkileri kullanarak, hedef işgücü tarafından değer verilen ve hükümetle özel sektör arasında bu hususta mevcut rekabetin devam edeceği teşviklerin sağlanmasına rehber olabilir. Gelecekteki çalışmalar ayrıca yönetimde yapay zekâ ekosisteminin ilerlemesi ve bu açığın bulut bilgi işlemeye erişim, işgücü gelişimi ve eğitimi vb. kabiliyetler gibi en etkin biçimde kapatılması gibi aşılması gereken teknik altyapı açığının kritik alanlarının tanımlanmasına da yardım edebilir.

Yapay zekânın gelişimi Savunma Departmanı’nın yazılım elde etmeye yaklaşım biçiminin önemli derecede geliştirilmesini gerektiriyor. Tam da bu noktada, daha ileri bir çalışma yapım aşamasında. Savunma Bilim Kurulu son zamanlarda bu konuyla ilgili bir çalışmayı tamamladı ve yazılım-tanımlı donanım-bazlı sistemlerin edinilmesiyle alakalı bir çalışma da yapım aşamasında. Gelecek çalışmalar için boşluk olan bir alan da tekrarlı yazılım gelişimi için hükümet ve özel sektör yazılım geliştirme tarafları arasında yer alan başarılı ve kalıcı bir iş modeli tanımlamak. Başarılı bir yapay zekâ elde etmek kadar yapay zekânın nasıl test edileceğinden geçtiğini anlamak da önemlidir. Böylece yapay zekânın doğrulanma ve geçerliliğinin sınanması gerçekleştirilebilir. Savunma Analizleri Enstitüsü bu soruya ilişkin önemli bir araştırma yürüttü, fakat bu hususta başarılı olmak için gereken iş hem pratik hem de teorik seviyede yürütülmeli.

Yapay zekâya ilişkin önemli yasal meseleler hala büyük ölçüde şüpheli. Yapay zekâ kullanımının kötü sonuçları ve yapay zekâ performansındaki hatalara ilişkin sorumluluk tahsisinin nasıl yapılacağı hususundaki anlayış şu anda çok düşük. Ayrıca yapay zekâ tarafından yaratılacak veri ve algoritma gibi fikri mülkiyetlerin kime ait olacağı meselesinde de çok az bir netlik mevcut. Fikri mülkiyete yönelik soruların yanıtı yapay zekâ geliştiricileri için kurulacak olan teşvik yapısı için çok kritik olacak. Ve son olarak, etik bir şekilde yazılım geliştirme ve yapay zekâ istihdamı gelecekteki çalışmalar için hayati bir mesele olarak karşımıza çıkıyor. Bu sadece yapay zekânın savaş kanunlarına aykırı bir şekilde kullanmadığından emin olmayı değil, aynı zamanda birey mahremiyeti ve insan özerkliğini de içeriyor.

Şimdi tüm bunları ve yapay zekâya ilişkin diğer soruları çalışmanın doğru zamanı. Politikacıların yapay zekâ gelişimine yönelik tepkiye gereğine uygun bir şekilde hazır olurken, aynı zamanda bu gelişimi stratejik hedefler için şekillendirmek açısından bu çalışma önem arz etmektedir.

TEMEL BULGULARIN ÖZETİ VE ÖNERİLER

Güven

  • Yapay zekâ şeffaflığının önemi ve gerekliliği uygulamaya özeldir.
  • Güven; algoritmalar, veriler ve çıktılarla karşılanmalıdır.
  • Kullanıcılar sistemlerin aldatılmasına yol açan mekanizmaları anlamalıdır.

Güvenlik

  • Dirençli ve esnek dijital kabiliyet; dengeleyici geliştirme, işlem ve güvenlik gerektirir.
  • Örgütler içinde ve arasındaki ağ risk yönetimi ve siber güvenlik mülkiyeti kültürü kritik derecede önemlidir.

İnsanlar

  • Yapay zekânın uygulanması; saha tecrübesi, teknik eğitim ve gerekli vasıtalara sahip yetenekli ve eğitimli işgücü gerektirmektedir.
  • Örgütler, veri üstünlüğü kültürü inşa etmelidir.
  • Kullanıcıların, makinaların öğrenmesine ilişkin işlerde başarılı olması; yineleme, deneyleme ve erken yaklaşık-optimal performans yoluyla öğrenme gerektirmektedir.

Dijital Kabiliyet

  • Örgütler, yapay zekâ teknolojilerinin (veri tabanı yönetimi, bilgi entegrasyonu vb.) başarılı bir şekilde tatbiki için temel dijital kabiliyetlerini oluşturmalıdır. Bu durum teknik boşluğu kapatmak açısından önemlidir.
  • Bilgi ve analitik vasıtasıyla rekabet avantajı kazanmak, genel merkezden görevdeki askere kadar işletme genelini kapsayan bir kültürel girişimdir.

Politika

  • Etik politika ve standartlar yapay zekâ teknolojilerinin uyarlanması ve uygulanmasına rehber olmalıdır.
  • ABD hükümeti aşağıdaki adımlar yoluyla kendi yapay zekâ ekosistemini güçlendirmelidir:
    • Güvenlik kontrolü ve iş alım yetkileri, işe alan personel için önemli olan yönetim ve erişim meselelerinin bu sürece dâhil edilmesini desteklemek için, yeniden düzenlenmelidir.
    • Hükümetin gelişimsel yazılımı elde etme ve yineleme kabiliyeti, bütçe hazırlama pratiklerini yazılım geliştirmeye uygun olarak değiştirilerek, geliştirilmelidir.
    • Teknoloji ve savunma endüstrisi devlerine ek olarak küçük ve orta büyüklükteki veri bilimi firmalarından da istifade ederek sektöre geniş çaplı giriş yapılmalı, çünkü yapay zekânın soruna dayalı doğası ve bu sahanın erken safhası atılımların nereden geleceğini bilmenin imkânsız olduğu anlamına gelmektedir.
    • Erken safhada AR-GE’ye, özellikle ticari olarak daha az uygun olan ve federal yatırıma ihtiyaç duyan alanlara yatırım yapılmalıdır.
    • Yapay zekâ güveni, güvenliği, açıklanabilirliği, doğrulanması ve geçerliliğine yönelik, yapay zekâ güvenilirliği barajını yükseğe çeken ve birçok yönetim uygulamasının ihtiyaç duyacağı araçlar geliştirilmelidir.
  • Yapay zekâyı güçlendirmek, teknik bilgi ve saha tecrübesinin doğru şekilde harmanlanmasını desteklemek için örgütleri yapılandırmak anlamına gelmektedir.
  • ABD Hükümeti yapay zekâ alanındaki uluslararası etkinliğini anlamalı ve:
    • ABD içinde ve ortak olduğu ülkelerde dirençli yapay zekâ özel sektör ekosistemini saldırılar ve zarar verici yatırımlardan korumalıdır.
    • Ortak ülke kaynaklarını öncelikle ortak hedef, donanım ve veri paylaşımı anlaşmaları vasıtalarıyla bu ülkelerle birlikte çalışırken diğer yandan da bu müşterekliği diğer ortaklarıyla da kurarak korumalıdır.

(Kaynak: CSIS'in Yapay Zeka ve Ulusal Güvenlik; Yapaya Zeka Eko-sisteminin Önemi başlıklı raporunun sonuç bölümünden çeviri yapılmıştır.)

 

Mete Han Kutlusan

21. Yüzyıl Türkiye Enstitüsü
Ortadoğu Araştırmacısı

ÜYE GİRİŞİ

Şifremi unuttum
  1. SON MAKALELER
  2. ÇOK OKUNANLAR

Cahit Armağan Dilek   - 15-10-2019

Dikkat! Türkiye'nin Harekatını Boşa Çıkarıyorlar

Barış Pınarı Harekatının yedinci günündeyiz. Harekatın seyrini ve Suriye'deki gelişmeleri Trump'ın twitleri belirliyor. Bir gün Türkiye lehine ertesi gün Kürtler(!) lehine twitler atıyor.