Yapay Zekânın Hükmü

 

“Süper akıllı bir cini sonsuza kadar şişede kilitli tutma yeteneğimize güvenmemeliyiz. Er ya da geç dışarı çıkacaktır… Mesele, yapay süper zekânın nasıl yaratılacağını bulmak. Öyle ki – kaçtığında bile, bizimle aynı değerlere sahip olduğu için bizim tarafımızda kalsın ve emniyetli olsun.”    –Nick Bostrom

Modern bilgisayar ve bilişim bilimlerinin en büyük öncülerinden bilgisayar mühendisi, matematikçi ve kripto-şifre çözme uzmanı Alan Turing, 1940’larda yapay zekâyı : insanlarla ortak bir dil konuşabilen ve insanlar gibi düşünebilen akıllı makineler üretme bilimi ve mühendisliği olarak tanımladı. İlk yapay zekâ denemeleri 1950’de ABD ordusu için hava savaşı senaryoları simülasyonunda yapıldı.

ABD Hava Savunma Yönetim Merkezi’nde yapılan savaş simülasyonu

 

ABD başkanı Johnson, Vietnam savaş oyunları deneylerinde, 1964, Life Dergisi. Getty Images

Aynı dönemde IBM bilgisayar şirketi, satrançta insan rakibini şah mat edebilecek makineyi icat etti. 1997’de işlemeye başlayan Deep Blue adlı bilgisayar programı, o dönem dünya satranç şampiyonluğunu elinde tutan Gary Kasparov’u mağlup etti.

IBM programcısı ve satranç oyuncusu A. Bernstein, IBM 704 bilgisayarın önünde çalışırken. 1958, Life Dergisi Kolleksiyonu, Getty Images

 

2015, yapay zekâ tarihçesinde bir dönüm noktası oldu.  Google, Amazon ve Microsoft, üç teknoloji devi, insan beynindeki nöron ağlarının modelini çoğaltarak ve mümkün olduğunca insan beynine benzeyen nöron bağlantı sistemini yapay zekâ ünitesine yerleştirdiler, ve böylelikle “Deep Learning” projesini başlatmış oldular. Bu yeni sistem insana eş üstünlükte planlanmıştı; insan gibi konuşuyor, yüzleri tanıyordu. İnsanın duygularını ve düşüncelerini hem rahatlıkla çözebiliyor hem de bunlara göre uyumlu yanıtlar verebiliyordu. Üstelik insan davranışlarını ve karar verme süreçlerini anlayabilen düzeyde tasarlanmıştı. Alexa gibi yeni dijital asistanlar, Amazon deposunda insan gücüne gerek duymayacak şekilde çalışan robotlar, gelişmiş video oyunları, GPS sistemleri, sosyal ağ araçları, Google tercüme ve tıbbi teşhis gibi bir çok farklı uygulamanın telefon ve bilgisayarda kullanımı artık yeni dönemin başlangıcıydı.

Askeri güçler ve ileri teknoloji şirketleri tarafından büyük bütçelerle desteklenen yapay zekâ gelişimindeki yükseliş, toplumların ve insanlığın geleceği ile ilgili ciddi endişeleri de tetikledi. Fizik ve toplum bilimciler, özellikle Stephen Hawking “yapay zekânın tam kapasitede gelişim ve kullanıma ulaşması halinde insan ırkının sonunu getirebileceği” konusunda uyardı.

Endişelere sebep olan gelişmeler arasında dijital bilgilerimizin mahremiyeti, göz bebeği hareketinden, cilt ısısı veya ses tonuna kadar duygularımızı ve düşüncelerimizi okuyabilen, insan gibi düşünebilen makineler, yapay zekânın öngörülemeyen özellikleri ve ileride meydana gelebilecek olası kontrol kaybı başta geliyordu. Dahası, uzmanlar, yarattıkları insanüstü (transhuman) robotun, ileriki bir aşamasında yaratıcısını yönetmek hatta ona karşı isyan etmek isteyebileceği ihtimalinden söz ederken tıpkı filmlerde olduğu gibi robotun yaratıcısı olan insana karşı :

“Sen benim yaratıcımsın, ama ben senin efendinim, – bana itaat et!”  tarzında konuştuğu bir Frankenstein distopyasıyla sonuçlanabileceğinden endişe duymaktalar.

Kontrol dışındaki bu tür potansiyel riskleri düşürmek amacıyla uzmanlar, yapay zekâ ünitelerinin işletme sistemlerine insani değerleri kodlamanın yollarını ararken, robotların bu değerleri anlamasını ve buna göre yanıt vermesini sağlayabileceklerini umuyorlar. Ancak bir taraftan insani değerlerin çok ayrıştığı, hatta kutuplaştığı günümüzde, insanlığın ortak evrensel değerlerini tekrar hatırlamaya ihtiyaç varken diğer taraftan da insanın verdiği kararların her zaman tutarlı veya rasyonel olmadığı gerçeğiyle de karşı karşıyalar… Biz kendimiz daha insanlığımızı tamamlama aşamasındayken, dünyanın farklı kültürlerinde, farklı kişilerin istek ve amaçlarına hizmet edecek şekilde tasarlanan zeki robotlara ve insanüstü yaratıklara insani değerleri kodlamayı uman uzmanların hangi ortak değerlerde buluşabilir sorusunun cevabı henüz bilinmiyor.

Yapay zekâ alanında hızlanan gelişmelere bakarak önümüzdeki beş on yıl içinde bizi bekleyen değişimlere dair bilim insanları, âlimler ve filozofların sorguladığı noktalardan bazıları :

• Yapay zekânın işletim bilgilerine kimler erişebilir? Araştırmadan ve ilerlemelerden kimler sorumlu olacak?

• Kodlanacak ahlaki ilkeler ve evrensel değerler üzerinde fikir birliği sağlanacak mı?

• Yapay zekâ araştırma bulguları ve kodlama kriterleri şeffaf biçimde paylaşılacak mı, ünitelerin insanca işletme koşulları sağlanacak mı?

• Araştırma kapsamı ve kullanım önceliği günümüzde olduğu gibi sadece askeri amaçlı ve birkaç büyük yüksek teknoloji şirketinin inisiyatifinde mi devam edecek ?

• Yapay zekâya erişim ve kullanımındaki farklılıklar neticesinde bölünmüş toplumlar sosyal, ekonomik ve insani ilişkiler açısından nasıl işleyecek?

• Sonuçta insanüstü yaratıklar, sistemlerine işlenen kodu aşar kontrol dışına çıkarsa kendisi tarafından bilinmeyen bir kapatma cihazı veya düğmesi olacak mı?

Bu soruların üzerine birkaç fizik bilimcinin iyimserliğini koruyan görüşü neyse ki insanın yüreğine ferahlık veriyor :

Tüm bu ilerleme, gelişme, yükselme güdülerinin arasında, daha derinde yatan insan vicdanı ve bilinci, doğruyu bulma ve iyileştirme güdüsünü harekete geçirir ve böylece insani akıl bilimle el ele vererek, iktidar ve öldürme güdüsünün önünde durabilir.   

 

Duygu Bruce
10 Nisan, 2020

Kaynaklar:

Eski fotoğrafların tümü: Expositions Neurons- Les Intelligences Simulées, Yapay Zekâ Sergisi,  Centre Pompidou, Paris, 2020

https://interestingengineering.com/the-transhuman-revolution-what-is-it-and-how-we-can-prepare-for-its-arrival

https://www.ge.com/reports/will-artificial-intelligence-do-great-harm-or-great-good-interview-with-marcelo-gleiser-of-dartmouth-college/