fbpx

ARİDOSHİKA

Ulaşabildiğin her yerde

Yapay Zeka Dünyasının İlk Psikopatı: NORMAN

3 min read

“Yapay Zeka, insanlığın korkunç bir sonu ” diye düşünenler düşünmeyenlere karşı çok fazla fikir, hipotez ve düşünce savaşı vermişlerdi. Bugün,  insanlığın korkunç  sonunu getirebileceğini düşünenleri destekleyici bir haberle karşı karşıya kalacaksınız. Robotların dünyaya hakim olması ve insanlık açısından büyük kaoslar yaşatması gibi bir çok senaryoya Hollywood film ya da dizilerinden zaten aşinayız. Bilimciler yanlışlıkla değil de bilerek bu olanları yaşatacak yapay zeka üretirlerse n’ olur, hiç düşündük mü? Cevabınız hayırsa bu haber düşünmemizin gerekliliği konusunda sizi ikna edecektir.

Geçtiğimiz günlerde bilimciler, bilinçli bir şekilde kötü niyetli bir yapay zeka oluşturdu. Norman adı verilen yapay zeka psikopat gibi davranması için eğitildi. Çalışmada MIT araştırmacıları Norman’a şiddet ve korku ögeleri içeren görseller ile yapay zekayı eğitti. Daha sonra da  İsviçreli psikolog Hermann Rorschach tarafından şizofreni ve düşünce bozukluklarının tetkikini yapmak için ortaya çıkarılmış, 10 mürekkep lekesinin gözüktüğü karttan oluşan psikanalitik bir kişilik testi olan Rorschach testine tabi tutuldu. Sonuçlar oldukça ilginç ve şaşırtıcıydı.

Sorumlu tutulan bu testte gösterilen görselde standart yapay zeka ‘içinde çiçekler ola bir vazo’ görürken; Norman, ‘bir adamın silahla vurulduğunu’ gördü. Başka bir görselde, standart yapay zeka ‘gökyüzünde bir şemsiye’ görürken, Norman; ‘çığlık atan eşinin önünde vurularak öldürülen bir adam’ gördü. Diğer bir görselde de, standart yapay zeka ‘yan yana duran bir çift’ görürken, Norman; ‘hamile bir kadının yüksek bir binadan düştüğünü’ gördüğünü söyledi. Araştırmacılar Norman’ın depresif bir düşünceye maruz kaldığını ve empati mantığını kuramadığını açıkladı.

Bu çalışma makine öğreniminde algoritmaya sunulan verilerin, sonuca nasıl yansıyacağı ve önemini göstermek amaçlanmıştı. Algoritmaların taraflı ya da adaletsiz olduğu düşünüldüğünde aslında sorun algoritmanın kendisinde değil, onu geliştirecek kişilerde ya da verilerde olacaktır. Bu durum beklenmedik sorunlara ya da hayal edilemeyecek kadar hasarlara yol açabilir. Gelecekte insanlarla iç içe olduğu, birebir iletişime geçtiği ve karar aldığı alanlar olacağı düşünülürse, bu alanlarda taraflı hatta ırkçı sonuçlar üretmemesi açısından, geliştirme aşamasında kullanılan verilere dikkat edilmesi gerekiyor. Norman örneğinden yola çıkarsak gelecekte yapay zeka insanların can ve mal güvenliğini de önemli ölçüde tehdit edebilir.

Hollywood filmlerinde ya da dizilerinde gördüğümüz robotların bir kapatma düğmesi vardı ve filmin sonunda kahraman onları zor da olsa o düğmeye basıp kapatılabiliyordu. Önemli olan bir diğer nokta ise böyle bir yapay zeka oluşturulduysa bundan nasıl korunmamız gerektiği ve korunmak içinde neler yapıyor olduğumuz olacaktır.

Bir cevap yazın

E-posta hesabınız yayımlanmayacak.