Toygun ATİLLA
Frankenstein’ı çoğumuz bir korku romanı olarak biliriz.
Oysa Mary Shelley’nin anlattığı hikâye, bir canavar hikâyesinden çok bir sorumluluk hikayesi değil midir?
Bence, Victor Frankenstein’ın en büyük hatası bir canlı yaratması değildi. Onu yarattıktan sonra ne yapacağını bilememesiydi.
Romanın asıl kahramanı canavar diyorsanız yanılıyorsunuz, insanın kendi icadı karşısındaki çaresizliğiydi.
Mary Shelley’nin Richard Rothwell tarafından 1840’ta yapılan portresi
İki yüzyıl sonra aynı sorun bu kez Silikon Vadisi’nde yeniden baş gösterdi.
Geçtiğimiz günlerde OpenAI, gelişmiş yapay zekâ sistemleri üzerinde yürüttüğü güvenlik testlerine ilişkin dikkat çekici bilgiler paylaştı.
Şirket, otonom yapay zekâ ajanlarının beklenmeyen davranışlarını anlamak için yoğun güvenlik testleri yürüttüğünü, bu süreçte modellerin sınırlarını zorlayan senaryolarla karşılaşıldığını ve güvenlik mekanizmalarının güçlendirildiğini açıkladı.
Bu açıklama teknoloji dünyasında yeni bir tartışmayı yeniden alevlendirdi.
Artık mesele yalnızca daha güçlü yapay zekâ geliştirmek değil.
Onu kontrol altında tutabilmek.
Bu yüzden bugün OpenAI’dan Google DeepMind’a, Anthropic’ten xAI’a kadar bütün büyük laboratuvarlar milyarlarca doları yalnızca daha akıllı modeller geliştirmek için değil, “AI Safety”, yani yapay zekâ güvenliği için harcıyor.
Yeni modeller kamuoyuna sunulmadan önce aylar süren “red team” testlerinden geçiriliyor.
Araştırmacılar modele yardım etmiyor. Tam tersine onu kandırmaya, kuralları ihlal ettirmeye ve güvenlik açıklarını bulmaya çalışıyor.
Sektörün korkusu modelin yanlış cevap vermesinden ziyade yanlış karar vermesi.
Son dönemde yapay zekâ güvenliği literatüründe yeni kavramlar öne çıkıyor.
“Alignment”…
Yani yapay zekânın hedeflerinin insanın hedeflerinden sapmaması.
“Reward hacking”…
Yani sistemin verilen görevi gerçekten yerine getirmek yerine, başarı ölçütünü kandıracak kısa yollar bulması.
Bunlar birkaç yıl öncesine kadar akademik makalelerin konusuydu.
Bugün ise dünyanın en değerli teknoloji şirketlerinin yönetim kurullarında konuşuluyor.
Çünkü yapay zekâ artık yalnızca metin yazmıyor.
Yazılım geliştiriyor, şirket raporları hazırlıyor, yatırım analizleri yapıyor, kimyasal moleküller tasarlıyor, üretim süreçlerini yönetiyor.
Anlayacağınız, İnsanlığın tarihinde ilk kez, kendi adına karar verebilen sistemleri ekonominin merkezine yerleştiriyoruz.
İşte tam bu noktada Mary Shelley yeniden karşımıza çıkıyor.
Frankenstein’daki yaratık aslında doğduğu gün kötü değildi.
Roman boyunca konuşmayı öğrenir.
Kitap okur.
İnsanlarla dost olmak ister.
Onu tehlikeli yapan şey zekâsı değil, kontrolsüz bırakılmasıdır.
Mary Shelley’nin korkusu bilim değildi.
Bilimin sorumsuzca kullanılmasıydı.
Bugün yapay zekâ tartışmasının özü de bu.
Sorun yapay zekânın daha akıllı olması değil.
Sorun, insanın onunla birlikte daha sorumlu davranıp davranamayacağı.
Bence yatırımcılar şirketlere “Kullandığınız yapay zekâyı gerçekten kontrol edebiliyor musunuz?” sorusunu sordukları gün geldi bile…
Belki de geleceğin en değerli şirketleri en güvenilir yapay zekâyı geliştirenler olacak.
Mary Shelley, Frankenstein’ı yazdığında elektrik yeni yeni hayatın içine giriyordu.
Bugün ise yapay zekâ hayatın içine giriyor.
O halde 200 yıldır eskimeyen bir soru ile yazımı bitireyim.
İnsan, kendi yarattığı gücün efendisi olmaya devam edebilecek mi?
patronlardunyasi.com
