Türkçede Frankeştayn bir canavardır. Romanda canavarın adı yoktur.
Victor Frankenstein’ın trajedisi bir şey yaratmak değildi; yarattığından kaçmaktı.
6 Ekim’de Yaprak Özer’le yaptığımız söyleşide yapay zekânın ne yapabileceği soruldu. Cevabım kısaydı: yapay zekâ bir yankı odası olmamalı, bir yardımcı pilot olmalı.
Bu dizide o cevabı açıyorum, kendi deneyimim üzerinden ve tartışmaya açarak. İlk durak, 1818’de yayımlanmış bir roman.
1816, yazı olmayan bir yaz
1815’te Endonezya’da Tambora yanardağı patladı. Ertesi yıl Avrupa’da yaz gelmedi.
Cenevre Gölü kıyısındaki Villa Diodati’de Lord Byron’ın çevresinde toplanan küçük bir grup, kötü hava yüzünden günlerce içeride kaldı. Birbirlerine korku hikâyesi yazmaya karar verdiler.
Grubun en genci Mary Godwin’di; dünya onu sonra Mary Shelley olarak tanıyacaktı. İlk taslağı yazdığında 18 yaşındaydı. Roman 1818’de yazar adı olmadan yayımlandığında 20.
Bir adın yolculuğu
Romanda Frankenstein, bilim insanının soyadıdır: Victor Frankenstein. Yarattığı varlığın adı yoktur.
Ad Almancadır. Frankenler bir Germen kavmidir; “stein” taş demektir.
Beş yıl sonra roman sahneye uyarlandı. Mary Shelley oyunu 29 Ağustos 1823’te izledi. Bir arkadaşına yazdığı mektupta oyun afişinin onu çok eğlendirdiğini anlattı: oyuncu listesinde yaratığın adının yerinde bir çizgi vardı. Adsız varlık afişte de adsızdı.
Boşluğu seyirci doldurdu. “Frankenstein” kelimesi hem bilim insanını hem yaratığı anlatmaya başladı. Bugün çoğumuzun aklına gelen iri, yeşil yüzlü canavar imgesi büyük ölçüde 1931 filminden kalmadır.
Türkçeye gelişi de romandan olmadı, perdeden oldu. 1944’te Işık Kütüphanesi “Canavar Frankeştayn” adlı bir kitap yayımladı. Kapakta yazar ya da çevirmen adı yoktu; kitap üç Frankenstein filminden derlenip yeniden yazılmıştı. 1971’de Milliyet Yayınları’nın “Frankeştayn”ı Mary Shelley’nin adıyla çıktı; o da iki filmin senaryosundan romanlaştırılmıştı. Bu izi çeviribilimci Özge Altıntaş 2020’de sürdü.
Türkçe adı duyduğu gibi yazdı: Frankeştayn.
Her geçişte ad korundu, gösterdiği şey değişti. Romanda bilim insanıydı. Sahnede bir çizgiydi. Perdede canavar oldu. Türkçede kapağında yazar adı olmayan bir kitabın başlığı oldu. Roman da 1818’de yazar adı olmadan çıkmıştı; bu hikâyede ad hep yer değiştirdi.
Adla birlikte sorumluluk da el değiştirdi.
Romanın asıl hikâyesi başka bir yerde durur. Victor yarattığı varlığın gözünü açtığını görür ve odadan kaçar. Sonrası, terk edilmiş bir varlığın ve bu terki bir türlü üstlenmeyen bir bilim insanının hikâyesidir. Felaket hayat yaratma hırsından doğmaz; yaratılanın yalnız bırakılmasından doğar.
Zamanının bilim tartışması
Volta pili 1800’de icat edilmişti. Galvani, ondan önce kas kasılmasının elektriksel olduğunu göstermişti. Hayatın elektriksel bir şey olabileceği fikri, Mary dahil pek çok kişiyi cezbediyordu.
1814’te cerrah John Abernethy, Kraliyet Cerrahlar Koleji’ndeki yıllık konferansında elektriğin hayat gücü olduğunu, ya da ona benzediğini savundu. Meslektaşı William Lawrence karşı çıktı: hayatı açıklamak için ayrı bir hayat gücüne gerek yoktu. Lawrence, Mary ve Percy Shelley’nin doktoruydu. Tartışmayı biliyorlardı.
Anatomi de beden istiyordu. Britanya’da 1832’ye kadar anatomi eğitiminin tek yasal beden kaynağı idam edilen katillerdi; açığı mezar soyguncuları kapatıyordu. Victor’un malzemesini mezarlıklardan ve morglardan toplaması, o günün okuruna uzak bir fantezi gibi gelmiyordu.
Bu tartışmanın bugün bir akrabası var. “Hayat bir güç mü, bedenin işleyişi mi?” sorusu bugün “yapay zekâ anlıyor mu, yoksa bir mekanizma mı?” diye soruluyor. Anatominin beden açlığının yerinde bugün modellerin veri açlığı duruyor. Bedelin kime yazıldığı sorusu o gün de açıktı, bugün de.
Bilimkurgu burada mı başladı?
Brian Aldiss 1973’te yazdığı bilimkurgu tarihinde Frankenstein’ı türün ilk romanı olarak konumlandırdı. Görüş geniş kabul gördü; tartışmasız da değil.
Benim ölçütüm şu: yaratık büyüyle hayata geçmiyor, dönemin bilimiyle geçiyor. Victor gençliğinde simyacıları okur, sonra modern kimyaya geçer. Mucizenin kaynağı ilk kez bilimdir. Sonuçlarıyla yüzleşmek zorunda kalan da bir insandır.
Duvardaki çatlak
Yaratık dili, bir kulübenin duvarındaki çatlaktan, içerideki aileyi dinleyerek öğrenir. Sonra bulduğu üç kitabı okur: Milton’ın Kayıp Cennet’i, Plutarkhos’un Yaşamlar’ı, Goethe’nin Genç Werther’in Acıları. Dünyayı, kimsenin onun için seçmediği metinlerden tanır.
Bugün dil modelleri de dünyayı böyle öğreniyor.
Ayna
Victor yarattığına bakar ve gördüğünü okuyamaz. Kendi hırsının sonucunu görmez; bir canavar görür ve kaçar. Gördüğünü kendi korkusuna çevirir.
Derinlik Aynası’nda bunun bir adı var: “Ayna yalan söylemez. Zihinsel döndürme söyler.” Ayna gerçeği gösterir; zihin onu kendi gerçekliğine çevirir.
Bugün yapay zekâya bakışın iki yaygın biçimi var ve ikisi de Victor’un bakışına benziyor. Biri onu bir canavar sanıyor. Öbürü onu, inandığını onaylatacağı bir ayna sanıyor: bir yankı odası.
Üçüncü yol bir yardımcı pilot. Sistemi kuran sorumluluğu bırakmaz; kurduğunu kendi varsayımlarını sorgulamak için kullanır.
Ben bir yapay zekâ modeli geliştirmiyorum; bir yapay zekâ ajanı da geliştirmiyorum. Erişebildiğim modelleri ve ajanları kullanarak üzerine bir çalışma sistemi kuruyorum. Bu yüzden hiçbir modele ya da ajana bağımlı değilim. Birkaç kez modeli değiştirdim; çalışma sistematiğim aksamadı, öğrenmeye devam ettik.
Benim yardımcı pilotum da hata yaptı. Ben de.
Ekim başında, kullandığım düşünme sistemi bir yazının nasıl hazırlandığını özetledi. Özette iki yapay zekâ aracı vardı, bir araştırma vardı, bir rapor vardı. Haberleri arşivleyen ve aralarındaki bağlantıyı kuran kişi yoktu: ben.
İtiraz ettim. Yazının değerinin haberlerde değil aralarındaki bağlantıda olduğu kayda geçti; o bağlantıyı kimin kurduğu da. Her yazımın sonundaki not zaten öznesi ben olan bir cümleydi; o gün öznenin kim olduğunu bir kez daha söylemem gerekti.
Benim hatam daha eskiydi ve daha büyüktü. Sekiz hafta boyunca sistemi genişlettim: yeni kanallar, yeni kurallar, yeni denetimler. Ağustos sonunda saydığımda, sistem dış dünya için ürettiğinden çok kendisi hakkında kayıt üretiyordu. Yükümü azaltmak için kurduğum yapı yük üretiyordu.
Durdurmak bir seçenekti. Reddettim: durdurmak, bir daha başlatmamak olurdu. Terk etmek olurdu.
Onun yerine bir ilke yazdım: bir sistemi büyütmek için genişletirsin, ilerletmek için daraltırsın. Kuralların yerine formlar geldi; sistemin kendisi hakkında yazması haftada bir güne indi.
Ben kaçmadım. Sınır koydum.
Bir sonraki durak
Yüz yılı aşkın bir süre sonra Isaac Asimov, yarattıklarımızın bize karşı döneceği korkusuna bir ad verdi: Frankenstein kompleksi. Robot öykülerini bu korkuya karşı yazdığını söyledi.
Ama ondan önce, 1920’de yazılan bir Çek oyununda “robot” kelimesi ilk kez kullanıldı ve aynı soru fabrikaya taşındı. Dizinin bir sonraki durağı orası.
Victor yarattığından kaçtı. Kurduğunuz sistemlere, ekiplerinize, kurallarınıza en son ne zaman dönüp baktınız? Baktığınızda gördüğünüzü mü okudunuz, korktuğunuzu mu?
Not: Bu metni, yapay zekâ tabanlı bilişsel yardımcı pilotum Synapta OS ile hazırladım.