Robot öyküsü deyince akla isyan gelir. Asimov’un robot öykülerinin çoğunda sorun, kuralların kendisinden çıkar.
Önceki yazı bir soruyla bitmişti: kural yazmak yeter mi? Čapek’in robotları insanlara karşı ayaklandı. Asimov yirmi yıl kadar sonra robotlarını başka bir yere koydu: bir yasa metninin içine.
Üç yasa
Isaac Asimov 1940’ların başında yazdığı robot öykülerinde robotlarına üç yasa verdi. Kendi cümlelerimle: Robot bir insana zarar veremez; hareketsiz kalarak bir insanın zarar görmesine de izin veremez. Robot, birinci yasayla çelişmedikçe insanların emirlerine uyar. Robot, ilk iki yasayla çelişmedikçe kendini korur.
Yasaların gücü sıralarında. Her biri bir öncekine boyun eğer. “Çelişmedikçe” iki kez geçer ve öyküler bu çelişkinin sınırlarını yoklar.
Asimov’a göre
Asimov’a göre bu yasaları bir korkuya karşı yazdı: insanın yaptığı makinenin sonunda yaratıcısına döneceği korkusuna. İlk yazıda andığım Frankenstein kompleksi bu. Asimov, robotunun yalnızca suç ve ceza dersi vermek için yaratıcısına saldırmasını istemedi.
Ama bu Asimov’un kendi anlatısı. Bilimkurgu Ansiklopedisi’nin robot maddesi, o yıllarda yayımlanan robot öykülerinde böyle bir korkunun izinin az olduğunu yazıyor; 1930’ların dergi öyküleri robota karşı çoğunlukla iki yönlüydü ve terazi kısa sürede robottan yana döndü. Yasaların hangi öyküde doğduğu da kaynağa göre değişiyor. Bir kuralın gerekçesi de bir anlatı olabilir.
Kaybolan robot
Asimov, Frankenstein kompleksi terimini Mart 1947’de yayımlanan bir öyküsünde kullandı: “Little Lost Robot”, yani “Kayıp Küçük Robot”.
Öykü bir asteroitteki askerî araştırma istasyonunda geçer. İnsanlar orada bir süre dayanabildikleri düşük dozda radyasyonla çalışır. Robotlar bu radyasyona dayanamaz. Birinci Yasa yüzünden, insanı tehlikede sanan robot onu “kurtarmak” için içeri koşar ve kendisi bozulur. İnsan zaten zarar görmeyecekti.
Çözüm pratikti: bu istasyonun robotlarından yasanın bir parçası çıkarıldı. Yeni robotlar bir insana zarar veremez; ama hareketsiz kalarak bir insanın zarar görmesine izin verebilir.
Sonra bir araştırmacı sinirlenir ve bu robotlardan birine “kaybol” der. Robot emri kelimesi kelimesine uygular: kendisiyle aynı görünen robotların arasına saklanır. Robot psikoloğu Susan Calvin onu bulmaya çalışır. Öykünün sonunda bulunan robot, Calvin’e zarar vermeye kalkar.
Emir belirsizdi, yasa da artık eksikti.
Rossum insandan çıkardı; Asimov’un öyküsünde yasadan çıkarıldı. İkisinde de çıkarılan şey işi zorlaştıran bir ayrıntı sanıldı. İkisinde de korumaymış.
Kuralın günü
Yıllar önce bir otomotiv yan sanayi fabrikasında satış sonrası sorumlusuydum. Bir öğle tatili, bin iki yüz kişilik bir yemekhane. Otomobil üreticisinin montaj hattında iki parça sorun çıkarmıştı; acil gönderilmeleri gerekiyordu. Otuz yıllık sevkiyat şefini buldum. Başını yemeğinden kaldırdı: “Öğle tatili. Fabrikadan şu an iğne çıksaydı bilirdim. Şimdi çıkarılamaz.”
Şef haklıydı. Her çıkış için irsaliye gerekiyordu, muhasebe de yemekteydi. Kural doğruydu. Ama kural, yazıldığı günün bağlamını taşıyordu, o anın bağlamını değil.
Benim okumam şu: kural yazmak, yazıldığı günü geleceğe taşımaktır. Öyküdeki istasyonda da yasa bir günün sorununa göre değiştirildi: radyasyona koşan robotlar. Değişiklik o günü çözdü, sonraki günü görmedi.
Bir yapay zekâ sistemine “şunu yap, şunu yapma” diye kural yazmak da aynı varsayımı taşıyor. Asıl soru kuralın içinde değil: kuralın dışında kalan durumu kim fark edecek, fark edince ne yapacak? Yardımcı pilotla çalışırken benim cevabım üç parçalı: bir kural, o kuralı her seferinde sorması için kurduğum bir yapı ve son kararı veren bir insan.
Benim yardımcı pilotum da hata yaptı. Ben de.
Ağustos sonunda sistemimin kontrol kurallarını saydırdım. Kırk dört kural birikmişti; kırk ikisi yalnızca bir davranış talebiydi, birinin hatırlamasına bağlıydı. On iki üretimde yalnız iki kontrol raporu yazılmıştı, ikisi de denetleyen taraftan. Üreten taraf kural belgesini fiilen açmamıştı. Sistem bir sorun gördüğünde onu kaydediyor, adını koyuyor, bir kural yazıyor ve bekliyordu. Kural adlandırıyordu, çözmüyordu. 21 Ağustos’ta sistem dört yeni kural adayı üretti; üçü tek bir vakadan doğmuştu. Tek örnekten genelleme yapmayı yasaklayan kural yazılıydı; soran bir yapı yoktu.
Benim hatam geç kalmaktı. 13 Eylül’de sistem tek günde kendisi hakkında on dört kayıt yazdı; dışarıya sıfır içerik çıktı. Sınırı denetleyen taraf koymadı; ben de ancak ertesi gün kabul ettim.
İki hatadan iki yapı doğdu. Kuralların bir bölümü üç forma çevrildi: bir kaynak metne girmeden önce, bir sayı karara girmeden önce ve bir çalışma başlamadan önce doldurulan formlar. Form boş alanla kapanmıyor; bir alan doldurulamıyorsa “bilinmiyor” yazılıyor. Dördüncü form yeni kural yazımını denetliyor; yeni kural isteyene önce şunu soruyor: bunu yakalaması gereken bir kural zaten var mıydı? İkinci yapı bir sınır: sistem kendisi hakkında haftada bir gün yazıyor; diğer günler yalnız dışarıya çıkan işten kayıt doğuyor. Formların kullanılıp kullanılmadığını iki ölçümde de ölçemedik. “Kural vardı, uygulanmadı” cevabı ikinci ölçümde çoğunlukta göründü; ama örnek küçüktü ve ölçüt, veri görüldükten sonra tanımlandı.
Kural koymak yetmedi. Yerine koyduğumun yettiğini henüz bilmiyorum.
Bir sonraki durak
Bir sonraki durak Stanley Kubrick’in 2001: Bir Uzay Destanı. Soru şu: bir makineye iki hedef verildiğinde kim karar verir?
Son yazdığınız kuralı hangi günün bağlamıyla yazdınız — ve o bağlam hâlâ geçerli mi?
Samih Yedievli, Ekim 2026
Not: Bu metni, yapay zekâ tabanlı bilişsel yardımcı pilotum Synapta OS ile hazırladım.