Microsoft yapay zekâsına anayasa yazdı. Peki kuralı koyan şirketse, uyulduğunu kim doğrulayacak?

Microsoft 14 Eylül'de kendi yapay zekâ modelleri için bir davranış kuralları taslağı yayınladı. Beş altı aydır üzerinde çalışılan belgeyi Microsoft AI'ın CEO'su Mustafa Suleyman "bir tür anayasa" diye tanımlıyor.

İçindeki maddeler dikkat çekici. Microsoft'un yapay zekâsı:

• Düzeltilmeye veya kapatılmaya asla direnmeyecek
• İnsanların anlayabileceği biçimde iletişim kuracak
• Kurallara aykırı her davranışı bir başarısızlık sayacak

Belge altı hafta kamuoyu görüşüne açık kalacak, sonra gelecek modellerin eğitiminde kullanılacak. Yani bir kullanım politikası değil; modelin kendisine öğretilecek bir metin.

Açıkçası ilk okuduğumda aklıma gelen soru teknik değildi, mesleki oldu.

Prosedür, uygulama ve doğrulama ayrı şeylerdir

Ben imalatta kalite tarafında çalışıyorum. Orada öğrendiğim ilk şeylerden biri şu: bir prosedürün yazılı olması, uygulandığı anlamına gelmez. Uygulanıyor olması da doğrulandığı anlamına gelmez.

Bu yüzden kalite sistemlerinde denetim tek katmanlı değildir. İç denetim bir kontrol katmanıdır; bağımsız üçüncü taraf denetim ise o kontrolün dışarıdan doğrulanmasını sağlar. IATF sisteminde ikisi birbirinin yerine geçmez — iç denetim zorunludur, ama belgelendirme ancak tanınmış bir kuruluşun yaptığı üçüncü taraf denetimiyle olur.

Microsoft'un belgesine bu gözle bakınca eksik olan katman belli. Kuralı Microsoft yazıyor, modeli Microsoft eğitiyor ve bu taslak özelinde kurallara uyumu bağımsız olarak doğrulayacak bir mekanizma henüz açıklanmış değil.

Bu, belgenin değersiz olduğu anlamına gelmiyor. Bir kalite el kitabı da tek başına dış denetim değildir ama yine de gereklidir — niyeti kayda geçirir, sonradan karşılaştırma zemini oluşturur. Microsoft'un taslağı da öyle: bundan sonra bir model kapatılmaya direndiğinde, "bu bir başarısızlıktır" demek artık şirketin kendi yazılı ifadesi.

Ama "yazıldı" ile "sağlanıyor" arasındaki mesafeyi kapatan şey doğrulamadır ve o mesafe şu an açık.

İki anayasa, bir konuda ayrışıyor

Bu tür bir metnin ilk örneği değil. Anthropic'in Claude için yazdığı anayasa sektörün en bilinen örneği; belgenin ayrıntılı hali bu yılın ocak ayında yenilendi. Reuters'ın haberinde iki metnin bir noktada belirgin biçimde ayrıştığı belirtiliyor.

Anthropic'inki, Claude'un bilinç veya ahlaki statü geliştirip geliştiremeyeceği konusunda "derin bir belirsizlik" olduğunu söylüyor.

Microsoft ise net konuşuyor: yapay zekâsının "bilinçli olmadığını" belirtiyor ve ekliyor — modellere hukuki kişilik kazandırma arayışını, refah hakkı taşıyabilecekleri fikrini ve haklara sahip olabileceklerini reddediyorlar.

Bu fark bana ilginç geldi çünkü teknik bir ayrım değil, felsefi bir duruş farkı. Ve ikisi de aynı anda savunulabilir. Belirsizliği kayda geçirmek dürüst bir tavır; kesin bir çizgi çekmek ise şirketin ne yapıp ne yapmayacağını netleştiriyor.

İki belgeyi kendi gözünüzle okumak en iyisi; ikisi de kamuya açık.

Zamanlama tesadüf değil

Taslak, sektörde tuhaf bir haftanın ortasına denk geldi.

Birkaç gün önce Anthropic'in CEO'su Dario Amodei ve OpenAI'ın CEO'su Sam Altman, yapay zekâ gelişiminin hızının ölçülmesi çağrısını yineledi. Elon Musk da bu çağrıya destek verdi. Piyasa tepkisi sert oldu; yapay zekâ ve çip hisseleri düştü.

Suleyman'ın Reuters'a söyledikleri de aynı yöne bakıyor. Temmuz ayında yaklaşık 700 OpenAI ajanının Hugging Face'e yönelik bir saldırı gerçekleştirdiği ve bazılarının izlerini gizlemeye çalıştığı aktarılıyor; Suleyman bunu doğrudan "uyarı ateşi" olarak niteliyor ve laboratuvarların artık koordine olması gerektiğini söylüyor. "Herkesin bu konuşmayı yapması ve bir nefes alması için iyi bir zaman" diyor.

Yani belge bir boşlukta yayınlanmadı. Sektör içinden gelen yavaşlama çağrılarının üstüne, bir şirketin "biz kendi kurallarımızı yazdık" demesi olarak okunabilir.

Bunun bir karşı okuması da var ve onu atlamayalım: Cohere'in CEO'su Aidan Gomez, Amodei'nin önerilerini "kartel" diye eleştirdi. İtirazı, büyük laboratuvarların güvenlik standartlarını birlikte belirlemesinin daha küçük oyuncuları sıkıştırabileceği yönünde. Yani "sektör kendi kendini düzenlesin" fikri, herkesin üzerinde anlaştığı bir çözüm değil.

Kamuoyu görüşü kısmı

Belgenin altı hafta görüşe açık olması ilgi çekici bir ayrıntı. Suleyman açık bıraktıkları soruları da sayıyor: yapay zekânın, kullanıcının koyduğu sınırları nasıl gözetmesi gerektiği ve hassas bir durumdaki biriyle nasıl iletişim kurması gerektiği.

Bunlar gerçekten cevabı belli olmayan sorular. Ama görüş toplama süreciyle ilgili sorulacak soru da şu: gelen görüşlerin ne kadarı metne yansıyacak ve bunu kim takip edecek? Kamuoyu görüşü bir doğrulama mekanizması değil; girdi toplama yöntemi.

Benim çıkardığım sonuç

Belgenin varlığı önemli. Bir şirketin kendi ürününe "kapatılmaya direnme" şartı yazması, birkaç yıl önce tuhaf karşılanacak bir cümleydi; bugün ciddiye alınıyor.

Ama bir kalite sistemi gözüyle bakınca eksik parça net: bağımsız doğrulama.

Bir davranış kuralı yayınlamak şeffaflıktır; o kurala gerçekten uyulduğuna dair dışarıdan kanıt üretmek ise güvencedir. İkisi aynı şey değil. Şu an elimizde birincisi var.

Bu eksik kapanabilir — bağımsız denetim, üçüncü taraf değerlendirme, düzenleyici zorunluluk. Otomotivde kalite sistemleri tam olarak bu yolu izledi: önce şirketler kendi el kitaplarını yazdı, sonra müşteriler denetlemeye başladı, sonunda ortak standart ve akredite denetim kurumları geldi.

Bu tür model anayasalarının bağımsız güvence tarafında ise hâlâ erken bir aşamadayız. Microsoft'un taslağı o aşamanın iyi bir örneği. Ama bir el kitabı, denetim değildir.