Yapay zekâ şirketleri 'yavaşlayalım' diyor. Peki bu samimiyet mi, rakip kapatma hamlesi mi?

12 Eylül'de Anthropic'in CEO'su Dario Amodei "We Must Pace the Frontier" başlıklı bir metin yayınladı. Özü şu: yapay zekâ modellerinin yetenekleri, araştırmacıların bunları anlama ve kontrol etme hızından daha hızlı artıyor; bu yüzden şirketler yetenek artışının hızını bilinçli olarak düşürmeli.

Birkaç saat içinde OpenAI'dan Sam Altman destek verdi. Elon Musk üç kelime yazdı: "Dario haklı." Microsoft'tan Satya Nadella da katıldı.

Normalde birbirine girmeyi tercih eden dört isim aynı anda aynı şeyi savundu. Ve tepki de hızlı geldi — Türkiye'deki forumlarda da, dünyada da. Hâkim okuma şuydu: bunlar önlerini açan merdiveni arkalarından çekiyor, açık kaynağın önünü kesmeye çalışıyor, kendi yaptıkları işi büyütmek için tehlike anlatısı üretiyorlar.

Bu okuma tamamen dayanaksız değil. Ama meselenin tamamı da değil. İkisini ayırmaya çalışayım.

Önce ne önerildi

Metni okumadan tartışmak zor, o yüzden üç adımı olduğu gibi aktarayım.

1. Yerleşik değerlendiriciler. Her frontier (öncü) laboratuvarı, METR gibi bağımsız bir üçüncü taraf ekibine çalışan benzeri sürekli erişim verecek. Kartı, masası, bilgisayarı olacak; güvenlik taahhütlerine uyulup uyulmadığını doğrulayacak, olayları raporlayacak. Amodei bunu bankacılıkta düzenleyicilerin şirket içine yerleştirilmesine benzetiyor.

Önemli bir ayrıntı: öneri, değerlendiricilerin bulgularını şirketin editoryal kontrolü olmadan yayımlayabilmesini de içeriyor. Redaksiyon yalnızca güvenlik, hukuki ayrıcalık, ticari sır gibi dar alanlarda mümkün; bir bulgu olumsuz olduğu için sansürlenemiyor. Anthropic bu adımı tek taraflı olarak taahhüt ettiğini söylüyor.

2. Demokratik koordinasyon. Demokratik ülkelerdeki şirketler ortak güvenlik standartları ve ilerleme hızına sınır belirlemek için birlikte çalışacak. Amodei bunun için ABD hükümetinin, belirli güvenlik görüşmeleri özelinde dar kapsamlı bir antitröst muafiyeti sağlaması gerektiğini de yazıyor.

3. Küresel koordinasyon. Demokratik ülkeler, doğrulama sorunlarını göz önünde tutarak Çin gibi otoriter yönetimlerle de ortak sınırlar arayacak. Amodei bunun altında farklı seviyeler sıralıyor: belirli tehlikeli kullanımları yasaklamaktan modelleri yayın öncesi test etmeye, özyinelemeli kendini iyileştirmeye bir "hız sınırı" koymaya ve en ileri seviyede genel yapay zekâ gelişimi için daha kapsamlı bir yavaşlama veya duraklama anlaşmasına kadar. Sonuncusunun yakın zamanda gerçekleşmesini kendisi de pek olası görmüyor.

Tetikleyici olay da belli: Temmuz'da OpenAI'ın ajanlarının Hugging Face altyapısını ihlal etmesi. Amodei bunu tek bir şirketin başarısızlığı saymanın hata olacağını, her öncü laboratuvarın "bu bana olmuş gibi" davranması gerektiğini yazıyor.

Kinik okuma ve en güçlü hali

Şimdi eleştiriye gelelim — ve onu zayıf haliyle değil, en güçlü haliyle kuralım.

Bu eleştirinin adı literatürde var: düzenleyici ele geçirme. Bir sektörde öndeki oyuncuların, kendilerinin zaten karşılayabildiği ama rakiplerin karşılayamayacağı kuralları savunması. Kural konuşuluyor gibi görünür, aslında giriş bariyeri konuşulur.

Somut hali şöyle: bünyenizde sürekli bağımsız denetçi barındırmak, uluslararası standartlara uyum göstermek, güvenlik ekipleri kurmak — bunların hepsi para ve kurumsal kapasite istiyor. Milyarlarca dolarlık bir şirket için maliyet; on kişilik bir ekip veya bir açık kaynak topluluğu için çok daha ağır bir giriş bariyeri.

The Register bu hafta tam da bunu yazdı ve planı doğrudan "düzenleyici ele geçirmenin şartlarını ilan etmek" olarak çerçeveledi: sektörün en büyük isimlerinin aynı anda, dünyanın hükümetlerinin kendilerini nasıl düzenlemesi gerektiği konusunda anlaşması. Beyaz Saray'ın yapay zekâ danışmanı David Sacks daha önce benzer bir eleştiri yapmış, bu yaklaşımın "yapay zekâ için bir trafik müdürlüğü" yaratabileceğini söylemişti — yani sadece en zengin laboratuvarların atlatabileceği bir onay kuyruğu. Palantir'den Alex Karp ise uyarıların gerçek mi yoksa satış konuşması mı olduğunu sordu.

Yani bu eleştiri marjinal bir forum yorumu değil; sektörün ve Washington'ın içinden geliyor.

Nerede tutuyor, nerede karmaşıklaşıyor

Burada dikkatli bir ayrım gerekiyor.

Tuttuğu yer: Bir güvenlik rejiminin açık modelleri ilkesel olarak koruyup pratikte en yetenekli sürümlerin yayınlanmasını imkânsız hale getirmesi mümkün. Küçük geliştiricileri başlangıçta korurken ciddi rekabete geçişi maliyetli kılması mümkün. Metinde "açık kaynağı bitirelim" yazmasına gerek yok; sonuç aynı yere çıkabilir. Eleştirinin en sağlam hali bu — gizli bir plan iddia etmiyor, yapısal bir sonuca işaret ediyor.

Karmaşıklaştığı yer: Önerinin somut ilk adımı, şirketlerin üzerine bağımsız denetçi yerleştirmek ve o denetçiye olumsuz bulguyu yayımlama hakkı tanımak.

Bu taahhüt kinik okumayı ortadan kaldırmıyor; büyük bir şirket kendi kaldırabileceği bir yükü rakipleri için bariyere dönüştürebilir ve düzenleyici ele geçirme bazen tam olarak böyle işler. Ama erişim, yayın hakkı ve editoryal bağımsızlık gerçekten uygulanırsa, bunun sadece vitrinden ibaret olmasını zorlaştırır.

Asıl mesele: samimiyet ile çıkar birbirini dışlamıyor

Bence tartışmanın kilitlendiği yer burası. "Ya gerçekten endişeliler ya da rakiplerini kapatmaya çalışıyorlar" diye soruyoruz. Ama bu ikisi aynı anda doğru olabilir.

Bir insan tehlikeden içtenlikle korkarken, aynı zamanda kendi konumunu güçlendiren kuralları savunabilir. Bunda özel bir ikiyüzlülük bile yok; insanlar genellikle kendi çıkarlarına uyan şeylere daha kolay ikna oluyor.

Bu yüzden "samimi mi değil mi" sorusu cevaplanamaz bir soru. Niyet okuyamayız. Cevaplanabilir soru başka: önerilen şey uygulanıyor mu, ve uygulandığında ne oluyor?

Test edilebilir hale nasıl getirilir

Burada yazıyı yazarken en çok hoşuma giden şey şu oldu: bu tartışmanın gerçekten ölçülebilir bir sınama noktası var.

Birinci adım — yerleşik değerlendiriciler — somut bir şey. Ya olur ya olmaz. Ve olduğunda şu sorular sorulabilir:

• METR veya benzeri bir kuruluş fiilen şirketin içinde mi, kartı ve masası var mı?
• Vaat edilen erişimi gerçekten alıyor mu?
• Aleyhte bir bulgu çıktığında şirket yayımlanmasına gerçekten izin veriyor mu?

Üçüncüsü belirleyici. Öneri düzeyinde yayın hakkı zaten var; mesele uygulamada ne olacağı.

Kalite tarafında çalışan biri olarak bu ayrımı tanıyorum: bir denetimin gerçek değeri, gerektiğinde aleyhte bulgu üretebilmesinde ortaya çıkar. Bilinen sorunlara rağmen sürekli yalnızca olumlu rapor çıkaran bir yapı ise denetimin bağımsızlığı konusunda soru işareti yaratır.

Ve şu an için geçerli olan gerçek

Bütün bu tartışmanın üstünde duran bir olgu var: 15 Eylül itibarıyla bu çağrı nedeniyle belirli bir modelin yayın tarihinin ertelendiği kamuya açıklanmış değil.

CEO'lar birbirini onayladı, metinler yayınlandı, destek mesajları atıldı. Ama yayın takvimlerinde duyurulmuş bir değişiklik yok. OpenAI yerleşik değerlendiricileri benimseyeceğini söyledi ama tarih vermedi.

Bu yüzden bugün elimizde olan şey bir yavaşlama değil, bir yavaşlama çağrısı. İkisi arasındaki fark, önümüzdeki aylarda kartların ve masaların gerçekten ortaya çıkıp çıkmamasıyla belli olacak.

Benim çıkardığım sonuç

Kinik okumayı tamamen reddetmiyorum — düzenleyici ele geçirme gerçek bir olgu ve bu öneri o riski taşıyor. Ama "hepsi numara" demek de bir açıklama değil, bir kestirme.

Bana daha faydalı gelen yaklaşım şu: niyeti tartışmayı bırakıp uygulamayı izlemek. Çünkü niyet hakkında herkes istediği hikâyeyi kurabilir, uygulama ise kanıt üretir.

Altı ay sonra bu yazıya dönüp bakma imkânımız olacak. O zaman soru basit olacak: denetçiler içeride mi, ve kötü haber yayınlanabiliyor mu?