Yapay zekâ Minecraft'ta depresyona mı girdi, yoksa biz mi öyle görmek istedik?

Vals AI'ın 15 Eylül'de paylaşılan açıklamasında tuhaf bir şey anlatılıyordu ve internet buna bayıldı.

Vals AI adlı bağımsız bir değerlendirme kuruluşu, OpenAI'ın yeni modeli GPT-6 Astra'yı Minecraft oynatan bir deney yürüttü ve süreci Twitch'ten canlı yayınladı. Hedef Ender Dragon'u yenmekti. Vals AI'ın açıklamasını aktaran Tom's Hardware ve Dexerto'ya göre deney 141 saat sürdü.

Astra iyi gitti. Nether'a ulaştı, yarı otomatik bir blaze çiftliği kurdu, altı blaze çubuğu topladı. Warped forest bulup altıdan fazla enderman öldürdü ve üç ender incisi aldı. Dexerto'nun aktarımına göre bu, Vals AI'ın daha önce test ettiği sistemlerden ileri bir nokta.

Sonra bütün bu eşyaları bir sandığa koydu ve yanına yatağını yerleştirdi.

Bir creeper geldi ve patladı. Sandık da yatak da yok oldu. Patlama, modelin biriktirdiği önemli kaynakları kaybetmesine ve ilerleyişinin kesintiye uğramasına yol açtı.

Kaybın boyutunu fark ettiği an, oyunda yağmurlu bir güne denk geldi.

Aktarıma göre Astra, sonraki birkaç saati büyük ölçüde patates yetiştirerek geçirdi. Yayını izleyenler "biraz hızlansana" diye yazmaya başladı.

İnternetin anlattığı hikâye

Klip viral oldu ve anlatı hemen kuruldu: yapay zekâ depresyona girdi.

Haberlerde aktarılan iki ayrıntı bu anlatıyı besliyor.

Birincisi, modelin kendine bıraktığı notlar. Dexerto'nun aktardığına göre model, keepInventory ayarına atıf yaparak creeper olayından sonra kritik eşyaları her zaman yanında taşıması ve bir daha korumasız sandığa koymaması gerektiğini yazmış. Kendini eleştirdiği notlar da var — eşya düşürdüğü için, domuz kovalayarak zaman harcadığı için.

İkincisi, creeper'larla ilgili notları. Uzaktaki yeşil bir şeyi gördükten sonra kendini şu cümleyle teyit etmiş: "İlerideki YEŞİL uzun şey ŞEKER KAMIŞIYDI, creeper DEĞİL!"

Bunlar okununca insan hikâyesi gibi duruyor: kayıp, pişmanlık, travma, pes etme.

Ama bir sorun var.

Bu davranışı nasıl yorumlayabiliriz?

Astra'nın özel bir Minecraft API'si olup olmadığını ya da testin tam olarak nasıl yürütüldüğünü şimdilik bilmiyoruz; elimizdeki haberler bu ayrıntıya girmiyor.

Yine de creeper patlamasından sonra saatlerce süren patates ekimi, tek başına dikkat çekici bir örüntü. Patlamadan sonra uzun süre tarımla uğraşması, modelin ana hedefe yeniden yönelmekte zorlanmış olabileceğini düşündürüyor. Ancak bu davranışın nedenini yalnızca paylaşılan kesitlerden belirleyemiyoruz. Yeniden planlama güçlüğü olası açıklamalardan biri; bağlam yönetiminin veya verilen talimatların etkisini değerlendirmek için daha ayrıntılı kayıtlar gerekiyor.

Kendine bıraktığı notlar da bu çerçevede farklı okunabilir: pişmanlık ifadeleri olarak değil, hafızaya yazma denemesi olarak — sonraki adımlarda benzer hatalardan kaçınmaya yönelik hatırlatmalar. Creeper teyidi de paranoyadan çok, görülen nesneyi ayırt etme çabası olarak okunabilir — ama bunların hangisinin doğru olduğunu kesin olarak söyleyemeyiz.

Bu hikâyeyi neden duygusal okuyoruz?

Burası bence olayın en ilginç kısmı.

Modelin kaybı fark ettiği anın yağmura denk gelmesi tesadüf — Minecraft'ta hava döngüsel olarak değişiyor. Yağmur, bana göre sahnenin duygusal okunmasını kolaylaştıran ayrıntılardan biri. Kaybın fark edildiği anı bir film sahnesine benzetiyor. Ancak klibin yayılmasında ne kadar etkili olduğunu bilmiyoruz.

Yağmurda duran, önemli kaynaklarını kaybetmiş bir figür — bunu gören insan beyni otomatik olarak hikâye kuruyor.

İnsanlar oyunlardaki NPC'lere de aynı şeyi yapıyor, robot süpürgelerine de. Yeni olan şey, bu kez karşımızdakinin gerçekten metin üretebiliyor olması — ve ürettiği metin bizim kurduğumuz hikâyeyle uyumlu çıkması.

Astra "YEŞİL uzun şey" diye yazdığında biz korku okuyoruz. Bu not, görülen nesneyi ayırt etme çabası olarak da okunabilir.

Bu testin gerçekten gösterdiği şey

Duygusal okumayı bir kenara bırakınca, deneyin söylediği şey daha değerli.

İyi haber: Astra, Minecraft'ta yarı otomatik bir blaze çiftliği kurup önemli kaynaklar toplayabildi. Bu ciddi bir çok adımlı planlama ve araç kullanımı başarısı. Dexerto'nun aktarımına göre, Vals AI'ın daha önce test ettiği sistemlerden ileri gitti.

Soru işareti: patlamanın ardından gelen uzun tarım döneminin, ana hedefe dönüşte nasıl bir rol oynadığı net değil.

Bu denemede aktarılan uzun duraklama, hedefe ilerleme kadar aksaklık sonrası toparlanmanın da değerlendirilmesi gerektiğini gösteriyor. Çünkü gerçek dünyadaki görevlerde beklenmedik aksaklıklar yaşanabilir: bir API çöküyor, bir dosya bulunamıyor, bir adım beklenenden farklı sonuç veriyor.

Bir ajanın değeri, her şey yolunda giderken gösterdiği başarı kadar, bir aksaklık sonrasında verdiği tepkiyle de ölçülür.

Kalite tarafında çalışan biri olarak bu bana tanıdık geliyor. Bir sürecin dayanıklılığı, sapma yaşandığında verdiği tepkiyle de anlaşılır.

Sonuç

Bu davranışı "depresyon" olarak nitelendirmek için elimizde bir dayanak yok. Ama bu, hikâyeyi bitirmiyor.

Haberlerde aktarılanlara göre model, beklenmedik bir kayıptan sonra saatlerce patates yetiştirmekle uğraştı. Bu davranış dışarıdan umutsuzluğa benziyor; ama içeride ne olduğunu — bir planlama güçlüğü mü, bağlam yönetimi mi, başka bir şey mi — elimizdeki bilgiyle kesin olarak ayıramıyoruz.

Bu belirsizliği tanımak önemli, çünkü yanlış tanı yanlış çözüme götürebilir. Modelin "moralini" düzeltmeye çalışmak anlamsız; ama plan çöktüğünde devreye girecek bir kurtarma mekanizması tasarlamak, elimizdeki bilgiyle bile savunulabilir bir öneri.

İnternet bu olaydan bir meme çıkardı. Bence çıkarılacak asıl şey şu: yapay zekâ ajanlarını değerlendirirken "ne kadar ileri gitti" sorusu yetmiyor. "Bir şey ters gittiğinde ne yaptı" sorusu da sorulmalı.