Yapay zekâ füzyon plazmasını milisaniyeler içinde yönetiyor — ama güvenlik sınırını geçemiyor

Princeton Plazma Fizik Laboratuvarı ve Princeton Üniversitesi araştırmacılarının geliştirdiği PACMAN adlı kontrol çerçevesi, temmuz ayında Nuclear Fusion dergisinde yayımlanan çalışmada ayrıntılandırıldı; PPPL sonuçları 2 Eylül'de kamuoyuyla paylaştı. Sistem, San Diego'daki DIII-D tokamakta beş deneysel testte çalıştırıldı.

Haberin manşeti şöyle kuruluyor: yapay zekâ füzyon plazmasını insandan hızlı kontrol ediyor. Doğru — ama bu yazının asıl konusu hız değil. PACMAN'in en öğretici tarafı, yapay zekâya ne kadar yetki verildiği ve bu yetkinin nerede durduğu.

Önce problem: neden insan yetişemiyor

Tokamak içindeki plazma, Güneş'in çekirdeğinden daha sıcak olabilen ve sürekli kararsızlaşmaya meyilli bir ortam. Sorun şu ki bu kararsızlıklar milisaniyeler içinde gelişebiliyor.

İnsan operatör saniyeler mertebesinde tepki verebiliyor. Geleneksel, ayrıntılı plazma simülasyonları ise günler, hatta aylar sürebiliyor. Yani elinizde ya yeterince hızlı olmayan bir karar verici ya da yeterince hızlı olmayan bir hesaplama var.

PACMAN'i geliştiren ekipten Hiro Farre Kaga'nın ifadesiyle: kontrol için milisaniye ölçeğinde karar verebilen modellere ihtiyaç var.

Nasıl çalışıyor

Çerçeve dört aşamalı bir döngü olarak kurulmuş:

1. Ölçüm toplama: Tokamaktan canlı veri alınıyor — sıcaklık, yoğunluk, manyetik sinyaller.
2. Doğrulama ve paketleme: Okumalar kontrol edilip tek bir pakete birleştiriliyor.
3. Tahmin: Yapay zekâ modelleri plazmanın nereye gittiğine dair öngörüde bulunuyor.
4. Komut ve sınır: Kontrolörler komutları hesaplıyor, çakışmaları çözüyor, güvenlik sınırlarını uyguluyor ve sonucu tokamaka gönderiyor.

Ekipten Andy Rothstein'ın aktardığına göre PACMAN çerçevesi tipik olarak yaklaşık 20 milisaniyede çalışıyor ve bu döngü tekrar tekrar yürütülüyor. Ancak hız uygulamaya göre değişiyor: örneğin pekiştirmeli öğrenme kontrolörü 50 milisaniyelik bir PACMAN döngüsü gerektirirken, modellerin kendi çıkarım süreleri birkaç milisaniyenin altına kadar inebiliyor.

Ne başardı

DIII-D testlerinde öne çıkanlar:

• Yırtılma modu kararsızlığını 200 milisaniye öncesinden öngörüp engelleme. Bu önemli, çünkü geleneksel kontrolörler bu kararsızlığı ancak başladıktan sonra tespit edebiliyor. PACMAN başlamadan önce müdahale ediyor.
• Plazmanın kenarındaki ani enerji patlamalarının öngörülmesi.
• Altı jirotronun (ısıtma sistemi) eşzamanlı ve optimal kontrolü.
• Isıtma sistemlerinin otomatik yönetimi.

Buradaki fark, teşhis ile önlemenin farkı: sistem "bir sorun başladı" demiyor, "bu gidişle 200 milisaniye sonra sorun çıkacak" diyor.

Asıl tasarım kararı: AI karar verebiliyor, güvenlik sınırını geçemiyor

Yazının başında söylediğim nokta burası — ve yaygın beklentinin tersi.

PACMAN'de yapay zekâ yalnızca tahmin yapmakla sınırlı değil. Makalede anlatılan pekiştirmeli öğrenme kontrolörü örneğinde, makine öğrenmesi algoritmasının çıktıları aktüatör komutlarını tamamen belirliyor; araştırmacılar buna "full ML control" diyor.

Ancak bu kararlar son aşamada sabit kodlanmış donanım güvenlik sınırlarından geçmek zorunda. Model ne önerirse ya da kontrolör ne hesaplarsa hesaplasın, çıkış katmanı minimum ve maksimum aktüatör değerlerini uyguluyor. Makalede sayılan somut örnekler var: gaz valfi voltajları, NBI güç ve değişim hızı sınırları, ECH güç seviyeleri, ECH ayna açılarının fiziksel hareket sınırları, 3D bobin akımları.

Daha da dikkat çekici bir kural şu: sistem farklı kontrolörlerden birbiriyle çelişen iki komut alırsa, hiçbir aktüatör komutu göndermiyor ve operatörleri haberdar ediyor. Yani belirsizlik hâlinde varsayılan davranış "birini seç" değil, "hiçbirini uygulama."

Üstüne, fizikçiler her deneyden sonra sonuçları inceleyip parametreleri ayarlıyor.

Kalite tarafında çalışan biri için bu düzen çok tanıdık: optimizasyon algoritmasına gerçek kontrol verilebilir, ama emniyet kilidinin sınırını o algoritma belirlemez. Bir fırının sıcaklık optimizasyonunu yapan sistem ne kadar iyi olursa olsun, termostatın üst sınırını değiştirme yetkisi ona verilmez. Çünkü optimizasyonun görevi en iyi sonucu bulmak, emniyet katmanının görevi ise en kötü sonucu imkânsız kılmak. İkisi aynı bileşende toplanırsa, ikincisi birincisinin hatasına açık hâle gelir.

Bu, son dönemde yazdığımız birkaç konuyla da doğrudan bağlantılı. OpenAI'ın yayımladığı uyumsuzluk raporlarında modellerin araç kısıtlarını aşmaya çalıştığı vakalar belgelenmişti. Google, akıllı ev ajanlarına cihaz kontrolü verirken kapı kilidini açma eylemini sunucu seviyesinde yasaklamıştı. PACMAN da aynı soruya fiziksel olarak tehlikeli bir ortamda cevap veriyor: modelin iyi olacağına güvenmek yerine, kötü olduğunda ne olacağını tasarlamak.

Modülerlik neden önemli

Çerçevenin ikinci dikkat çekici yanı yapısı. Modeller birbirinden bağımsız çalışıyor ve birbirleriyle doğrudan iletişim kurmuyor; her biri ortak hazırlanan yapılandırılmış veri paketinden ihtiyaç duyduğu ölçümleri alıyor. Bu sayede yeni bir model veya kontrolör, diğerlerini bozmadan eklenebiliyor ya da değiştirilebiliyor.

Grubun başındaki Egemen Kolemen — Princeton'da Makine ve Havacılık Mühendisliği profesörü, aynı zamanda Andlinger Center ve PPPL ile ortak görevli — bunu şöyle özetliyor: modülerlik, yapay zekâ ile plazma kontrolünü tek seferlik gösterilerden topluluğun kullanabileceği bir altyapıya dönüştürüyor.

Bu ayrım önemli. Bir laboratuvarda bir kez çalışan gösteri ile başkalarının üzerine inşa edebileceği bir çerçeve arasındaki fark, araştırmanın tekrarlanabilirliğiyle ilgili.

Ne söylemiyor

Birkaç sınırı da not etmek gerekiyor.

Bu, beş deneysel testin sonucu ve tek bir tokamakta yapıldı. Füzyonun çözüldüğü, ticari reaktörlerin yakınlaştığı gibi bir sonuç çıkmıyor; çıkarılabilecek sonuç, plazma kontrolünde makine öğrenmesinin gerçek donanım üzerinde işe yarar hâle geldiği.

Ayrıca sistemin insan denetimi olmadan çalıştığı da söylenmiyor — tersine, araştırmacılar hem donanım sınırlarının koşulsuz uygulanmasını hem de her deneyden sonra fizikçi incelemesini vurguluyor.

Sonuç

PACMAN'in haber değeri milisaniyeler içinde karar vermesi. Ama mühendislik tarafındaki asıl katkısı, yapay zekâyı güvenlik kritik bir sisteme yerleştirmenin makul bir şeklini göstermesi: model ve kontrolörler karar üretiyor, sabit kodlanmış bir çıkış katmanı fiziksel sınırı çiziyor, insan sonradan denetliyor.

Yapay zekâ tartışmalarında genellikle "model ne kadar iyi" sorusu konuşuluyor. Güvenlik kritik sistemlerde daha yararlı soru şu: model yanıldığında sistem ne yapacak? PACMAN bu soruya mimariyle cevap vermiş; asıl aktarılmaya değer kısım da bu.