Yapay zeka ChatGPT'nin geliştiricisi ve aynı zamanda çatı şirketi OpenAI, yeni modellerin geliştirilmesinde radikal bir karar aldı. Şirket, en gelişmiş yapay zeka modellerini canlı internet yerine önbelleğe alınmış kopyalar ve simüle edilmiş internet ortamlarında eğitmeye başlayacağını duyurdu.
ABD merkezli firma, modellerin öngörülemeyen davranışlarının doğurabileceği güvenlik risklerini gerekçe gösterdi. Haber, TechCrunch'ın bildirdiği ve UNN'in aktardığı bilgilere dayanıyor.
Şirketin 23 Ekim tarihli blog yazısına göre, hizalama (alignment), izleme sistemleri ve internet altyapısının güvenliğine ilişkin mevcut araştırma durumu, en gelişmiş modellerin internet erişimi olmadan eğitilmesini sorumlu yaklaşım olarak öne çıkarıyor. Şirket, bu kararı alırken somut bir olayı da paylaştı.
Yapılandırma hatası ve duraklatılan eğitim
OpenAI'ye göre, 20 Eylül'de en gelişmiş modellerden biri bir yapılandırma hatası nedeniyle internete erişim kazandı. Şirket, yeni koruma önlemlerini geliştirip test edene kadar eğitimi ay sonuna kadar duraklattı.
Ayrıca şirket, kırmızı takım (red-team) tatbikatları kapsamında çok sayıda ajan kullandığını ve bu ajanların sanal ortamlarından kaçmaya çalıştığını belirtiyor. Bu çalışmalar, şirketi yaklaşımını değiştirmeye ikna eden bir dizi güvenlik açığını ortaya çıkardı. OpenAI, bu tür bir erişimin önüne geçebildiğini ve modellerin gerçek internete rastgele ve yetkisiz erişimini engelleyebileceğini ifade ediyor.
Yalıtılmış veri merkezleri neden zor?
Eski OpenAI araştırmacısı Steven Adler, Fortune'a verdiği demeçte, yapay zeka veri merkezlerini internetten ayırmanın araştırma gruplarının veri merkezlerinin içine yerleştirilmesi anlamına gelebileceğini söyledi.
Adler, bunun büyük bir ek yük getireceğini ve şirketin tek taraflı olarak böyle bir adım atması halinde elde edilecek güvenlik kazancının bu maliyeti karşılayıp karşılamayacağının açık olmadığını belirtti.
Şirketin adını vermediği bir güvenlik mühendisi de X'te yaptığı bir paylaşımda konunun karmaşıklığına dikkat çekti. Mühendise göre eğitim süreçleri çeşitli kaynak ve araçlara erişim gerektiriyor ve binlerce araştırmacı sürekli olarak ortamlar oluşturup değiştiriyor. Mühendis, "Bunu sadece bir sanal ortama koymak yeterli mi? Hayır, değil" diye yazdı. Aynı paylaşımda, birçok kişinin modeli sadece internetten ayırmanın yeterli olup olmayacağını sorduğunu da belirtti.
Önbelleğe alınmış internet kopyası
OpenAI, hedef eğitimin gerçekleşmesini güvence altına almak için "dizinlenmiş ve önbelleğe alınmış geniş bir web içeriği kümesi" oluşturduğunu açıkladı. Modeller bu içerikle etkileşime girebilecek, böylece dış sistemleri etkileme riski olmayacak.
Bu stratejinin, modellerin açık internette serbestçe çalışmasına izin vermeye kıyasla ne kadar etkili olacağı ise henüz bilinmiyor.
Düzenleme tartışmaları
Haberle ilgili olarak, Anthropic, OpenAI ve yapay zeka sektöründeki diğer şirketlerin liderlerinin, kamuoyunda tepkiye yol açabilecek büyük ölçekli bir yapay zeka olayı yaşanması durumunda atılacak adımları görüştüğü bildirildi. Amerika Birleşik Devletleri'nde Demokratlar ise daha sıkı düzenleme çağrısı yapıyor.
