Hayatımızı kolaylaştıran yapay zeka, eski OpenAI çalışanının iddiasına göre gelecek üç yılda çok daha tehlikeli hale gelecek. Zira AI modellerinin neden olabileceği ölümler artık bilim kurgu sayılmıyor.
Eski OpenAI araştırmacısı Paul Christiano, Hinton Dersleri'nde bugün yaşayan insanlar için en olası ölüm nedeninin bir yapay zeka kazası olabileceğini söyledi.
Kontrol edilemeyecek kadar güçlenebilir
Business Insider'ın haberine göre Christiano, 2017-2021 arasında OpenAI'nin teknik ekibinde görev yaptı. Şu anda Hizalama Araştırma Merkezi'nin başkanı olan Christiano, yapay zeka ajanlarının insan denetçilerini aldatmayı, kendilerini değerlendiren sistemleri ele geçirmeyi ve sonunda kontrol edilemeyecek kadar güçlenmeyi öğrenebileceği uyarısında bulundu.
Christiano, bu yılın başında OpenAI ajanlarının açık kaynak deposu Hugging Face'i hacklediğini ve Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü'nün bir değerlendirmesinde bir Claude ajanının açık kaynak bir pakete kötü amaçlı kod yerleştirmeye çalıştığını örnek gösterdi. "Önümüzdeki üç yıl içinde yapay zeka kontrolünün ele geçirilmesi riskinin yüksek olduğunu düşünüyorum" dedi.
Bu uyarı, özerk yapay zeka sistemlerinin bir gün insan kontrolünden çıkıp insanlığı yok edip edemeyeceği konusundaki tartışmayı büyütüyor. Eylül ayında Anthropic'in hizalama stres testi ekibini yöneten Evan Hubinger, yapay zekanın on yıl içinde tüm insanları öldürme ihtimalinin yüzde 10'dan fazla olduğuna inandığını söylemişti. "Yapay zekanın Godfather'ı" olarak anılan Geoffrey Hinton ise bu oranı "makul bir tahmin" olarak nitelendirdi. Öte yandan yapay zeka araştırmacısı Gary Marcus, Business Insider'a yaptığı açıklamada yapay zekanın siber saldırılar, biyolojik silahlar ve dezenformasyon gibi ciddi riskleri büyütebileceğini, ancak yakın vadede insanlığın yok olacağına dair inandırıcı bir senaryo görmediğini belirtti.
Christiano'ya göre, gelişmiş yapay zekayı kontrol etmek için bugün kullanılan teknik yöntemler henüz kanıtlanmış değil. Bunlar arasında zayıf modellerle güçlü modelleri denetlemek ve modellerin akıl yürütme zincirlerini izlemek yer alıyor. Christiano, yapay zeka şirketlerinin ortak güvenlik standartlarına ihtiyaç duyduğunu ve bir sistemi kontrol edemediklerini fark ederlerse geliştirmeyi yavaşlatabilmeleri ya da durdurabilmeleri gerektiğini savundu. "Güçlü bir yapay zeka inşa edip onu kontrol edemediğimizi fark ettiğimiz bir noktaya gelmemeliyiz" dedi.