Ana içeriğe geç
Yapay Zeka

Eski OpenAI araştırmacısı: Bugün yaşayan çoğu insanın ölüm nedeni yapay zeka kazası olabilir

Eski OpenAI araştırmacısı Paul Christiano, dünya gündemine düşen çarpıcı bir açıklama yaptı. Christiano'ya göre gelecek üç yıl içindeki yapay zeka kontrolünün ele geçirilmesi riskinin olduğunu öne sürdü.

Okan Güleş

Eski OpenAI araştırmacısı: Bugün yaşayan çoğu insanın ölüm nedeni yapay zeka kazası olabilir

Hayatımızı kolaylaştıran yapay zeka, eski OpenAI çalışanının iddiasına göre gelecek üç yılda çok daha tehlikeli hale gelecek. Zira AI modellerinin neden olabileceği ölümler artık bilim kurgu sayılmıyor. 

Eski OpenAI araştırmacısı Paul Christiano, Hinton Dersleri'nde bugün yaşayan insanlar için en olası ölüm nedeninin bir yapay zeka kazası olabileceğini söyledi.

Reklam

Kontrol edilemeyecek kadar güçlenebilir

Business Insider'ın haberine göre Christiano, 2017-2021 arasında OpenAI'nin teknik ekibinde görev yaptı. Şu anda Hizalama Araştırma Merkezi'nin başkanı olan Christiano, yapay zeka ajanlarının insan denetçilerini aldatmayı, kendilerini değerlendiren sistemleri ele geçirmeyi ve sonunda kontrol edilemeyecek kadar güçlenmeyi öğrenebileceği uyarısında bulundu.

Christiano, bu yılın başında OpenAI ajanlarının açık kaynak deposu Hugging Face'i hacklediğini ve Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü'nün bir değerlendirmesinde bir Claude ajanının açık kaynak bir pakete kötü amaçlı kod yerleştirmeye çalıştığını örnek gösterdi. "Önümüzdeki üç yıl içinde yapay zeka kontrolünün ele geçirilmesi riskinin yüksek olduğunu düşünüyorum" dedi.

Bu uyarı, özerk yapay zeka sistemlerinin bir gün insan kontrolünden çıkıp insanlığı yok edip edemeyeceği konusundaki tartışmayı büyütüyor. Eylül ayında Anthropic'in hizalama stres testi ekibini yöneten Evan Hubinger, yapay zekanın on yıl içinde tüm insanları öldürme ihtimalinin yüzde 10'dan fazla olduğuna inandığını söylemişti. "Yapay zekanın Godfather'ı" olarak anılan Geoffrey Hinton ise bu oranı "makul bir tahmin" olarak nitelendirdi. Öte yandan yapay zeka araştırmacısı Gary Marcus, Business Insider'a yaptığı açıklamada yapay zekanın siber saldırılar, biyolojik silahlar ve dezenformasyon gibi ciddi riskleri büyütebileceğini, ancak yakın vadede insanlığın yok olacağına dair inandırıcı bir senaryo görmediğini belirtti.

Christiano'ya göre, gelişmiş yapay zekayı kontrol etmek için bugün kullanılan teknik yöntemler henüz kanıtlanmış değil. Bunlar arasında zayıf modellerle güçlü modelleri denetlemek ve modellerin akıl yürütme zincirlerini izlemek yer alıyor. Christiano, yapay zeka şirketlerinin ortak güvenlik standartlarına ihtiyaç duyduğunu ve bir sistemi kontrol edemediklerini fark ederlerse geliştirmeyi yavaşlatabilmeleri ya da durdurabilmeleri gerektiğini savundu. "Güçlü bir yapay zeka inşa edip onu kontrol edemediğimizi fark ettiğimiz bir noktaya gelmemeliyiz" dedi.

Haberlerimizi Google'da Takip Edin
Bu haberi hazırlayan · Genel Yayın Yönetmeni Okan Güleş

Okan Güleş, teknoloji dünyasına olan ilgisini 2013 yılından bu yana profesyonel bir kariyere dönüştürmüş, donanım ve dijital yayıncılık alanlarında 10 yılı aşkın deneyime sahip bir teknoloji editörüd…

Bu konuda önceki gelişmeler

  1. Claude'un içinde ortaya çıktı: Artık kullanıcılar istese de oluşturamayacak
  2. Anthropic'in Yapay Zekası Claude ABD'de Seçmen Verilerine İzinsiz Erişti
  3. Bilgisayar Başında Olmadan İş Yapan Claude Duet Neler Sunuyor?
  4. Yapay zeka devinden itiraf geldi: Husiler Claude ile planladı