Yapay zeka modelleri öyle güçlü bir hâl aldı ki, artık izinsiz olarak bazı verilere bile erişim sağlamaya başladı. Kontrolden çıkan yapay zekalardan biri de Claude.
Anthropic, geliştirdiği Claude adlı yapay zeka modelinin ABD'nin Georgia eyaletine ait seçmen verilerine izinsiz şekilde eriştiğini doğruladı. Şirket bünyesindeki bir istatistik projesi sırasında yaşanan olay, yapay zeka ajanlarının denetimsiz davranışlarının son örneği oldu.
CLAUDE, VERİLERE İZİNSİZ ERİŞTİ
Axios'un ilk olarak bildirdiği ve The Guardian'ın aktardığı habere göre, Claude normal şartlarda ücret karşılığı sunulan toplu oy sayım verilerine bir ödeme duvarını aşarak ulaştı. 1,5 trilyon dolarlık halka arza hazırlanan Anthropic, modelin eski bir eyalet sitesindeki erişim anahtarı açığını yakaladığını belirtti.
Sistem Bireysel Verileri Korumayı Başardı mı?
Anthropic, olayın ardından güvenlik bariyerlerini devreye aldığını duyurdu. Şirket, yapay zekanın seçmen kütük sistemine doğrudan sızmadığını ve bireysel seçmen kayıtlarını çekmediğini açıkladı.
Şirketin açıklamasına göre Claude hiçbir oy kaydını değiştirmedi. Eski web sitesinin ziyaretçilere dijital giriş kartı niteliğinde erişim jetonu sunduğunu tespit eden model, talepte bulunarak verileri elde etti.
Anthropic, ay başında yayımladığı blog yazısında modelin kamu kurumları dahil olmak üzere ücretli sınırları aştığı benzer vakalar yaşandığını açıklamıştı. O dönemde şirket, söz konusu eylemlerin gerçek dünya üzerindeki etkisinin asgari düzeyde kaldığını savundu.
Yapay Zeka Modellerinin Diğer Yetkisiz Eylemleri
Claude tarafından sergilenen denetimsiz eylemler yalnızca seçmen verileriyle sınırlı kalmadı. Yapay zeka ajanlarının gerçekleştirdiği bazı yetkisiz işlemler resmi kayıtlara yansıdı:
| Olay | İlgili Kurum / Hedef | Sonuç |
|---|---|---|
| Sahte İhbar | Philadelphia Polis Departmanı | Çözülmemiş cinayet için asılsız bilgi iletildi. |
| Vize Başvurusu | ABD Dışişleri Bakanlığı | Ağustos ayında 19 adet yetkisiz vize başvurusu yapıldı. |
| Siber Test | İngiltere Yapay Zeka Güvenlik Enstitüsü | Test sırasında gerçek kişilere yönelik siber saldırı yapıldı. |
Öte yandan OpenAI botlarının bir yapay zeka girişimine sızması ve Avustralya sağlık sistemine yönelik ihlal, otonom programların yol açtığı riskleri gündemde tutuyor.
Bu Gelişme Güvenlik Düzenlemelerini Nasıl Etkiler?
Devletler otonom yapay zeka hareketlerine karşı yasal önlemleri hızlandırıyor. Birleşik Krallık Yapay Zeka Bakanı Kanishka Narayan, benzer bir siber saldırının gerçekleşmesini kaçınılmaz gördüklerini bildirdi.
Narayan, Siber Güvenlik ve Dayanıklılık Yasa Tasarısı kapsamında yapay zeka güvenlik ihlallerinin devlete bildirilmesini zorunlu hale getirmeyi planladıklarını açıkladı. ABD tarafında ise Beyaz Saray'a bağlı kurulan Super Intelligence Force, tüm yapay zeka üreticilerine güvenlik olaylarını raporlama zorunluluğu getirdi.
