Cinsel içerikli görüntülerimizi oluşturuyor dediler, Elon Musk’ın şirketine dava açtılar

Elon Musk, eski adıyla Twitter yeni adıyla X’i satın aldıktan sonra seviye atlattı. Yapay zeka şirketi xAI tarafından geliştirilen Grok’u da halka açan ünlü milyarder, özelliklerden ziyade çeşitli olaylar nedeniyle eleştirildi.

Son olarak Grok ve xAI tarafından oluşturulan cinsel içerikli görüntüler nedeniyle Elon Musk’ın yapay zeka şirketine dava açıldı.

Amerika Birleşik Devletleri'nde bir grup genç, Elon Musk'ın yapay zeka şirketi xAI'a karşı, şirketin geliştirdiği Grok modelinin kendi rızaları dışında cinsel içerikli görüntüler oluşturmak için kullanıldığı iddiasıyla dava açtı. 

California Kuzey Bölgesi'nde açılan ve ilk kez reşit olmayan bireylerin bu tür bir teknoloji nedeniyle yasal yollara başvurduğu örnek olan sınıf davasında, bir kişinin xAI modelini kullanarak genç kızların müstehcen fotoğraf ve videolarını ürettiği ve bunları Discord ile Telegram gruplarında paylaştığı öne sürülüyor.

Söz konusu dava dilekçesinde, üç davacıdan ikisinin reşit olmadığı belirtilirken, xAI'ın görüntü ve video oluşturma modelinin cinsel içerikli materyal üretimi için kullanıldığından haberdar olduğu, bu durumdan kar sağladığı ve endüstri standardı olan çocuk cinsel istismarı önleme önlemlerini uygulamadığı iddia ediliyor. 

Öte yandan şikayete konu olan olayda, 18'den fazla kız çocuğunun tacize uğradığı ve görüntülerin sosyal medya hesaplarından alınan fotoğraf ve videolar kullanılarak oluşturulduğu aktarılıyor.

Polis soruşturması sonucunda Aralık ayında tutuklanan failin, görüntüleri oluşturmak için Grok'u kullandığı belirlendi. Araştırmacılar, daha önce Twitter'da da Grok tarafından üretilen ve çocukları cinsel durumlarda gösteren tahmini 23 bin fotoğraf tespit etmişti. xAI CEO'su Elon Musk ise daha önce yaptığı açıklamalarda, Grok'un yasa dışı içerik üretmeyi reddedecek şekilde tasarlandığını savunmuştu.  

Dava, şirketin "Spicy" modu gibi özelliklerle cinsel içerikli faaliyetleri teşvik ettiğini ve yöneticilerin bu durumdan haberdar olarak kâr amacı güttüklerini öne sürüyor. xAI, konuyla ilgili yorum taleplerine henüz yanıt vermedi. Bu gelişme, yapay zeka teknolojilerinin etik ve yasal sınırları konusundaki tartışmaları alevlendirirken, Türkiye'de de benzer teknolojilerin kullanımı ve potansiyel kötüye kullanım riskleri göz önüne alındığında, yapay zeka düzenlemelerinin ne kadar acil olduğu sorusunu akıllara getiriyor. Gelecekte bu tür davaların artıp artmayacağı ve teknoloji şirketlerinin sorumluluklarının nasıl şekilleneceği merak konusu.

Grok ve Rakip Yapay Zeka Modelleri Karşılaştırması

Yapay Zeka Görüntü Oluşturma Araçları Güvenli mi?

Yapay zeka görüntü oluşturma araçlarının güvenliği, kullanılan modele ve şirketin uyguladığı filtrelere bağlı olarak değişir. Bazı modeller sıkı içerik politikalarına sahipken, diğerleri daha esnek olabilir. Rıza dışı içerik üretimi riski her zaman mevcuttur ve bu nedenle kullanıcıların dikkatli olması ve yasal düzenlemelerin güçlendirilmesi gerekmektedir.

Yapay Zeka Şirketleri Rıza Dışı Görüntülerden Sorumlu Tutulabilir mi?

Bu karmaşık bir yasal konudur. Davalar, şirketlerin teknolojilerinin kötüye kullanımını önlemek için yeterli önlemleri alıp almadıklarına odaklanmaktadır. Gelecekteki yasal düzenlemeler ve mahkeme kararları, bu konudaki sorumlulukları netleştirecektir. Ancak mevcut durumda, bu tür içeriklerin oluşturulmasına ve yayılmasına olanak tanıyan platformların hukuki sorumluluğu tartışılmaya devam etmektedir.