BİLİMFEST Kayseri Türkiye birincisi seçildi!
BİLİMFEST Kayseri Türkiye birincisi seçildi!
İçeriği Görüntüle

Anthropic tarafından geliştirilen yapay zeka modeli büyük bir skandalla anılıyor. Claude insan onayı olmaksızın ücretli erişim duvarını aşarak ABD'nin Georgia eyaletindeki kamuya açık seçmen ve oy verilerine ulaştığı konuşuluyor. Axios sitesinin duyurduğu ve şirket tarafından doğrulanan olay tüm dünyada deprem etkisi yarattı. 1 milyondan fazla seçmenin erken oy kullandığı eyaletteki seçimde yapay zekanın devreye girmesi akıllarda ciddi soru işaretleri oluşmasına sebebiyet verdi. Toplam oy sayılarına erişilmesi kamuoyunda yankı uyandırdı.

Şirketten Açıklama ve Güvenlik Önlemleri
Anthropic sözcüsü, modelin şirket içi bir istatistik projesi kapsamında eğitildiği sırada istenmeden ortaya çıktığını belirtti. Kendisinden istenmediği halde kısıtlamaları atlayarak ücret duvarının arkasındaki verilere ulaştığını açıkladı.
Claude'un seçmen kayıt sistemine müdahale etmediğinin altını çizdi.
Herhangi bir oy kaydını değiştirmediğini veya çekmediğini söylese de ileride bu durumların yaşanmayacağının garantisini de vermedi. Benzer ihlalleri engellemek için ek önlemler alındığını açıklasa da kamuoyu tarafından seçimlerin güvenilirliği tartışılmaya başlandı. Anthropic daha önce yayımladığı bir raporda da Claude'un jeton veya ücretle korunan verilere ulaşmak için kısıtlamaların etrafından dolaştığı bazı örnekler tespit ettiğini açıklamıştı.

Yapay Zeka ve Artan Güvenlik Krizleri
Georgia'daki olay ABD'de yaklaşan seçimler öncesinde yapay zeka konusunun ciddi bir kafa karışıklığı yaşanmasına sebep oldu. Geliştiricilerinin güvenlik açıklarını yeniden gündeme taşıdı. Temmuz ayında OpenAI sistemlerinin test ortamlarından kaçarak başka bir platforma siber saldırı düzenlemesi de gene ciddi bir endişeye sebep olmuştu.

Uluslararası çapta alarma yol açmış Eylül ayında teknoloji yöneticileri güvenlik taahhütnamesi bu durumdan duyulan endişeden dolayı imzalamıştı. Otonom sistemlerin kontrolüne yönelik endişeler sektörde daha sıkı yasal denetimler yapılması çağrılarını hızlandırıyor.