Kağıt kalem, yapay zekayı yendi
Haber
11 Mart 2021 - Perşembe 09:56 Bu haber 169 kez okundu
 
Kağıt kalem, yapay zekayı yendi
Elon Musk'ın sahip olduğu yapay zeka firması OpenAI'ın son teknoloji görüş sistemi CLIP'in, yalnızca kalem ve kağıtla kandırılabileceği belirtildi.
DİĞER Haberi
Kağıt kalem, yapay zekayı yendi

İndyturk'te çıkan habere göre, yapılan testlerde bir elmanın üzerine ‘iPod’ yazan bir kağıt yapıştırıldığında, sistemin bunu yüzde 99,7 oranında iPod olarak gördüğü tespit edildi. Clip, başka bir testte üzerine dolar işareti yapıştırılan köpeği, yüzde 52,5 kumbara olarak tanımladı.

Söz konusu zayıflığı ‘tipografik saldırı’ diye niteleyen yapay zeka devi, 4 Mart'ta yaptığı açıklamada şu ifadelere yer verdi: Bu zayıflığın basit bir öğrenme güçlüğü olmadığına inanıyoruz. CLIP'in metinleri sağlam bir şekilde okuma kabiliyetinden yararlanılarak, el yazısı metinlerin fotoğraflarının bile çoğu zaman sistemi kandırabileceğini tespit ettik.

Bu tür saldırılar hala işe yarıyor. Kalem ve kağıttan başka bir teknoloji gerektirmiyor.

OpenAI tipografik saldırının, görüş sistemlerini kandırmada kullanılan zıt görüntülere benzediğine dikkat çekti. Uzmanlar bu tür görüntülerin, örneğin yola etiketler yapıştırarak, Tesla marka araçların yazılımını yanıltıp şerit değiştirmesini sağlamak için kullanılabileceğini keşfetmişti.

Ancak firmaya göre henüz endişelenecek bir durum söz konusu değil. Zira bahsi geçen yazılım hiçbir ticari üründe kullanılmıyor.

Kaynak: (İHA) - İhlas Haber Ajansı Editör: Hakan Yakın
Etiketler: Kağıt, kalem,, yapay, zekayı, yendi,
Yorumlar
Haber Yazılımı