Yapay zekaların halüsinasyon görebildiğini ortaya çıkaran MIT öğrencisi Anish Athalye ile Berkeley’den Nicholas Carlini ve David Wagner tarafından yapıldı.
Sputnik’in The Wire’den aktardığı habere göre, proje Google, Amazon gibi dev şirketlerin yanı sıra pek çok önemli kurum ve kuruluşun kullandıkları yapay zeka teknolojilerinin halüsinasyon yoluyla kolayca sabote edilebileceklerini ortaya koydu.
Kayak yapan iki kişiyi köpek olarak algıladı
Proje kapsamında üzerinde çok ince bir oynama yapılan kayak yapan iki kişinin görüldüğü bu fotoğraf, insanlar tarafından kolaylıkla algılanabilirken Google’ın Cloud Vision servisi yüzde 91 oranında bir kesinlikle fotoğrafta bir köpek gördüğünü belirtti.
Çalışmada benzer türde değişiklikler ‘Dur’ işaretinin görünmez hale gelmesine ya da seslerin söylenenlerden tamamen farklı algılanmasına yol açtı.
Yapay zekadaki bu zaafın özellikle sürücüsüz otomobil gibi sistemlerde büyük tehlike teşkil ettiği belirtiliyor. Kişilerin banka ya da kredi kartlarını kullandıkları sesli yanıt sistemleri de halüsinasyon yoluyla sabotaja maruz kalabilir.
