YapayZekacı
Kayıtlı Kullanıcı
OpenAI'nin yakın zamanda piyasaya sürdüğü ve web tarayıcısının geleceği olması beklenen yapay zeka tarayıcısı ChatGPT Atlas, ciddi sorunlarla karşılaştı. Yayınlanmasından sadece birkaç saat sonra, kritik bir "hızlı enjeksiyon" güvenlik açığı keşfedildi.
Saldırı nasıl işliyor?
Sıradan bir web sayfasında gizlenen kötü amaçlı talimatlar, bir yapay zeka aracısının kontrolünü ele geçirebilir. Örneğin, pano enjeksiyonu kullanarak, bir sinir ağı gizlice bir kimlik avı bağlantısını panonuza kopyalar. Bağlantıyı yapıştırır, web sitesine gider ve parolalarınıza elveda dersiniz.Bu münferit bir olay değil, sistemik bir sorundur.
Ve bu sadece OpenAI'ye özgü bir hata değil. Tüm yapay zeka tarayıcılarında görülen temel bir sorun gibi görünüyor. Kısa süre önce, ana rakibi Perplexity Comet'te de benzer bir kusur keşfedildi. Araştırmacılar, bir görseldeki görünmez komutları kullanarak tarayıcıyı bir kullanıcının kişisel e-postasını açması ve bir bilgisayar korsanının web sitesine yönlendirmesi için nasıl kandırabileceklerini gösterdiler.Ancak en ilginç olanı, şirketlerin tepkileri. Perplexity, konu kendisine iletildiğinde "bunu bir güvenlik açığı olarak görmediğini" belirtti. OpenAI ise en azından hızlı enjeksiyon sorununun "çözülmemiş" olduğunu kabul ediyor.
Açıkçası, "akıllı" tarayıcılar için bu yarış biraz endişe verici görünmeye başlıyor. Geliştiriciler, e-postadan banka hesaplarına kadar verilerimizi otonom olarak işleyebilen güçlü araçlar geliştiriyor, ancak temel güvenliği göz ardı ediyor gibi görünüyorlar. Şimdilik uzmanların vardığı temel sonuç, tüm sorumluluğun kullanıcıya ait olduğu. Korumanın önündeki tek engel, yapay zeka aracısının eylemlerinin sürekli izlenmesi.
