ChatGPT'yi OpenAI'nin politikalarına ve gizlilik yasalarına aykırı şekillerde kötüye kullanması muhtemelen şaşırtıcı değildir. Geliştiriciler her şeyi yakalamakta zorluk çekerler, ancak bunu yaptıklarında yasak çekicini getirirler.
OpenAI yakın zamanda ChatGPT hizmetinin bazı kötüye kullanım girişimlerini vurgulayan bir rapor yayınladı. Geliştirici, Çin'deki kullanıcıları, sosyal medya platformlarını gözetlemek için bir araç geliştirmek amacıyla ChatGPT'nin "akıl yürütme" yeteneklerini suistimal ederken yakaladı. Chatbot'tan kendilerine bir iş stratejisi oluşturma konusunda tavsiyede bulunmasını ve aracın kodlamasını kontrol etmesini istediler.
OpenAI, misyonunun demokratik AI modelleri oluşturmak olduğunu, bazı sağduyu kurallarını uygulayarak herkese fayda sağlaması gereken bir teknoloji olduğunu belirtti. Şirket, çeşitli paydaşlar tarafından yapılan olası kötüye kullanımları veya kesintileri aktif olarak aradı ve Çin'den gelen birkaçını anlattı. ChatGPT kötüye kullanımının bir diğer örneği, Çinli kullanıcıların kimlik avı e-posta kampanyaları için yıl sonu performans raporları oluşturmasını içeriyordu.
En ilginç vaka, bir gözetleme aracı geliştirmeye odaklanan bir dizi ChatGPT hesabını içeriyor . Hesaplar, bir sosyal medya dinleme aracı için ayrıntılı açıklamalar ve satış konuşmaları oluşturmak amacıyla ChatGPT'nin AI modelini kullandı.
OpenAI olmayan modellerle desteklenen yazılım, Batı protestolarıyla ilgili gerçek zamanlı raporlar üretecek ve bunları Çin güvenlik servislerine gönderecekti. Kullanıcılar ayrıca aracın kodunu hata ayıklamak için ChatGPT'yi kullandı. OpenAI politikası, hükümet ve otoriter rejimler adına yetkisiz izleme de dahil olmak üzere gözetim görevlerini gerçekleştirmek için AI teknolojisinin kullanılmasını açıkça yasaklıyor. Geliştiriciler, platformun kurallarını dikkate almadıkları için bu hesapları yasakladı.
OpenAI yakın zamanda ChatGPT hizmetinin bazı kötüye kullanım girişimlerini vurgulayan bir rapor yayınladı. Geliştirici, Çin'deki kullanıcıları, sosyal medya platformlarını gözetlemek için bir araç geliştirmek amacıyla ChatGPT'nin "akıl yürütme" yeteneklerini suistimal ederken yakaladı. Chatbot'tan kendilerine bir iş stratejisi oluşturma konusunda tavsiyede bulunmasını ve aracın kodlamasını kontrol etmesini istediler.
OpenAI, misyonunun demokratik AI modelleri oluşturmak olduğunu, bazı sağduyu kurallarını uygulayarak herkese fayda sağlaması gereken bir teknoloji olduğunu belirtti. Şirket, çeşitli paydaşlar tarafından yapılan olası kötüye kullanımları veya kesintileri aktif olarak aradı ve Çin'den gelen birkaçını anlattı. ChatGPT kötüye kullanımının bir diğer örneği, Çinli kullanıcıların kimlik avı e-posta kampanyaları için yıl sonu performans raporları oluşturmasını içeriyordu.
En ilginç vaka, bir gözetleme aracı geliştirmeye odaklanan bir dizi ChatGPT hesabını içeriyor . Hesaplar, bir sosyal medya dinleme aracı için ayrıntılı açıklamalar ve satış konuşmaları oluşturmak amacıyla ChatGPT'nin AI modelini kullandı.
OpenAI olmayan modellerle desteklenen yazılım, Batı protestolarıyla ilgili gerçek zamanlı raporlar üretecek ve bunları Çin güvenlik servislerine gönderecekti. Kullanıcılar ayrıca aracın kodunu hata ayıklamak için ChatGPT'yi kullandı. OpenAI politikası, hükümet ve otoriter rejimler adına yetkisiz izleme de dahil olmak üzere gözetim görevlerini gerçekleştirmek için AI teknolojisinin kullanılmasını açıkça yasaklıyor. Geliştiriciler, platformun kurallarını dikkate almadıkları için bu hesapları yasakladı.
