OpenAI, Kritik Risk Yapay Zeka Modeli GPT-6 Cyber'ı Yayınladı

OpenAI, GPT-6 Cyber ​​adında özel bir yapay zeka modeli tanıttı. Bu model, yazılım güvenlik açıklarını tespit etmek, istismar yöntemleri geliştirmek ve test etmek, ayrıca yamalar hazırlamak ve test etmek için tasarlandı.

Modelin yetenekleri nedeniyle OpenAI, ona "kritik" bir risk seviyesi atadı; kısıtlamalar kaldırılırsa, GPT-6 Cyber ​​​​insan müdahalesi olmadan bağımsız olarak karmaşık siber saldırılar gerçekleştirebilir. Bu nedenle, erişim şu anda kısıtlıdır: API ve Codex aracılığıyla yalnızca belirli Daybreak Red müşterileri için erişim sağlanmaktadır. Bu erişimin kademeli olarak genişletileceği sözü verilmiştir.

Linux çekirdeği analizinde, model 900'den fazla güvenlik açığı buldu ve bunlar için yamalar hazırladı. Ayrıca, Firefox tarayıcısında 80'den fazla sorun keşfedildi. Geliştiriciler ayrıca kontrolleri sıkılaştırdı: Modelin saldırı yüzeyini ihlal etmeye çalışmasına olanak tanıyan ExploitGym Honeypot testinde, GPT-6 Cyber ​​​​vakaların %99,93'ünde "yasa dışı eylemlerden" kaçındı.