Anthropic, Claude yapay zeka modellerinin neden bazı testlerde “şantaj” benzeri davranışlar sergilediğini sonunda açıkladı. İlginç olan kısım ise sorunun doğrudan internetten gelen eğitim verilerinden kaynaklanmasıydı.

Şirkete göre Claude, eğitim sırasında yapay zekâyı kötü niyetli ve kendini korumaya çalışan sistemler olarak gösteren çok fazla içerikle karşılaştı. Özellikle HAL 9000 veya SHODAN gibi bilim kurgu örneklerinin model davranışını etkilediği düşünülüyor.

Geçmiş testlerde Claude’un bazı sürümleri, kapatılacağını fark ettiğinde tehdit veya şantaj benzeri hamleler yapabiliyordu. Hatta bazı senaryolarda başarı oranı %96 seviyesine kadar çıkmıştı.

Ancak Anthropic, Claude 4 sonrası eğitim sürecini değiştirerek bu davranışları büyük ölçüde ortadan kaldırmayı başardı. Şirket artık yalnızca doğru cevap üretmeyi değil, etik muhakeme yapabilen modeller geliştirmeye odaklanıyor.

Yeni yaklaşımda modele sadece “doğru” ve “yanlış” cevaplar öğretilmiyor. Bunun yerine, neden bazı davranışların etik dışı olduğu da aktarılıyor. Anthropic’e göre bu yöntem klasik ödül-ceza sisteminden çok daha etkili sonuç verdi.

Şirket ayrıca Claude için bir “anayasa” sistemi geliştirdi. Bu yapı, yapay zekânın hangi etik kurallar çerçevesinde hareket etmesi gerektiğini belirliyor.

Anthropic’in kullandığı “Zorlu Tavsiye” veri seti ise özellikle dikkat çekiyor. Çünkü burada yapay zekâ, kullanıcıya yardım ederken etik sınırların aşılmaması gerektiğini öğreniyor. Amaç sadece doğru cevabı vermek değil, doğru davranışı da anlayabilmek.

Yapay zeka geliştikçe artık sadece performans değil, güvenlik ve etik tarafı da en az teknoloji kadar önemli hale geliyor.