Anthropic, insanlığın yapay zeka üzerindeki kontrolünü kaybetmesi nedeniyle yapay zekâ yarışının sona ermesi çağrısında bulundu.

Anthropic, önde gelen yapay zeka laboratuvarlarını, gelişmiş modellerin geliştirilmesinde bir duraklama yapılması konusunda koordineli hareket etmeye ve sıkı bir şekilde denetlemeye çağırdı. Şirket, sistemlerin yakında toplumun yeni risklere hazırlanmasından daha hızlı bir şekilde kendilerini geliştirebileceğinden endişe ediyor.

Claude'un yaratıcısı, yapay zekanın bağımsız olarak görev yapma yeteneğinin yaklaşık her dört ayda bir ikiye katlandığını belirtti. Anthropic, tekrarlayan kendi kendini geliştirme yaklaşımına karşı uyarıda bulunuyor; bu, sistemlerin herhangi bir insan müdahalesi olmadan kendilerini geliştirebilecekleri noktadır.

Şirket, Anthropic'in tek taraflı olarak yapacağı bir duraklamanın sorunu çözmeyeceğini, sadece yarışın liderini değiştireceğini düşünüyor. Gerçek bir yavaşlama, önde gelen geliştiriciler arasında bir anlaşma, kısıtlamaların getirilmesi ve kaldırılması için açıkça tanımlanmış koşullar ve bir izleme mekanizması gerektirecektir.

Antropoloji Enstitüsü'nün araştırma bölümü, olası önlemleri hükümet yetkilileri, bilim insanları, kamu kuruluşları ve yapay zeka şirketleriyle görüşmeyi planlıyor.

Bu arada, Anthropic şirketi de giderek daha güçlü modeller piyasaya sürmeye devam ediyor. Şirket Şubat ayında, rakipleri benzer yeteneklere yaklaşırsa potansiyel olarak tehlikeli yapay zekânın piyasaya sürülmesinden geri durmayacağını duyurdu.