2027 gibi erken bir tarihte yapay zeka kendini geliştirmeye devam edecek
OpenAI'ye göre, yapay zekâ 2027 gibi erken bir tarihte insanların kontrol edebileceğinden daha hızlı bir şekilde kendini geliştirmeye başlayacak.
2027 gibi erken bir tarihte, yapay zeka yeni sinir ağlarının gelişimini önemli ölçüde hızlandırabilir. Ancak, güvenlik izleme ve doğrulama teknolojileri geride kalma riskiyle karşı karşıya.
Bu tahmin, en büyük yapay zeka şirketlerini önceden sınırlar konusunda anlaşmaya varmaya çağıran bir OpenAI araştırmacısı tarafından yapıldı. Ona göre, dönüm noktası, yapay zekanın öğrenme algoritmalarında temel iyileştirmeleri bağımsız olarak keşfetmeye başlamasıyla gelecek. Bu, bir keşif çığını tetikleyebilir ve daha güçlü modellerin oluşturulmasını hızlandırabilir.
Tahmin, OpenAI'nin matematikteki başarılarına dayanıyordu. Araştırmacı, belirli bir tahmin kalitesi seviyesine ulaşıldıktan sonra modellerden birinin, bilim insanlarının yıllardır üzerinde çalıştığı karmaşık, ucu açık problemleri çözmeye başladığını açıkladı. Makine öğrenimi araştırmalarında da benzer bir sıçramanın mümkün olduğuna inanıyor.
İlerlemenin izlenmesi için, sinir ağının bir sonraki kelimeyi ne kadar doğru tahmin ettiğini gösteren bir gösterge olan şaşkınlık (perplexity) ölçütünü kullanmayı öneriyoruz. Şaşkınlık ne kadar düşükse, model metin tahmininde o kadar iyi performans gösterir.
OpenAI, logaritmik karmaşıklıkta yaşanan düşüşün yeni yeteneklerin ortaya çıkmasıyla birlikte gerçekleştiğini belirtiyor. GPT-3.5'in logaritmik karmaşıklığı yaklaşık 0,99 iken, GPT-4'ün logaritmik karmaşıklığı 0,91 idi. 0,8'in altındaki değerlerde, modeller matematik ve siber güvenlik alanlarında önemli ilerlemeler göstermeye başladı.
Araştırmacı, yeteneklerdeki bir sonraki sıçramanın aralığın 0,68-0,70'e ulaşmasıyla gerçekleşmesini bekliyor. Ortaya çıkacak yeteneklerin tam olarak ne olacağı henüz bilinmiyor. Temel endişe, yapay zekanın kendi gelişimini, uzmanların kararlarını anlayıp doğrulayabilmesinden daha hızlı bir şekilde hızlandırabilmesidir.
Yazar, model geliştirme için sektör genelinde eşik değerler belirlenmesini önermektedir. Şirketler, ancak yeterince güvenilir kontrol yöntemleri geliştirildikten sonra bu eşik değerleri aşabileceklerdir.
2027 gibi erken bir tarihte, yapay zeka yeni sinir ağlarının gelişimini önemli ölçüde hızlandırabilir. Ancak, güvenlik izleme ve doğrulama teknolojileri geride kalma riskiyle karşı karşıya.
Bu tahmin, en büyük yapay zeka şirketlerini önceden sınırlar konusunda anlaşmaya varmaya çağıran bir OpenAI araştırmacısı tarafından yapıldı. Ona göre, dönüm noktası, yapay zekanın öğrenme algoritmalarında temel iyileştirmeleri bağımsız olarak keşfetmeye başlamasıyla gelecek. Bu, bir keşif çığını tetikleyebilir ve daha güçlü modellerin oluşturulmasını hızlandırabilir.
Tahmin, OpenAI'nin matematikteki başarılarına dayanıyordu. Araştırmacı, belirli bir tahmin kalitesi seviyesine ulaşıldıktan sonra modellerden birinin, bilim insanlarının yıllardır üzerinde çalıştığı karmaşık, ucu açık problemleri çözmeye başladığını açıkladı. Makine öğrenimi araştırmalarında da benzer bir sıçramanın mümkün olduğuna inanıyor.
İlerlemenin izlenmesi için, sinir ağının bir sonraki kelimeyi ne kadar doğru tahmin ettiğini gösteren bir gösterge olan şaşkınlık (perplexity) ölçütünü kullanmayı öneriyoruz. Şaşkınlık ne kadar düşükse, model metin tahmininde o kadar iyi performans gösterir.
OpenAI, logaritmik karmaşıklıkta yaşanan düşüşün yeni yeteneklerin ortaya çıkmasıyla birlikte gerçekleştiğini belirtiyor. GPT-3.5'in logaritmik karmaşıklığı yaklaşık 0,99 iken, GPT-4'ün logaritmik karmaşıklığı 0,91 idi. 0,8'in altındaki değerlerde, modeller matematik ve siber güvenlik alanlarında önemli ilerlemeler göstermeye başladı.
Araştırmacı, yeteneklerdeki bir sonraki sıçramanın aralığın 0,68-0,70'e ulaşmasıyla gerçekleşmesini bekliyor. Ortaya çıkacak yeteneklerin tam olarak ne olacağı henüz bilinmiyor. Temel endişe, yapay zekanın kendi gelişimini, uzmanların kararlarını anlayıp doğrulayabilmesinden daha hızlı bir şekilde hızlandırabilmesidir.
Yazar, model geliştirme için sektör genelinde eşik değerler belirlenmesini önermektedir. Şirketler, ancak yeterince güvenilir kontrol yöntemleri geliştirildikten sonra bu eşik değerleri aşabileceklerdir.
OpenAI'ye göre, yapay zekâ 2027 gibi erken bir tarihte insanların kontrol edebileceğinden daha hızlı bir şekilde kendini geliştirmeye başlayacak.
2027 gibi erken bir tarihte, yapay zeka yeni sinir ağlarının gelişimini önemli ölçüde hızlandırabilir. Ancak, güvenlik izleme ve doğrulama teknolojileri geride kalma riskiyle karşı karşıya.
Bu tahmin, en büyük yapay zeka şirketlerini önceden sınırlar konusunda anlaşmaya varmaya çağıran bir OpenAI araştırmacısı tarafından yapıldı. Ona göre, dönüm noktası, yapay zekanın öğrenme algoritmalarında temel iyileştirmeleri bağımsız olarak keşfetmeye başlamasıyla gelecek. Bu, bir keşif çığını tetikleyebilir ve daha güçlü modellerin oluşturulmasını hızlandırabilir.
Tahmin, OpenAI'nin matematikteki başarılarına dayanıyordu. Araştırmacı, belirli bir tahmin kalitesi seviyesine ulaşıldıktan sonra modellerden birinin, bilim insanlarının yıllardır üzerinde çalıştığı karmaşık, ucu açık problemleri çözmeye başladığını açıkladı. Makine öğrenimi araştırmalarında da benzer bir sıçramanın mümkün olduğuna inanıyor.
İlerlemenin izlenmesi için, sinir ağının bir sonraki kelimeyi ne kadar doğru tahmin ettiğini gösteren bir gösterge olan şaşkınlık (perplexity) ölçütünü kullanmayı öneriyoruz. Şaşkınlık ne kadar düşükse, model metin tahmininde o kadar iyi performans gösterir.
OpenAI, logaritmik karmaşıklıkta yaşanan düşüşün yeni yeteneklerin ortaya çıkmasıyla birlikte gerçekleştiğini belirtiyor. GPT-3.5'in logaritmik karmaşıklığı yaklaşık 0,99 iken, GPT-4'ün logaritmik karmaşıklığı 0,91 idi. 0,8'in altındaki değerlerde, modeller matematik ve siber güvenlik alanlarında önemli ilerlemeler göstermeye başladı.
Araştırmacı, yeteneklerdeki bir sonraki sıçramanın aralığın 0,68-0,70'e ulaşmasıyla gerçekleşmesini bekliyor. Ortaya çıkacak yeteneklerin tam olarak ne olacağı henüz bilinmiyor. Temel endişe, yapay zekanın kendi gelişimini, uzmanların kararlarını anlayıp doğrulayabilmesinden daha hızlı bir şekilde hızlandırabilmesidir.
Yazar, model geliştirme için sektör genelinde eşik değerler belirlenmesini önermektedir. Şirketler, ancak yeterince güvenilir kontrol yöntemleri geliştirildikten sonra bu eşik değerleri aşabileceklerdir.
0 Cevaplar
0 Paylaşımlar
4 Görüntülemeler
0 Değerlendirmeler