OpenAI, ABD ordusu için ses kontrollü İHA yazılımı geliştiriyor

OpenAI, ABD ordusu için ses kontrollü insansız hava aracı sürüleri geliştirmeye yönelik yazılım geliştirme yarışmasına katılmak üzere Pentagon tarafından seçilen iki savunma teknolojisi şirketiyle ortaklık kurdu.​

İki kaynağa göre, OpenAI'nin teknolojisi yalnızca saha komutanlarının sesli komutlarını insansız hava araçları için dijital talimatlara çevirmek için kullanılacak. Bu iki kaynağa göre, insansız hava aracı sürüsü kontrolü, silah entegrasyonu veya hedefleme için kullanılmayacak.

Bu girişim, Pentagon'un Ocak ayında duyurduğu 100 milyon dolarlık yarışmanın bir parçasıdır. Amaç, insan müdahalesi olmadan karar verebilen ve görevleri yerine getirebilen insansız hava aracı sürülerinin kontrolünü sağlayacak prototip teknolojiler geliştirmektir. Kaynaklara göre, altı ay sürecek yarışma, katılımcıların başarısına ve ilgisine bağlı olarak birkaç aşamada gerçekleştirilecektir.

Bazı katılımcılara göre, başarılı başvuruların en az ikisinde OpenAI logosu yer alıyor.

Şirket henüz ne kadar ileri gitmeye hazır olduğuna karar vermedi ve savunma sanayi şirketleriyle belirli şartlar üzerinde anlaşmaya varmadı. Şirketin en gelişmiş modelleri değil, yalnızca OpenAI modelinin açık kaynaklı sürümü sağlanacak.

Şirket temsilcisine göre, OpenAI yarışmaya başvurmadı ve sadece hazırlık aşamasında yer alacak. Temsilci, mevcut iki OpenAI ortağının tekliflerine açık kaynak modelini dahil etmeyi seçtiğini de sözlerine ekledi. Ortaklardan birinin seçilmesi durumunda, OpenAI, araçlarının kullanımının politikalarımıza uygun olmasını sağlayacaktır, diye belirtti temsilci.

Şirket temsilcisine göre, diğer yapay zeka geliştiricileri de doğrudan drone sürüsü kontrolü yarışmasına katılmak için başvuruda bulundular.

25 Ocak tarihli bir belgeye göre, OpenAI'nin katıldığı başarılı başvurulardan biri, OpenAI'nin stratejik ortağı ve savunma sanayi şirketi olan Applied Intuition Inc. ile birlikte Sierra Nevada Corporation ve Noda ai adlı iki şirket tarafından yapılmıştır.

Belgeye göre, Applied Intuition sürü kontrol arayüzünü ve bazı dijital komutları sağlayacak, Sierra Nevada Corporation entegrasyonu sağlayacak ve girişim sermayesi destekli Noda AI ise dronları kontrol edecek olan "orkestrasyon" yazılımını sağlayacak.

Belgedeki şemaya göre, OpenAI "Görev Kontrol Merkezi"ni yönetecek. Şemada, OpenAI yazılımının insan operatör ile makine arasında, "Orkestratör" bölümünde yer aldığı gösteriliyor.

Şirketin insansız hava aracı sürüsü kontrolü yarışmasına katılımı, araçlarının askeri uygulamalarını genişletmeyi amaçlayan savunma çabalarını göstermektedir.

Bu hafta Pentagon, ChatGPT'ye 3 milyon Savunma Bakanlığı çalışanının erişimini sağlayacak bir OpenAI ortaklığı duyurdu.

Geçtiğimiz yıl, şirketin CEO'su Sam Altman, Pentagon için yapay zeka destekli bir silah platformu geliştirme olasılığı hakkında büyük bir açıklama yapmamıştı.

Nisan ayında modern çatışmalar üzerine düzenlenen bir konferansta, "Dünyadaki çoğu insanın yapay zekanın silah kullanımıyla ilgili kararlar vermesini istediğini sanmıyorum" dedi ve şirketin "öngörülebilir gelecekte" bunu yapmasını beklemediğini ekledi.

Ancak Altman bu olasılığı tamamen dışlamadı. "Hiçbir zaman 'asla' demem, çünkü dünya çok garip bir yer haline gelebilir," dedi.

Günümüzde birden fazla insansız hava aracını aynı anda kontrol etmek mümkün olsa da, deniz ve hava araçlarını sürü halinde kontrol edebilen ve hedef arayışında otonom olarak hareket edebilen yazılımlar geliştirmek karmaşık bir zorluk olmaya devam etmektedir.

Pentagon yarışmasına katılanlar, teknolojilerinin bir savaş komutanının sesli komutlarını eyleme dönüştürebildiğini ve böylece insansız hava araçlarının muharebe operasyonları sırasında toplu olarak görevleri yerine getirebildiğini göstermelidir.

Açıklamada yer alan Savunma Bakanlığı sözcüsü, bu çabaların saldırı hedeflerine ulaşmayı amaçladığını açıkça belirtti. Sözcü, insan-makine etkileşiminin "bu sistemlerin öldürücülüğünü ve etkinliğini doğrudan etkileyeceğini" ifade etti.

Pentagon'un örneğine göre, komutlar "tüm insansız yüzey araçlarını 5 kilometre doğuya hareket ettirin" gibi talimatlar içerebilir. Bu, insansız yüzey araçlarını ifade eder.

Çeşitli kaynaklara göre, Pentagon'un yapay zekâ ve otonom sistemlerin benimsenmesini hızlandırma konusundaki kararlılığına rağmen, sohbet robotlarının ve sesli komutların silah sistemlerine entegre edilmesi olasılığı bazı savunma yetkililerini bile endişelendiriyor. Onlar, üretken yapay zekânın yalnızca çeviri işlevleriyle sınırlandırılmasının ve insansız hava araçlarının davranışlarını kontrol etmesine izin verilmemesinin önemli olduğuna inanıyorlar.

Konuyla ilgili bilgi sahibi birçok kişi, üretken yapay zekanın insan müdahalesi olmadan sesli komutları operasyonel kararlara dönüştürmede kullanılmasının riskleri konusunda endişelerini dile getirdi.

Bu karar, büyük laboratuvarlardaki çalışanların istifa etmesinin ardından geldi ve önde gelen üretken yapay zeka şirketlerinin devam eden araştırma ve geliştirmeyi desteklemek için kar elde etme çabalarına rağmen, yapay zeka endüstrisiyle ilgili bir dizi etik endişeyi gündeme getirdi.

Ayrılanlar arasında, ChatGPT'deki reklamlar konusunda endişeli olduğunu söyleyen OpenAI'den bir araştırmacı ve istifasını kamuoyuna açıklayan Anthropic'ten bir araştırmacı da bulunuyor; bu durum yapay zeka gelişmelerine ilişkin daha geniş endişelere yol açtı.

OpenAI'nin ChatGPT'si gibi sohbet botlarına güç veren büyük dil modelleri, önyargıya ve "halüsinasyonlar" olarak adlandırılan durumlara karşı hassastır. Bu, gerçeklikle tutarsız yanıtlar üretebilecekleri, ancak yapay zekanın bunları inandırıcıymış gibi yanlış yorumlayabileceği anlamına gelir.

Pentagon'un Ocak ayında yayınladığı yeni Yapay Zeka Hızlandırma Stratejisi, askeri harekatların planlanmasından hedef belirlemeye ve potansiyel olarak ölümcül saldırılar gerçekleştirmeye kadar, yapay zeka ajanlarını savaş alanında kullanmayı amaçlıyor.

Savunma sözleşmeleri, tüketici teknolojisi şirketleri arasında her zaman tartışmalı olmuştur. 2018'de Google, insansız hava aracı görüntülerini analiz etmek için yapay zekayı kullanmayı içeren Project Maven adlı bir Pentagon projesine karşı kitlesel protestolarla karşılaştı.

Yapay zekâ sektörü son zamanlarda bu tür anlaşmalara daha açık hale geldi.

2024 yılında OpenAI, ulusal güvenlik alanında çalışma politikasını revize etti ve daha sonra insansız hava araçlarına karşı teknoloji konusunda iş birliği yapmak üzere savunma teknolojisi şirketi Anduril Industries Inc. ile stratejik bir ortaklık duyurdu.

O dönemde bir OpenAI temsilcisi, şirketin Anduril ile ortaklığının özellikle insansız hava araçlarına karşı savunma amacıyla bu teknolojiyi kullanmayı hedeflediğini belirtmişti.

Pentagon'un ses kontrollü insansız hava aracı yarışmasına ilişkin açıklaması, şirketlerin ancak önceki testleri başarıyla tamamlamaları halinde katılabilecekleri çeşitli aşamaları özetliyor.

İlk aşama yazılım geliştirmeye, ikinci aşama ise gerçek platformların konuşlandırılmasına odaklanacak. Pentagon'un görev bildirisinde belirtildiği üzere, yazılım hava ve deniz de dahil olmak üzere çeşitli ortamlarda insansız hava araçlarının hareketlerini koordine etmek üzere tasarlanmıştır. Daha sonraki aşamalarda "hedef uyarı ve bilgi paylaşımı" sistemi ve nihayetinde "fırlatma-imha" sistemi geliştirilecektir.