Deloitte, Yapay Zekâ’nın Uydurduğu Alıntıları Hükümet Raporuna Eklediğini Kabul Etti

Avustralya hükümetine hazırlanan bir raporda yapay zekâ skandalı patladı.
Dünyanın en büyük danışmanlık firmalarından Deloitte, hazırladığı bir değerlendirme raporunda üretken yapay zekâ (AI) kullandığını ve bu aracın bazı alıntı ve kaynakları uydurduğunu resmen kabul etti.


Rapor, Avustralya Sosyal Hizmetler Bakanlığı için yaklaşık 440.000 ABD doları karşılığında hazırlanmıştı. Ancak, belgede yer alan bazı akademik atıfların ve alıntıların gerçekte var olmadığı ortaya çıktı.
Olay, bir akademisyen tarafından fark edildi: Raporda adı geçen hukuk profesörü Lisa Burton Crawford, kendisine atfedilen bazı yayınların hiçbir zaman yazılmadığını belirtti.


Deloitte, bu hatanın farkına varıldığını ve raporun “önemli politika sonuçlarını değiştirmediğini” söylese de, olayın ardından şirket sözleşme bedelinin bir kısmını geri ödemeyi teklif etti.


Uzmanlara göre bu olay, yapay zekâ tabanlı içerik üretiminde doğrulama mekanizmalarının ne kadar kritik olduğunu bir kez daha gösteriyor.
Yapay zekâ sistemleri bazen “halüsinasyon” denilen bir şekilde, inandırıcı ama tamamen uydurma bilgiler üretebiliyor.

Arka Plan​

• Deloitte, dünya çapında kamu ve özel sektöre danışmanlık hizmeti veren en büyük şirketlerden biri.
• “AI halüsinasyonu” olarak bilinen bu sorun, ChatGPT benzeri modellerin gerçek olmayan bilgi üretmesi anlamına geliyor.
• Uzmanlar, yapay zekânın özellikle akademik veya resmi belgelerde kaynak güvenliği olmadan kullanılmaması gerektiğini vurguluyor.