ABD Göçmenlik ve Gümrük Muhafaza Bürosu (ICE), işe alım süreçlerinde kullandığı yapay zeka (YZ) programındaki kritik bir hata nedeniyle gündemde. Ortaya çıkan iddialara göre, bu hata yüzünden çok sayıda yeni çalışanın yeterli eğitimi almadan doğrudan saha ofislerine gönderildiği belirtiliyor. Bu durum, kurumun operasyonel yetkinliği ve kamu güvenliği konusunda endişeleri artırıyor.

Kurum içinden sızan bilgiler ve basına yansıyan haberler, YZ sisteminin eğitim modüllerini doğru atayamaması veya değerlendirme süreçlerinde yanlış yönlendirmeler yapması sonucu, önemli bir personel grubunun sahaya tam donanımlı gönderilemediğini işaret ediyor. Özellikle hassas görevlerde yer alacak memurların eksik eğitimle sahada bulunması, hem kendi güvenlikleri hem de karşı karşıya kaldıkları vakaların doğru yönetimi açısından risk teşkil ediyor.

Yapay Zeka Güvenlik Zafiyeti mi Yarattı?

Konuya yakın kaynaklar, bu tür bir hatanın, özellikle sınır güvenliği ve göçmenlik gibi kritik alanlarda, ciddi operasyonel aksaklıklara yol açabileceği uyarısında bulunuyor. Güvenlik uzmanları, yapay zeka tabanlı sistemlerin insan faktörüyle desteklenmesi ve sürekli denetim altında tutulmasının önemini vurgularken, “Bu olay, YZ sistemlerinin karar mekanizmalarındaki şeffaflık ve hesap verebilirlik eksikliğini bir kez daha gözler önüne seriyor” yorumunda bulunuyorlar.

Denetim ve Şeffaflık Çağrısı

Sivil toplum kuruluşları ve insan hakları savunucuları, eğitimsiz personelin sahada bulunmasının potansiyel hak ihlallerine davetiye çıkarabileceğini belirtiyor. Konunun yakın takipçileri, ICE'ın bu iddialar karşısında kapsamlı bir iç soruşturma başlatması ve yapay zeka sistemlerini bağımsız denetime açması gerektiğini dile getiriyor. Geçmişte de benzeri teknolojik hataların kamu hizmetlerinde aksaklıklara yol açtığı biliniyor.

Yaşanan bu durum, kamu kurumlarının dijitalleşme süreçlerinde yapay zeka kullanımının getirdiği avantajların yanı sıra, olası risklerin de titizlikle yönetilmesi gerektiğine dair önemli bir ders niteliğinde.