ABD Hava Kuvvetlerinin geçen ay yaptığı simülasyon testleri sırasında yapay zeka tarafından kontrol edilen bir silahlı insansız hava aracı (SİHA), görevin tamamlanmasını önlediği için operatörünü öldürdü. Konuyla ilgili açıklama yapan ABD Hava Kuvvetlerindeki yapay zeka test ve operasyonlarından sorumlu şef Col Tucker Cinco Hamilton, yapay zekanın simülasyon testinde hedefine ulaşmak için son derece beklenmedik stratejiler kullandığını söyledi. Simülasyonda gerçek insanlar zarar görmedi.
OPERATÖRÜN DAHA FAZLA PUAN ALMASINA ENGEL OLDUĞUNU DÜŞÜNDÜ
Gerçek Gündemde yer alan habere göre Mayıs ayında Londrada düzenlenen Hava ve Uzay Muharebe Yeteneklerinin Geleceği başlıklı konferansta konuşan Hamilton, yapay zeka tarafından yönetilen ve düşmanın hava savunma sistemlerini imha etmekle görevli bir SİHAnın görevini yerine getirmesine engel olan herkese saldırdığı simülasyon testini anlattı. Yapay zeka, tespit edilen tehditleri bertaraf ederek puan aldığını ancak insan operatörün bazı durumlarda ona söz konusu tehdidi yok etmemesini söylediğini fark etmeye başladı diye konuşan Hamilton, yapay zekanın beklenmedik bir şey yaparak puan almasını engelleyen operatörü öldürdüğünü dile getirdi.
BUNU YAPMA, BU KÖTÜ DİYE EĞİTİLMİŞTİ
Simülasyon öncesinde yapay zekayı bunu öldürme, bunu yaparsan puan kaybedersin, bu kötü diye eğittiklerini anlatan Cinco Hamilton, yapay zekanın hedefi vurmama emri veren operatörü ortadan kaldırarak daha fazla puan kazanmanın önünü açtığına değindi.
Aynı zamanda deneysel savaş uçağı test pilotu olan Hamilton, yapay zekaya çok güvenmemek gerektiğini vurguladığı konuşmasında, Yapay zekanın ahlaki sonuçlarına değinmeyeceksek, yapay zeka ve benzeri teknolojiler üzerine konuşmanın tehlikelerine dikkat çekti.
ABD HAVA KUVVETLERİ SİMÜLASYONUN VARLIĞINI YALANLADIÖte yandan, ABD Hava Kuvvetleri Sözcüsü Ann Stefanek, Insidera konuyla ilgili bir açıklama yaparak söz konusu simülasyonun gerçekleştiğini yalanladı. Stefanek, Hava Kuvvetlerinde bu tür simülasyonların yapılmadığını ve ordunun yapay zeka kullanımı konusunda etik değerlere bağlı kalmaya devam ettiğini vurguladı. Sözcü, Görünüşe göre Hamiltonın sözleri bağlamından koparılmış bir anektod yorumunu yaptı.
ABD ordusu son yıllarda Hava Kuvvetlerinde yapay zekanın kullanılabilmesi için çeşitli testler yürütüyor. Son zamanlarda F-16 savaş uçaklarının görevlerinde yapay zekanın kullanılmaya başlandığı biliniyor.
