Twitterın sahibi Elon Musk, Appleın kurucularından Steve Wosniak ve Center for Humane Technology (İnsancıl Teknoloji Merkezi) yöneticisi Tristan Harrisin de imzasının bulunduğu mektupta Güçlü yapay zeka sistemleri, ancak etkilerinin olumlu ve risklerinin yönetilebilir olacağından emin olduğumuzda geliştirilmelidir. denildi.
Mektupta Meta ve Alphabetin sahip olduğu DeepMind mühendislerinin yanı sıra, Stability AI tepe yöneticisi Emad Mostaque ile Yoshua Bengio ve Stuart Russell gibi yapay zeka uzmanlarının da imzasının bulunması dikkat çekti.
Öte yandan, ChatGPTyi geliştiren Microsoftun sahibi olduğu OpenAIın yöneticisi Sam Altmanın mektuba imza vermediği görüldü. ChatGPTnin yeni modeli GPT-4 yalnızca metin değil, görüntü ve metinden oluşan sorulara da yanıt verebiliyor.
Microsoft Bingin yapay zeka destekli arama motoru neden tartışma konusu?
Mektup, Future of Life Institute (Yaşamın Geleceği Enstitüsü) adlı bir sivil toplum kuruluşu tarafından yayınlandı. Avrupa Birliğinin şeffaflık siciline göre, enstitü Musk Vakfının yanı sıra Londra merkezli Founders Pledge ve Silikon Vadisi Toplum Vakfı tarafından finanse ediliyor.
Otomatik pilot sistemi için yapay zeka kullanan elektrikli araba üreticisi Teslanın sahibi Elon Musk, yapay zeka ile ilgili endişelerini sıklıkla dile getiriyor.
Mektupta ne deniyor?
Mektupta, yapay zeka laboratuvarlarının hiç kimsenin, hatta yaratıcılarının bile anlayamadığı, tahmin edemediği ya da güvenilir bir şekilde kontrol edemediği, her zamankinden daha güçlü dijital zihinler geliştirmek ve konuşlandırmak için kontrolden çıkmış bir yarışa kilitlenmiş durumda. denildi.
İnsanla rekabet etmek amacıyla geliştirilen yapay zeka sistemlerinin ekonomik ve siyasi bozulmalar şeklinde topluma ve uygarlığa yönelik potansiyel riskleri ayrıntılı olarak açıklayan mektupta şu ifadeler kullanıldı:
Makinelerin bilgi kanallarımızı propaganda ve gerçek dışı bilgilerle doldurmasına izin vermeli miyiz? Tatmin edici olanlar da dahil olmak üzere tüm işleri otomatikleştirmeli miyiz? Eninde sonunda sayıca üstün, akıllı, modası geçmiş ve bizim yerimizi alabilecek insan olmayan zihinler mi geliştirmeliyiz? Uygarlığımızın kontrolünü kaybetme riskini göze almalı mıyız?
Fransız Sciences Po üniversitesi intihali önlemek için chatGPTyi yasakladı
Bu tür kararların seçilmemiş teknoloji liderlerine devredilmemesi gerektiğinin altını çizen mektupta hükümetlerin duruma müdahale etmesi çağrısında bulunuldu.
Mektupta bu tür tasarımlar için ortak güvenlik protokolleri geliştirilinceye, uygulanıncaya ve bağımsız uzmanlar tarafından denetleninceye kadar gelişmiş yapay zeka geliştirilmesine ara verilmesi istendi.
Yapay zeka destekli arama ve yazışma botlarıyla ilgili uyarılar sürüyor.
Son olarak AB polis teşkilatı Europol ChatGPT gibi gelişmiş yapay zekaya ilişkin etik ve yasal kaygıları dile getirdi ve sistemin kimlik avı girişimleri, dezenformasyon ve siber suçlarda potansiyel kötüye kullanımı konusunda uyarıda bulundu.
İngiliz hükümeti de yapay zeka konusunda uyarlanabilir bir düzenleyici çerçeve için önerilerini açıkladı. Yeni yaklaşıma göre yapay zekayı yönetmek için teknolojiye adanmış yeni bir organ oluşturmak yerine, sorumluluk insan hakları, sağlık ve güvenlik ve rekabet düzenleyicileri arasında paylaştıracak.
