Facebookun çatı kuruluşu Meta ile IBM, bugün, yapay zeka teknolojisinin geliştirilmesi alanında ”açık bilim” yaklaşımını savunan Yapay Zeka İttifakı (AI Alliance) adlı yeni bir grup kurduklarını açıkladı. Meta ve IBMin yapay zeka geliştirmede “açık bilimi” savunduğu konum, rakip firmalar Google, Microsoft ve ChatGPTnin tasarımcısı OpenAI ile ters düşüyor.
Açık kaynak ve kapalı kaynak savunucuları olarak ikiye ayrılan şirketler, yapay zekanın tabanını oluşturan teknolojinin geniş kitlelere açık olup olmaması konusunda farkı düşünüyor. Tartışmanın odak noktasını güvenlik oluştursa da yapay zeka teknolojilerindeki gelişmelerden kimin kar elde edeceği de sıkça tartışılıyor.
IBMın araştırma bölümünü yöneten Başkan Yardımcısı Dario Gil, açık kaynak savunucularının “tescilli ve kapalı olmayan” yaklaşımı benimsediklerini söylüyor.
“Açık kaynak” terimi, adını, yazılım kodunun ücretsiz olduğu ya da isteyen herkesin inceleyebilmesi, değiştirebilmesi ya da üzerine inşa edebilmesi için erişime açık olduğu, uzun yıllar öncesine dayanan yazılımcılık teriminden alıyor.
Açık kaynaklı yapay zeka ise yazılım kodundan daha fazlasını içeriyor. Yazılım mühendisleri, yapay zeka teknolojisinin hangi parçalarının kamuoyuna açık olması ve bu kaynağın kullanımını kısıtlayacak unsurlar olup olmaması gerektiği konusunda farklı görüşlere sahip.
IMB ve Metanın başını çektiği açık kaynak savunucusu AI Alliance; Dell, Sony, çip üreticileri AMD ve Intel ile bazı üniversiteleri ve yeni kurulan yapay zeka şirketlerini kapsıyor. IBMden Dario Gil, AI Allianceın açılışını yapmadan önce Associated Presse verdiği demeçte, yeni grubun “yapay zekanın geleceğinin fikirlerin açık bilimsel paylaşımı, açık yenilikçilik, açık kaynak ve açık teknolojiler üzerine inşa edilmesini savunduğunu” söyledi.
ChatGPTnin ve görsel üreticisi DALL-Enin tasarımcısı OpenAI ise kapalı yapay zeka sistemleri geliştiriyor.
OpenAIın eş kurucusu ve bilimsel araştırmalar baş sorumlusu Ilya Sutskever, Nisan ayında Stanford Üniversitesine verdiği demeçte, açık kaynağa karşı ticari teşvikler olduğunu belirtmişti. Sutskever, bir yapay zeka sisteminin çok güçlü becerilere sahip olabileceğiyle ilgili uzun vadeli kaygılar da olduğunu, bu becerilerin kamuoyuna açık olmasının tehlikeli olacağını da söylemişti.
Sutskever, açık kaynağın tehlikelerine dikkat çekmek için kendi biyolojik laboratuvarını kurmayı öğrenen bir yapay zeka sistemi varsayımında bulunmuştu.
Açık kaynaklı yapay zeka tehlikeli mi?
Berkeleydeki California Üniversitesinden David Evan Harris, mevcut yapay zeka modellerinin bile riskler barındırdığını, örneğin demokratik seçim sürecini bozmak için dezenformasyon kampanyalarında kullanılabileceğini söylüyor.
Harris, “Açık kaynak, teknolojinin birçok boyutu açısından gerçekten olağanüstü, ancak yapay zeka farklı” diyor.
Harris, “Oppenheimer filmini izleyen herkes bilir ki büyük bilimsel keşifler yapılırken tüm bu verilerin yanlış kişilerin eline geçmemesi için ayrıntıların ne kadar kapsamlı parlaşılacağı konusunda iki kez düşünmek için çok sebep vardır” ifadelerini de kullanıyor.
Metanın sosyal medya politikalarını eleştiren İnsani Teknoloji Merkezi, açık kaynağın ya da sızdırılan yapay zeka modellerinin risklerine dikkat çeken gruplardan biri.
Grubun yetkililerinden Camille Carlton, “Şu anda hiçbir önlem yokken bu modelleri kamuoyuyla paylaşmak son derece büyük sorumsuzluk” diyor.
Korku simsarlığı mı yapılıyor?
Yapay zeka geliştirmede açık kaynak yaklaşımını benimsemenin faydaları ve tehlikeleri konusundaki tartışmalar giderek artıyor.
Metanın yapay zeka dilim sorumlusu Yann LeCun, sosyal medya üzerinden OpenAI, Google ve Anthropic firmalarını hedef alarak, bu firmaların kuralları, yapay zeka geliştirmede güçlerini birleştirecek şekilde oluşturduklarını kaydetmişti. OpenAIın ana ortağı Microsoft, Google ve Anthropic, Frontier Model Forum adını verdikleri kendi gruplarını kurdu.
LeCun, X paylaşımında, yapay zekayla ilgili “kıyamet senaryolarının” oluşturduğu korkunun, yapay zeka araştırmalarında açık kaynak yaklaşımın yasaklanmasını savunanların eline koz verdiğini söylemişti.
“Yapay zeka sistemlerinin tüm insan bilgi ve kültürünün havuzunu oluşturacağı bir gelecekte, platformların açık kaynaklı olmasına ve isteyen herkesin bunlara katkı sağlayacak şekilde erişilmesine ihtiyacımız var” diyen LeCun, “Açıklık, yapay zeka platformlarının insan bilgisi ve kültürünün tamamını yansıtmasının tek yoludur” ifadesini kullanmıştı.
