İşyerlerinde çalışanların, okullarda öğrencilerin kullandığı yapay zeka, psikoterapiden araştırmaya ve hukuki belgelere kadar riskli sonuçlar doğurabilecek işlerde kullanılıyor.
Sohbet robotu Claude 2nin yapımcısı Anthropicin kurucu ortağı ve başkanı Daniela Amodei, yapay zekanın hatalı sonuçlar da üretebilmesine atıfta bulunarak Bugün halüsinasyon görmeyen herhangi bir model olduğunu düşünmüyorum diyor.
Anthropic, ChatGPTnin üreticisi OpenAI ve büyük dil modelleri olarak bilinen yapay zeka sistemlerinin diğer önde gelen mimarları sistemleri daha doğru bilgi verecek şekilde geliştirmeye çalıştıklarını söylüyor.
Bunun ne kadar süreceği ya da iyi olup olmayacağını ise zaman gösterecek.
McKinsey Küresel Enstitüsü, üretken yapay zekanın küresel ekonomiye 2,6 trilyon dolar ile 4,4 trilyon dolar arasında katkı sağlayacağını tahmin ediyor. Sohbet robotları, bu çılgınlığın yalnızca bir kısmını oluşturuyor.
Bu teknolojiye yeni görüntüler, videolar, müzikler ve bilgisayar kodları üretilmesi de dahil. Bu teknolojinin neredeyse tüm araçları bazı dil unsurlarını içeriyor.
Google, bilgilerin doğruluğunun çok önemli olduğu bir sektör olan haber kuruluşlarına, haber yazmaya yarayan bir yapay zeka sunmaya hazırlanıyor.
Associated Press (AP) haber ajansı da OpenAI ile ortaklığı kapsamında teknolojinin kullanılabileceği alanları değerlendiriyor. Bu çerçevede OpenAI da APnin metin arşivini yapay zeka sistemlerini iyileştirmek için kullanıyor.
Bilgisayar mühendisi Ganesh Bagler, Hindistanın otelcilik yönetimi kurumlarıyla ortak olarak yıllardır yapay zeka sistemleri almak için çalışıyor. Bunlara Güney Asya mutfağından tarifler üretecek ChatGPT öncülü bir sistem de dahil. Ancak bir yanlış bileşen yemeğin yenmeyecek kadar kötü olmasına neden olabilir.
OpenAI CEOsu Sam Altman, Haziran ayından Hindistanı ziyaret etti.
Altman, Baglerin yemek tarifleri konusunda kendisine sorduğu halüsinasyon sorunu sorusunu yanıtlarken, Halüsinasyon sorununu çok daha iyi bir noktaya getireceğimize inanıyorum. Bu bir buçuk ya da iki yıl alacaktır. Ama o noktada artık bunları konuşmuyor olacağız. Yaratıcılık ve doğruluk arasında bir denge var ve modelin hangisini istediğinizi öğrenmesi lazım dedi.
Bu teknolojiyi çalışan Washington Üniversitesi dil bilimcisi Emily Bender gibilerine göre yapay zeka teknolojisindeki iyileşme yeterli olmayacak.
Bender, bir dil modelini; kendisine eğitilmesi için verilen veriler doğrultusunda farklı kelime biçimleri dizilerinin olasılığını modellemek için oluşturulmuş bir istem olarak tanımlıyor.
Bendera göre yazım kuralı denetleyicileri, yanlış kelimeyi yazdığınızı bu şekilde algılayabilir. Bendera göre birçok kişi, yazılı mesaj veya e-posta oluştururken otomatik tamamlama özelliğini her kullandıklarında bu teknolojinin bir sürümüne güveniyor.
ChatGPT, Claude 2 veya Googleın Bardı gibi en son sohbet robotları, tamamen yeni metin pasajları oluşturarak bunu bir sonraki seviyeye taşımaya çalışıyor, ancak Bender, hala bir dizideki en makul sonraki kelimeyi tekrar tekrar seçtiklerini söylüyor.
Dil modelleri metin oluşturmak için kullanıldığında, bir şeyler uydurmak için tasarlandı. Yasal sözleşmeler, televizyon senaryoları veya soneler gibi yazı biçimlerini taklit etmede iyiler diyen Bender, Ama bazı şeyleri uydurdukları için, çıkardıkları metin bizim doğru kabul ettiğimiz bir şey olarak yorumlanabilir olduğunda, bu şans eseridir diye konuştu.
Kullanıcıların hataları fark etmesi zor olabilir
Bender bu modellerin başarısız olmaları durumunda metni okuyan bir kişinin fark etmesinin zor olduğu durumlarda olacağına dikkat çekti.
Microsoftun kurucu ortağı Bill Gates dahil tekno-iyimserler ise daha pembe bir tablo ortaya koyuyor.
Gates, Temmuz ayında yayınladığı bir blog yazısında yapay zekanın toplumsal riskleri hakkındaki düşüncelerini Zamanla yapay zeka modellerine gerçeği kurgudan ayırmanın öğretilebileceği konusunda iyimserim sözleriyle aktarmıştı.
Ancak OpenAI CEOsu Altman bile bilgi ararken modellerin doğruluğuna güvenmiyor.
Altman, Baglers Üniversitesindeki kalabalığa gülerek, Muhtemelen ChatGPTden çıkan yanıtlara dünya üzerindeki herkesten daha az güveniyorum dedi.
