Cinayet sonucu hayatını kaybeden bebek ve çocukların yapay zekayla canlandırıldığı ve konuşturulduğu videolar sosyal paylaşım sitesi TikTokta paylaşılıyor. Çocukların yakınlarının izni olmadan üretilen ve paylaşılan bu videolarda çocuklar ve bebekler nasıl öldürüldüklerini anlatıyor. BBCnin yaptığı araştırmaya göre, TikTokun yasağına rağmen benzer içerikler platformda hâlâ paylaşılıyor. TikTok yetkilileri, videoların tamamını tespit etmelerinin mümkün olmadığını savunuyor.
İKİMİZ DE VİDEOYU SONUNA KADAR İZLEYEMEDİKTikTok, çocukların yapay zeka ile oluşturulmuş videolarının platformunda paylaşılmasını mart ayında yasaklamıştı. Ancak çocuk cinayeti videoları nisan ayından bu yana TikTokta yayılmaya devam ediyor. BBCnin araştırması, yasakla ilgili olarak bazı TikTok çalışanlarının bile kafalarının karışık olduğunu ortaya koydu.
BBCye konuşan TikTokun içerik moderatörlerinden biri, yasağın devreye girmesinden bu yana kendisine kural değişikliğiyle ilgili bilgi verilmediğini söyledi. Yapay zeka ile üretilen bu videoların bazıları aylarca platformda dolaştı, bazıları milyonlarca kez izlendi.
Çocukların yakınları bu videoların ortaya çıkmasından kısa süre sonra şikayetlerini dile getirmeye başladı. Kanadalı Amélie Lemieux, kaygılarını dile getiren ilk kişilerden biriydi. Lemieuxnün eşi, Temmuz 2020de 6 ve 11 yaşındaki kızları Romy ve Norahı öldürüp ardından intihar etmişti. Nisan ayında TikTokta Norahnın öldürüldükleri anı anlattığı bir videoyu gördü. Lemieux, yaşadıklarını şu sözlerle anlattı:
Hayal edebileceğiniz en kötü yumruktan bile daha kötü bir yumruk yemiş gibiydim. Ne ben ne de erkek kardeşim videoyu sonuna kadar izleyebilir. Durması için bağırıyordu.
TEK İSTEDİKLERİ İZLENME, BEĞENİ, PAYLAŞIM...Çok sayıda kişi TikToka videoyla ilgili şikayette bulundu. Ancak video platformda dolaşmaya devam etti. Nihayetinde Lemieuxnün durumu gazetecilerin ilgisini çekti, videoyu paylaşan anonim hesap silindi. Lemieux videoyu kimin yaptığını bulamadı. Lemieux, Birinin bu kadar rahatsız edici, bizi geri kalan günlerimizde eksik hissettirecek bir şeyi kullanması inanılmaz derecede şok edici. Tek istedikleri izlenme, beğeni, paylaşım. Ve aşağıya yorum bırakan insanlar. Kişisel olarak bunu affedemem diye konuştu.
Yapay zeka yazılımlarının gittikçe daha erişilebilir hale gelmesi, bu videoların üretilmesine imkan tanıyor. Yazılımlar sayesinde kolaylıkla bir insan figürü oluşturup ona belli bir metni söyletebiliyorsunuz. Hayatını kaybedenlerin görsellerinin bazıları gerçek hayattakilere benzemiyor ancak bazılar gerçek hayattaki insanları baz alıyor.
Videoları yapanlar anonim olsa da BBC, yapımcılardan birinin Londrada yaşayan Ritul adlı bir erkek öğrenci olduğunu tespit etti. Ritul, YouTubeda hikaye anlatımlı videoların TikTokta takipçi kazanmak için hızlı bir yol olduğunu söyledi. Ritul, Sadece yapay zeka kullandığımız hikaye anlatımlı videolarla binlerce ve binlerce takipçi kazandım. 3 haftadan az sürede 47 bin takipçi kazandım bilgisini paylaştı. BBCnin konuyla ilgili yorum talebini reddeden Ritulun hesabı TikTok tarafından silindi.
TİKTOK, OLANLARI NASIL AÇIKLIYOR?Bazı çocukların hikayeleri Portekizce, İspanyolca, Fransızca, Almanca, İtalyanca ve Lehçe dahil birçok dilde yayımlanan videolara konu oldu. BBC, 2 ay boyunca 1993te İngilterenin Merseyside bölgesinde kendisinden büyük iki çocuk tarafından öldürülen 2 yaşındaki İngiliz James Bulgerın yapay zeka versiyonlarını içeren 170 farklı TikTok videosunu keşfetti.
Temmuz ayında Jamesin annesi Denise Fergusun bir gazeteye verdiği demeçte oğlunu konu alan videoları hastalıklı olmanın da ötesinde diye nitelendirmesiyle TikTok trendi İngilterede manşetlere taşındı. TikTok, videoları toplu olarak kaldırdıktan sonra yaptığı açıklamada, Platformumuzda bu tür rahatsız edici içeriklere yer yok. Bu tür içerikleri tespit ettikçe kaldırmaya devam ediyoruz ifadelerini kullandı.
YASAK RESMİ OLARAK İLETİLMEDİJamesin kaldırılan videoları arasında Vietnamca iki video da vardı. Bunlardan biri 4 milyon kez izlenmişti. BBC, isminin gizli kalması koşuluyla konuşmayı kabul eden Vietnamdaki bir TikTok içerik moderatörüyle konuştu. Videoların kaldırılmasından 2 hafta sonra bile şirketin kendisine bu tür içeriklerin yasaklandığını resmi olarak söylemediğini belirtti. Moderatöre göre, videoların paylaşılmasına TikTokun sömürü ve istismardan kurtulanların hikayelerini paylaşmalarına izin veren kuralları kapsamında izin verilmiş olabilir.
TikTok, moderatörün bu videoların hayatta kalanların deneyimleri olarak platformda yayınlanmasına izin verilebileceği önermesinin hatalı olduğunu açıkça belirtti. Çünkü bunlar, gerçek hayatta kalanların deneyimlerinden ziyade, ölen çocukların bilgisayar tarafından oluşturulmuş görüntüleriydi. Bu tür videolar TikTokta hâlâ kolaylıkla bulunabiliyor. Ancak TikTok, platformunda yayımlanan her şeyi yakalayamayacağı konusunda oldukça açık olduğunu söylüyor.
