Daha sadece yılın ilk ayı olmasına rağmen bu cephede iki yeni gelişme gördük bile. Snapchat 166 milyon dolar karşılığında bilgisayar görüşüne sahip start-up bir şirket olan Al Factory’i satın alıp, Tik-Tok’un “Deepfake” ismi verilen tarzdaki app’i sayesinde kullanıcıların önceden kaydedilmiş kendi görüntüleri üzerine yerleştirilmiş yüzleriyle yeni videolar oluşturmalarına olanak tanıdı.

İlk olarak, Snapchat-Snap yakın zamanda piyasaya sürülen, kullanıcıların önceden kurgulanmış görüntüler üzerine yüzlerini yükleyebildikleri Cameo özelliğini geliştiren Al Factory’i satın aldı. Bu satın alma, Snaphat’in ileride de insan görüntüsünün video içeriği üzerine bindirme özelliği üzerinde yol boyunca daha da ilerlemek isteyeceğinin ve kapasitesini arttıracağının sinyallerini verdi.

TechCrunch’a göre bu sırada TikTok ise kullanıcılardan yüzlerinin çok açılı, biyometrik taramasını almalarını isteyen ve daha sonra görüntülerini bir video seleksiyonuna eklemelerini sağlayan daha doğrudan bir Deepfake tarzı özellik üzerinde çalışıyor. Özellik, kullanıcıların görüntülerini bir dizi film sahnesine yüklemelerini sağlayan video düzenleme uygulaması ZAO’ya benziyor. Her ne kadar bu gelişmelerin her ikisi de bir miktar endişe taşıyor olsa da, son bir kaç yılda video teknolojisinde ve kullanıcıların mevcut video içeriği üzerinde başkalarının yüzlerini kullanmasına olanak tanıyan önemli gelişmeler gördük.

Bu uygulamalar hala yüzde yüz net bir şekilde olmasa da, örneğin şu an için kenarların hafifçe bulanıklaşması ya da bazı yerlerin parladığı kısımların olması ileride teknolojinin bu hızla gelişmesiyle bunların iyileştirilip farklı sonuçlar doğuran yollara gidebileceğini de gösteriyor. Şu an sadece eğlence için olduğu varsayılsa da teknolojinin ilerde daha kötü amaçlar için kullanıldığını hayal etmek zor değildir. Örneğin bir politikacının yapmadığı bir şey söylediğini göstermek, ya da bir iş insanının veya da bir ünlünün zor durumlara düşmesi bu gibi teknolojilerin iyileşmesi ile mümkün olacaktır. Ve daha da kötüsü böyle bir videonun geriye dönük olarak sahte olduğu kanıtlanmış olsa bile, kişiye verilmiş olan hasar açısından çok geç olabilir. Böyle bir durum yüzünden zarar görebilme potansiyeli önemlidir.

Bu yüzden Facebook, Google ve Twitter bağımsız olarak, yanlış yorumlamayı önlemek için Deepfake’lerin nasıl tespit edileceği ve vurgulanacağı konusunda önleyici araştırmalar yapıyorlar. Bu da TikTok ve Snapchat’in kendi doğal araçlarında varyasyonlarını kolaylaştırmak için çalışmasını biraz garip hale getiriyor.

Snapchat açısından, Cameo özelliği daha çizgi filmlidir, gerçekliğe değil de daha çok animasyona dayanmaktadır, bu nedenle bir amaç için kullanıldığını görmek zordur. Fakat TikTok’un benzer varyasyonu kötü amaçlara yönelik kullanılabilir olma açısından önemlidir ve daha da kötüsü, bu amaçla TikTok (veya daha spesifik olarak ‘Douyin’ uygulamasının Çince versiyonu) içine yüklenen biyometrik verilere Çin Hükümeti tarafından kimlik amaçlarıyla kullanılmak üzere erişilebilir.

Bu yüzden Çin’in gelişmiş gözetim tedbirleri insan hakları grupları tarafından eleştirildi, Çin’li yetkililerin ülkedeki Uygur Müslümanları’nın faaliyetlerini izlemek ve kontrol etmek için dijital yüz taramaları kullandıkları bildirildi. Çin vatandaş gözetim ağının, gelişmiş yüz tanıma kapasitesi ile donatılmış olduğu bildirilen, ülkedeki her 12 kişiden birine düşen 170 milyondan fazla CCTV kamerası olduğu bildirildi.
Kısacası yüz tarama verilerinizi Douyin’e yüklemek, Çin Hükümeti’nin bu verilere erişmesi ve bunları izleme amaçları için kullanması için en kolay yol gibi görünüyor.

TikTok’un ana şirketi ByteDance, TechCrunch ile yeni özellik için iletişime geçildiğinde, bu Deepfake tarzı seçeneğin TikTok’a geleceğini kesinlikle reddetti ve şu uyarı bildirgesini yayınladı.
Deepfake kesinlikle TikTok’ta bir fonksiyon değil, onu tanıtmak gibi bir niyetimiz de yok. Sanırım baktığınız şey Douyin için planlanmış bir şey. (e-postanızda Douyin’den gelen ekran görüntüleri ve Douyin’den bahseden bir gizlilik politikası var) ”

Yani bunun sadece Çinli kullanıcılar için olduğunu, TikTok için olmadığını! belirtmişler.

TechCrunch, yeni özellik için belgelerin TikTok içinde kesinlikle mevcut olduğunu ve bunun en azından bir aşamada daha geniş bir sunum için planlandığını önerdiğini de belirtti. Ama şu anda, sadece Çinli kullanıcılar görüntüleyebilecek gibi görünüyor.

Yukarıda da belirtildiği gibi, suanda uygulamayı sadece Çinli kullanıcıların görüntüleyebilecek olması durumu daha iyi yapmıyor. Kesinlikle Deepfake tarzı uygulamaların ilginç ve eğlenceli uygulamalar olduklarını ve aynı zamanda çok da popüler olduklarını hayal edebilirsiniz. Ancak, bunları bu kadar kolay erişilebilir hale getirmenin de önemli riskleri vardır. Ama zaten benzer uygulamalar farklı aplikasyonların içerisinde zaten günümüzde mevcut. Peki TikTok ve Snapchat, insanlar başka bir yerde aynı şeyi kullanabildiklerinde bu etkileşimi kaçırmalılar mı? Her platformun bu açıdan olası kötüye kullanımı kolaylaştırmak için ne gibi bir sorumluluğu olmalıdır? Maalesef bunların kolay cevapları yok ve gerçek şu ki, tüm büyük teknoloji oyuncuları tarafından uyarıldığımız için, Deepfakes yakın zamanda bir sorun haline gelecek. Sonuç olarak da bizler bu potansiyel etkileri önlemek için yine aynı platformların gelişmiş algılama araçları sağlamalarını bekleyip, onlara bu konuda güvenmemiz gerekiyor.