Bir ay önce, danışmanlık şirketi Accenture, potansiyel bir müşteriye yeni bir proje için sıradışı ve dikkat çekici bir sunum yaptı. Geleneksel slayt sunumları yerine, müşteri sanal bir sahnede duran birkaç gerçek çalışanın taklitlerini gördü.
Fikri ortaya atan Accenture'un üst düzey yönetici direktörlerinden Renato Scaff "Firmamızı tanımalarını istedim," derken, "Ayrıca, rekabetten kendimizi ayırt etmenin bir yolu da bu."
Derin taklitler, Touchcast tarafından—çalışanların onayı ile—üretilmiştir. Accenture'un yatırım yaptığı bir şirket olan Touchcast, gerçek veya sentetik insanların avatarlarını içeren etkileşimli sunumlar sunan bir platform sunar. Touchcast'in avatarları, ilgili bilgileri analiz eden ve anında cevaplar üreten AI modellerini kullanarak yazılı veya sözlü sorulara yanıt verebilir.
"Söz konusu deepfake çalışanlarımızın bir korkutma unsuru var," diyor Scaff. "Ancak rahatlatıcı yönü daha fazla." diye de ekliyor.
Deepfakeler yanlış bilgi edinme ve şahsi itibarın zarar görmesi açısından güçlü ve tehlikeli bir silahtır. Ancak aynı teknoloji, onu müşterilere ulaşmanın ve etkileşim kurmanın akıllıca ve çekici yeni bir yolunu gören şirketler tarafından benimsenmektedir.
Bu deneyler sadece kurumsal sektörle sınırlı değil. Londra'daki Imperial College Business School'un İnovasyon, Dijital Eğitim ve Analitik Laboratuvarı'nın İcra Direktörü Monica Arés, sınıf dışında öğrencilerin sorularını daha ilgi çekici ve etkili bir şekilde yanıtlayabilecek gerçek profesörlerin deepfakelerini oluşturdu. Arés, teknolojinin kişiselleştirmeyi artırma, öğrencileri yönetme ve değerlendirme konusunda yeni yollar sunma ve öğrenci katılımını artırma potansiyeline sahip olduğunu belirtiyor. Ayrıca "Sizinle konuşan bir insanın benzerini buluyorsunuz, bu yüzden çok doğal hissettiriyor," diyor.
Günümüzde sıklıkla olduğu gibi, gerçekliğin bu çözülmesinden AI'yı sorumlu tutabiliriz. Hollywood stüdyolarının uzun zamandır yazılımlarla oyuncuların seslerini, yüzlerini ve tavırlarını kopyaladığı bilinen bir gerçekti ancak son yıllarda AI, benzer teknolojiyi geniş kitlelere erişilebilir ve neredeyse ücretsiz hale getirmiştir. Touchcast'in yanı sıra, Synthesia ve HeyGen gibi şirketler işletmelere sunumlar, pazarlama ve müşteri hizmetleri için gerçek veya sahte kişilerin avatarlarını oluşturmanın bir yolunu sunmaktadır.
Touchcast'in kurucusu ve CEO'su Edo Segal, dijital avatarların içerik sunmanın ve etkileşimde bulunmanın yeni bir yolu olabileceğine inanıyor. Şirketi, herkesin kendi dijital ikizini oluşturmasına izin verecek bir yazılım platformu olan Genything'i geliştirmiştir.
Aynı zamanda, seçimlerin birçok ülkede, özellikle de ABD'de yaklaşmasıyla derin sahtecilik büyük bir endişe haline geliyor. Geçen ay, sahte bir Joe Biden'i içeren AI tarafından üretilen robocall, yaklaşan seçim hakkında yanlış bilgi yaymak için kullanıldı. Taylor Swift de son zamanlarda yaygın olarak bulunan AI görüntü araçları kullanılarak oluşturulan deepfake pornonun hedefi oldu.
Beyaz Saray Yapay Zeka Özel Danışmanı Ben Buchanan, deepfake görüntülerin kesinlikle endişe verici ve korkutucu olduğunu söylerken Swift'in deepfake görüntüleri için de "kadınları ezici bir şekilde hedefleyen çevrimiçi taciz ve kötüye kullanımın aşırı derecede etkilendiği daha geniş bir trendin önemli bir veri noktasıdır" dedi.
Geçen Ekim ayında yayımlanan Beyaz Saray kararnamesiyle oluşturulan yeni bir ABD AI Güvenlik Enstitüsü, AI tarafından üretilen medyanın filigranlanması için standartlar geliştirmektedir. Meta, Google, Microsoft ve diğer teknoloji şirketleri de yüksek riskli bir AI silah yarışına dönüşen AI sahteciliklerini tespit etmek için teknoloji geliştirmektedir.
Ancak, bazı siyasi kullanımlar deepfake teknolojinin güçlü potansiyelini ortaya koymaktadır.
Pakistan'ın eski başbakanı İmran Khan, geçen Cumartesi günü partisinin takipçilerine coşkulu bir konuşma yaptı, ancak aslında hapishanedeydi. Eski kriket yıldızı, partisi tarafından bir askeri darbe olarak nitelendirilen hapis cezasıyla karşı karşıya kaldı, ancak aslında söylemediği kelimeleri söyleyen inandırıcı bir kopyasını oluşturan deepfake yazılımı kullanarak konuşmasını yaptı.
AI destekli video manipülasyonu geliştikçe ve kullanımı kolaylaştıkça, teknolojinin meşru kullanımlarına olan iş ve tüketici ilgisi büyüme eğiliminde olacaktır. Çin teknoloji devi Baidu, sohbet botu uygulamasını kullanan kullanıcılar için deepfake sohbetler oluşturmanın bir yolunu geliştirdi.
Deepfake teknolojisini benimseyenler için bile, bu teknolojinin kötüye kullanım potansiyeli tamamen akıldan çıkmış değil. "Kuşkusuz güvenliğin birinci öncelik olması gerekiyor," diyor Accenture'un Scaff'i. "Bir sentetik ikiziniz olduğunda, onları herhangi bir şeyi yapmak ve söylemek için kullanabilirsiniz." diye de ekliyor.
Robocall nedir?
Robocall, bilgisayar sistemi üzerinden otomatik yapılan ve önceden kaydedilmiş bir mesajı paylaşan aramalara verilen isimdir.
Deepfake nedir?
Deepfake, mevcut bir görüntü veya videoda yer alan bir kişinin, yapay sinir ağları kullanarak bir başka kişinin görüntüsü ile değiştirildiği bir medya türüdür.
