Bir ay önce danışmanlık şirketi Accenture, potansiyel bir müşteriye yeni bir proje için alışılmadık ve dikkat çekici bir sunum sundu. Müşteri, her zamanki slayt gösterisi yerine, birkaç gerçek çalışanın sanal bir sahnede durduğu ve üzerinde çalışmayı umdukları projenin mükemmel bir şekilde sunulmuş açıklamalarını sunan deepfake'lerini gördü.
Bu fikri ortaya atan Accenture'un kıdemli genel müdürü Renato Scaff, "Ekibimiz ile tanışmalarını istedim" diyor. “Bu aynı zamanda kendimizi rekabetten farklılaştırmamızın bir yolu.”
Deepfake'ler, çalışanların rızasıyla, Accenture'ın yatırım yaptığı ve gerçek veya sentetik kişilerin avatarlarını içeren etkileşimli sunumlar için bir platform sunan Touchcast şirketi tarafından oluşturuldu. Touchcast'in avatarları, ilgili bilgileri analiz eden ve anında yanıtlar üreten yapay zeka modellerini kullanarak yazılan veya konuşulan sorulara yanıt verebilir.
Scaff, deepfake çalışanları hakkında "Bir miktar tüyler ürpertici" diyor. “Ama daha büyük bir havalılık unsuru var.”
Deepfake'ler, dezenformasyon ve itibara zarar verme açısından güçlü ve tehlikeli bir silahtır. Ancak aynı teknoloji, onu müşterilere ulaşmanın ve onlarla etkileşim kurmanın akıllı ve akılda kalıcı yeni bir yolu olarak gören şirketler tarafından da benimseniyor.
Bu deneyler sadece kurumsal sektörle sınırlı değil. Londra'daki Imperial College Business School'daki İnovasyon, Dijital Eğitim ve Analitik Laboratuvarı'nın genel müdürü Monica Arés, gerçek profesörlerin deepfake'lerini oluşturdu ve bunların öğrencilerin sorularını ve sorgularını okul dışında yanıtlamanın daha ilgi çekici ve etkili bir yolu olabileceğini umuyor. sınıf. Arés, teknolojinin kişiselleştirmeyi artırma, öğrencileri yönetme ve değerlendirme için yeni yollar sağlama ve öğrenci katılımını artırma potansiyeline sahip olduğunu söylüyor. "Hala sizinle konuşan bir insana benziyorsunuz, bu yüzden bu çok doğal geliyor" diyor.
Bugünlerde çoğu zaman olduğu gibi, gerçekliğin bu şekilde çözülmesi için yapay zekaya teşekkür borçluyuz. Hollywood stüdyolarının oyuncuların seslerini, yüzlerini ve tavırlarını yazılımla kopyalaması uzun zamandır mümkündü, ancak son yıllarda yapay zeka benzer teknolojiyi geniş çapta erişilebilir ve neredeyse ücretsiz hale getirdi. Touchcast'in yanı sıra Synthesia ve HeyGen gibi şirketler de işletmelere sunumlar, pazarlama ve müşteri hizmetleri için gerçek veya sahte kişilerin avatarlarını oluşturmanın bir yolunu sunuyor.
Touchcast'in kurucusu ve CEO'su Edo Segal, dijital avatarların içerik sunmanın ve içerikle etkileşim kurmanın yeni bir yolu olabileceğine inanıyor. Şirketi, herkesin kendi dijital ikizini yaratmasına olanak sağlayacak Genything adında bir yazılım platformu geliştirdi.
Aynı zamanda, ABD de dahil olmak üzere pek çok ülkede seçimler yaklaşırken deepfake'ler büyük bir endişe kaynağı haline geliyor. Geçen ay, sahte Joe Biden'ın yer aldığı yapay zeka tarafından oluşturulan otomatik çağrılar, seçimle ilgili dezenformasyonu yaymak için kullanıldı. Taylor Swift ayrıca yakın zamanda yaygın olarak bulunan AI görüntü araçları kullanılarak oluşturulan deepfake pornolarının hedefi haline geldi.
Beyaz Saray Yapay Zeka Özel Danışmanı Ben Buchanan , WIRED'e yakın tarihli bir röportajda "Deepfake görüntüleri kesinlikle endişe verici ve endişe verici bulduğumuz bir şey" dedi. Swift deepfake'i "çoğunlukla çevrimiçi taciz ve istismarın hedefi olan kadınları ve kızları orantısız bir şekilde etkileyen daha geniş bir trendin önemli bir veri noktasıdır" dedi.
Geçtiğimiz Ekim ayında yayınlanan Beyaz Saray idari emri kapsamında oluşturulan yeni bir ABD Yapay Zeka Güvenliği Enstitüsü , şu anda yapay zeka tarafından oluşturulan medyaya filigran eklemeye yönelik standartlar geliştiriyor. Meta, Google, Microsoft ve diğer teknoloji şirketleri de, yüksek riskli bir yapay zeka silahlanma yarışına dönüşen bu ortamda yapay zeka sahtekarlıklarını tespit etmek için tasarlanmış teknolojiler geliştiriyor.
Ancak deepfakery'nin bazı siyasi kullanımları, teknolojinin ikili potansiyelini vurguluyor.
Pakistan'ın eski başbakanı İmran Han, parmaklıklar ardında kalmasına rağmen geçen Cumartesi günü partisinin yandaşlarına bir miting konuşması yaptı . Partisinin askeri darbe olarak nitelendirdiği bir olayda hapse atılan eski kriket yıldızı, konuşmasını, kendisinin masanın arkasında otururken gerçekte hiç söylemediği sözleri söylediğinin ikna edici bir kopyasını canlandıran deepfake yazılımını kullanarak yaptı.
Yapay zeka destekli video manipülasyonu geliştikçe ve kullanımı kolaylaştıkça, iş dünyasının ve tüketicilerin teknolojinin meşru kullanımına olan ilgisi muhtemelen artacaktır. Çinli teknoloji devi Baidu, yakın zamanda chatbot uygulamasının kullanıcılarının Ay Yeni Yılı tebriklerini göndermek için deepfake oluşturmaları için bir yol geliştirdi .
Erken benimseyenlerin bile kötüye kullanım potansiyeli tamamen göz ardı edilmiş değil. Accenture'dan Scaff, "Güvenliğin en üst seviyede olması gerektiğine şüphe yok" diyor. "Sentetik bir ikiziniz olduğunda, onlara her şeyi yaptırabilir ve söyletebilirsiniz."
