Yeni AI Ses Aracı Ünlülerin Ses Taklidini Kötüye Kullanıyor

01/02/2023 09:04 - 165
Yeni AI Ses Aracı Ünlülerin Ses Taklidini Kötüye Kullanıyor

Diyaloğa dayalı yapay zeka şirketi ElevenLabs kısa süre önce platformunun beta sürümünü yayınladı. Kullanıcıların metin okuma için tamamen yeni sentetik sesler oluşturmasına veya birinin sesini kopyalamasına olanak tanır. İnternetin ikincisini kötü amaçlarla kullanmaya başlaması yalnızca birkaç gün sürdü.
ElevenLabs, "yanlış kullanım durumları" ile ne kastettiklerini netleştirmedi, ancak Motherboard, ünlüler gibi okuyan ve uygunsuz şeyler söyleyen sentezlenmiş seslerin kliplerini içeren 4 kanallı bir gönderi buldu.

Örneğin, Emma Watson'ın My Struggle'dan bir pasajı okurken çekilmiş bir sesli görüntüsünü istiyorum. Kullanıcılar ayrıca homofobik, transfobik, şiddet içeren ve ırkçı görüşler içeren ses parçacıkları paylaştı. Tüm kliplerin ElevenLab teknolojisini kullanıp kullanmadığı belli değil, ancak 4chan gönderisinde konuşma kayıtlarının büyük bir koleksiyonu ve girişimin web sitesine bağlantılar yer alıyordu.


Bu "deepfake" ses dosyasının ortaya çıkışı, benzer bir olayın birkaç yıl önce meydana geldiği göz önüne alındığında sürpriz olmayabilir. Yapay zeka ve makine öğrenimindeki gelişmeler, derin sahte filmlerin, özellikle de mevcut cinsel görüntüleri ünlülerin yüzlerini kullanacak şekilde dönüştüren derin sahte pornoların çoğalmasına yol açtı. Evet, bu videoların bazılarında Emma Watson'ın yüzü kullanılmış.