Yapay zeka: Savaş ve seçimlerin yeni nesil silahı

Amaç araştırmasına göre, Rus-Ukrayna savaşı sırasında yapay zeka, politikacılar ve Ukraynalı askerlere yönelik tehditleri tespit etme platformu, “teslim” diyen veya “savaş suçlarını itiraf etmek” deep peynir videolarıyla gösteriliyor.

Tayvan'daki seçim dönemlerinde, politikacıların yanlış konuşmaları, üretilen skandallar ve hataya benzer, sosyal medyaya yayılmış ve hedeflenen Çin merkezli yapay zekanın yapay zeka içeriği.

Japonya'da yapay zeka, nükleer kazalar veya taşkın felaketleri ile üretilen doğal felaketlerin sahte görüntüleri gibi kurgular halka açık bir panik oluşturmak için kullanılır.

Bu olaylar, yapay zeka araçlarının bilinçsiz ve kontrol edilemeyeceği “yeni nesil silahlar” olarak bir kez daha gündeme getiriyor.

“Yapay zeka ürünlerini bilmek imkansız hale geldi”

AI'nin kurucu ortağı Francesco Cavalli, yapay zeka ile yaratılan vizyonların, videoların ve seslerin etkileri ve tehlikeleri hakkında değerlendirmeler yaptı.

Atlar, yapay zeka araçları gelişirken, neyin gerçek olmadığını anlamak daha zordur.

Yapay zeka ile üretilen içeriği anlamak için tutarsız aydınlatma, aşırı pürüzsüz cildin tutarlılığı, videolardaki ağızın gözleri veya hareketleri için yapay hareketler görünmesi önerilir.

“Yapay zekanın içeriği, özellikle düşük çözünürlüklü veya sıkıştırılmış formatlarda, insan gözleriyle tespitten kaçabilir. Yapay zeka tarafından yaratılan sesleri tanımak imkansızdır.” dedi.

Yapay zeka ile manipülasyon

Yapay zeka ile zaten taklit edilen seslerin bu sektördeki en yüksek riski oluşturduğu belirtilmektedir.

Dışişleri bakanı Marco Rubio'yu taklit eden bir dolandırıcı olan yapay zeka kullanarak, ABD politikacıları tarafından sıklıkla kullanılan ve üç farklı ülkenin dışişleri bakanlarıyla, Kongre ve bir vali ile temas kuran “sinyal” adlı bir mesaj başvurusunda Rubio adına yanlış bir rapordu.

Kullanımı kolay sesler ve algılama atların geç kaldığını, taklit seslerinin telefonda konuşulan kişiyi ikna etmek için kullanıldığını söyledi.

Midjourney ve pist gibi araçlar geliştikçe, gerçekliği tutarlı bir şekilde ayırt etmek zorlaşır.

“Üreticiler geliştikçe, eğitimli gözler kolayca aldatılabilir.” dedi.

“Seçim müdahalesi medyasında kullanılan yapay zeka üretimi olan politikacılar, savaş görüntülerini belgelediğimiz halkı manipüle etmek için sahtekarlık platformları ve yapay zeka üretimini tanıtan sahte basın konferansları uyguladılar.” Atlar, bu görüntüler genellikle yanlış haber siteleri, dedi sosyal medya reklamlarla.

Cavalli, “Tüm bu örneklerde yapay zeka tarafından desteklenen propaganda sadece deneysel bir tehdit değil, algıyı manipüle etmek, istikrarsızlaştırmak ve uygulamak için küresel bir silahtır”, Cavalli, Tayvan'da yapay zekanın kullanımı ile bağlantılı olan toplumları ifade eder. değerlendirildi.

Denetim Proaktif ve İşbirliği bir zorunluluktur

Şirketler ve teknolojik platformlar, yapay zekaya dayalı görsel dezenformasyonla mücadele etmek için harekete geçmeye çağrılır.

Platformlar bu soruna odaklanıyor, ancak çoğu “sağlam yargı inceleme sistemlerine sahip olamayan büyük ölçekli yapay medya”.

“Bazıları sahtekarlık kampanyalarından bilinçli olarak beliren Cavalli. Ancak, dış baskı müdahale ettiğinde. Anket teknolojisi tedarikçileri, platformları ve düzenleyicileri işbirliği yapmak için gereklidir”. dedi.

Cavalli, yapay zeka ile üretilen içeriğin “etiket” olmanın doğru yolu olmadığını söyledi:

“Yapay zeka ile oluşturulan içerik kendiliğinden zararlı değil, kullanımın yolu ve yeri önemlidir. Örneğin, sosyal medya platformlarının Deepphake reklamları için kontrol olmadan ağlarını kullanmaları için ağır cezalar uygulanmalıdır.

“Görmek artık inanmayacak anlamına gelmeyecek”

Hassasiyet tarafından geliştirilen sistemler, yüzün manipülasyonunun belirlenmesini, tamamen yapay zeka ile üretilen görüntülerin tespitini, taklit analizi ve yargı muayenesini içeren dört aşamalı bir analiz sürecine maruz kalmaktadır.

Bu analizlerin raporları resmi soruşturmalarda ve mahkemelerde kullanılabilir.

Cavalli, görsel medyaya olan güvenin yavaş yavaş azaldığını ve farkındalığın artması gerektiğini vurguladı.

Cavalli, insanların yapay zeka ile üretilen görüntü ve seslerin risklerine karşı eğitilmeleri gerektiğini ve şirketlerin, gazetecilerin ve araştırmacıların adli araçlarla donatılması gerektiğini vurguladı. Dedi.