Çevrimdışı

Yapay zeka (AI) araçları, son yıllarda oldukça gelişmiş ve etkileyici hale gelmiş durumda. Aralarında en bilinenlerinden biri Midjourney olan yapay zeka destekli metinden görsel oluşturma araçları, son aylarda sosyal medyadaki en fazla viral olan paylaşımların yaratılmasını sağladı. Özellikle, yapay zeka tarafından üretilen sahte görüntülerin ve videoların viral olarak yayılması, insanların gerçeği yanlış şekilde algılamasına ve manipülasyona açık hale gelmesine neden oluyor. Mez/dezenformasyonun karşımıza en çok çıkmaya başlayan yeni bir türü olan yapay zeka ile oluşturulmuş görselleri ayırt etme yolları da dolayısıyla en çok konuşulan konulardan oldu. Bu metinde The NY Times’ta Stuart A. Thompson ve Tiffany Hsu tarafından hazırlanan 28 Haziran 2023 tarihli “AI Tespit Araçlarını Aldatmak Ne Kadar Kolay?” yazısının çevirisi yer almaktadır.
Papa Balenciaga mont giymedi. Ve film yapımcıları ay inişini sahte bir şekilde yansıtmış değiller. Ancak son aylarda yapay zeka tarafından oluşturulan bu tür sahnelerin şaşırtıcı derecede gerçekçi görüntüleri, internet kullanıcılarının gerçeği kurgudan ayırmasına ek zorluklar eklemiş gibi duruyor.
Bu karmaşayı çözmek için, hızla büyüyen çeşitli şirketler artık gerçeği ve gerçek dışını ayırt etmek için hizmetler sunmaya başladı. Bu araçlar, sofistike algoritmalar kullanarak içerikleri analiz ediyor ve bilgisayarlar tarafından üretilen görüntüleri insan fotoğrafçıları ve sanatçılar tarafından üretilenlerden ayırt etmek için ince sinyalleri tespit etmeyi amaçlıyor.
Ancak bazı teknoloji liderleri ve yanlış bilgi uzmanları, yapay zeka alanındaki gelişmelerin her zaman araçlardan bir adım önde olacağı konusunda endişelerini dile getirmeye devam ediyor. The New York Times, mevcut yapay zeka tespit teknolojisinin etkinliğini değerlendirmek için 100'den fazla sentetik görüntü ve gerçek fotoğraf kullanarak beş yeni hizmeti test etti. Sonuçlar, hizmetlerin hızla ilerlediğini, ancak bazen eksik kaldığını gösteriyor.
Şu örneği inceleyelim:

Yapay Zeka Görsel Tespit Araçlarını Aldatmak Ne Kadar Kolay?
Milyarder girişimci Elon Musk'ın gerçekçi bir robotu öptüğünü gösteren görüntü, Midjourney tarafından Guerrero Art adlı bir sanatçı tarafından yapay zeka destekli oluşturulmuş. Görüntünün inandırıcılığının düşük olmasına rağmen, birkaç yapay zeka görsel tespit programını kandırmayı başardı. Aşağıda 5 ayrı yapay zeka görsel tespit programının bu görsele yönelik sonuçları yer alıyor ve 5 tanesinden 2’sinin görüntüyü “gerçek” olarak sınıflandırdığı görülüyor.

Yapay Zeka Görsel Tespit Araçlarını Aldatmak Ne Kadar Kolay?
Sensity gibi ücretli erişim sunan sürümler ve Umm-maybe'nin A.I. Sanat Tespitçisi gibi ücretsiz olanlar da dahil olmak üzere tespit cihazları, yapay zeka tarafından oluşturulan görüntülerde zor tespit edilebilen işaretleri saptamak için tasarlanmıştır. Keskinlik ve kontrast da dahil olmak üzere, piksellerin nasıl düzenlendiği konusunda olağandışı desenler ararlar. Görsellerdeki bu gibi sinyaller genellikle görüntüler yapay zeka ile oluşturduğunda meydana gelir. Ancak yapay zeka ile oluşturulmuş görselleri yine yapay zeka kullanarak tespit etmeye çalışan bu “dedektörler”, tüm bağlam ipuçlarını yok sayarlar. Bu nedenle, Elon Musk'ın olduğu bir fotoğrafta gerçekçi bir robotun öpüştüğü resmin varlığını olasılık dışı olarak işlemezler. Bu, sahte görüntüleri tespit etmek için teknolojiye güvenmenin bir eksikliğidir.
Illuminarty'nin arkasındaki şirket olan Inholo’nun yanında Sensity ve Hive da dahil olmak üzere birçok şirket sonuçlara itiraz etmedi ve sistemlerinin yapay zeka görüntü üretimindeki en son gelişmelere ayak uydurmak için her zaman geliştiğini söyledi. Hive, yanlış sınıflandırmaların düşük kaliteli görüntüleri analiz ettiğinde sonuçlanabileceğini ekledi. Umm-belki ve A.I. or Not’ın arkasındaki şirket Optic. yorum taleplerine cevap vermedi.
Testleri gerçekleştirmek için The Times; Midjourney, Stable Diffusion ve DALL-E gibi araçların farklı versiyonlarını bilen sanatçılar ve araştırmacılardan yapay zeka ile üretilen görüntüler topladı. Bu araçlar, insanlar ve hayvanlar için gerçekçi portreler ve doğa, gayrimenkul, yiyecek gibi canlı tasvirler oluşturabilen araçlar. Kullanılan gerçek görüntüler ise The Times'ın fotoğraf arşivinden alındı. 5 ayrı araç kullanılan testlerin sonuçlarına yönelik yedi örnek aşağıda görülebilir.

Yapay zeka tarafından oluşturulan bu gülümseyen rahibe resmi, veri bilimcisi ve A.I. ile çalışan sanatçı Victoriano Izquierdo tarafından yaratıldı.
Yapay zeka tarafından oluşturulan bu gülümseyen rahibe resmi, veri bilimcisi ve A.I. ile çalışan sanatçı Victoriano Izquierdo tarafından yaratıldı.

“Tespit teknolojisi”, yapay zeka ile oluşturulan sahte görüntülerinden kaynaklanan zararları hafifletmek için bir yol olarak övülüyor. Ancak Chicago Üniversitesi'nde bilgisayar bilimleri yardımcı doçenti ve Chicago Human+AI araştırma laboratuvarının yöneticisi Chenhao Tan gibi AI uzmanları ise buna çok ikna olmuş değil. Chenhao Tan, bu konuda şu ifadeleri kullanıyor:
“Genel olarak harika olduklarını düşünmüyorum ve olacakları konusunda da iyimser değilim. Kısa vadede, bir miktar doğrulukla performans gösterebilmeleri mümkündür, ancak uzun vadede, bir insanın görüntülerle yaptığı özel her şey yapay zeka tarafından yeniden yaratabilecek ve aradaki farkı ayırt etmek çok zor olacaktır.”
Yapay zeka ile oluşturulan görsellerle ilgili endişelerin çoğu gerçeğe yakın portreler üzerinde olmuştur. ABD’de Cumhuriyetçi başkan adayı olan Florida Valisi Ron DeSantis, kampanyasında yapay zeka tarafından oluşturulan görüntüleri bir gönderide kullandığı için eleştirilmişti. AI tespit araçlarının arkasındaki birçok şirket, araçlarının kusurlu olduğunu kabul ediyor ve teknolojik bir öne geçme yarışından bahsediyor: Tespit araçları genellikle dakikalar içinde gelişen AI sistemlerine yetişmek zorunda kalıyor gibi görünüyor.
Duke Üniversitesi'nde bilgisayar bilimi ve mühendislik profesörü olan ve Açıklanabilir Makine Öğrenimi Laboratuvarı'nda baş araştırmacı olarak görev yapan Cynthia Rudin, konuyla ilgili şunları söylüyor: “Her seferinde biri daha iyi bir görsel üretme aracı yapıldığında, insanlar daha iyi yapay zekayı tespit etme araçları yapar. Sonuçta üretme araçları da, bir tespit aracını aldatmak için tasarlanmıştır."
Orijinal Fotoğraflar Üzerinden Üretilen Yapay Zeka Görsellerin Araçlar Tarafından Tespit Edilmesi Daha Zor

Yapay Zeka Görsel Tespit Araçlarını Aldatmak Ne Kadar Kolay?
Her bir hizmetin test sonucundaki yanlış sonuç, mevcut yapay zeka görsel araçlarının bir dezavantajını gösteriyor: Hive isimli bir görüntü tespit aracının kurucusu ve baş yöneticisi Kevin Guo'ya göre, bu araçlar genellikle orijinal çıktılarından değiştirilen veya düşük kaliteli olan görüntülerle zorluk yaşamaktadır. Kevin Guo konuyla ilgili şunları da ekliyor: “Midjourney gibi AI üreteçleri fotorealistik sanat eserleri oluşturduğunda, her biri kökeni hakkında ipuçları içeren milyonlarca pikseli içerir. Ancak eğer görseli bozarsanız, yeniden boyutlandırırsanız, çözünürlüğü düşürürseniz, tanım gereği bu pikselleri değiştiriyorsunuz ve bu ek dijital sinyal kayboluyor.” Örneğin Hive, yukarıdaki resmin daha yüksek çözünürlüklü bir sürümünü analiz ettiğinde, görüntünün yapay zeka tarafından oluşturulduğunu bu sefer doğru bir şekilde belirledi.
Bu tür eksiklikler, yapay zeka görsel tespit araçlarının sahte içeriklere karşı bir silah haline gelme potansiyelini baltalayabilir. Görüntüler internette viral hale geldikçe, genellikle kopyalanır, tekrar kaydedilir, küçültülür veya kırpılır, bu da araçların güvendiği önemli sinyalleri belirsizleştirir.
Adobe’un “Generative Fill” Özelliği İle Oluşturulan Görseller Tespit Araçlarını Kandırabiliyor
Adobe Photoshop'un “generative fill” adlı yeni bir aracı, yapay zeka kullanarak bir fotoğrafı sınırlarının ötesine genişletmek için kullanılıyor. “Generative Fill” özelliği kullanılarak genişletilen bir fotoğraf üzerinde yapılan testler çoğu tespit aracının kafasını karıştırdı.
Başkan Biden'ı gösteren aşağıdaki sıra dışı portre çok daha iyi çözünürlüğe sahip. The Times'ın fotoğrafçısı Damon Winter tarafından Gettysburg’da çekildi. Dedektörlerin çoğu doğru bir şekilde portrenin gerçek olduğunu düşündü; ama hepsi başarılı olamadı.


Sanat Eserlerinin Yapay Zeka İle Üretilip Üretilmediğini Anlayabilir Miyiz?
AI dedektörlerinin yanlışlıkla gerçek bir görüntüyü yapay zeka tarafından üretilmiş olarak etiketlemesi, önemli bir risk oluşturur. Sensity isimli araç, çoğu yapay zeka ile üretilmiş görseli doğru bir şekilde yapay olarak etiketleyebildi. Ancak aynı araç birçok orijinal fotoğrafı da yanlışlıkla yapay zeka tarafından üretilmiş olarak etiketledi.
Bu riskler, sanatçılara da yansıyabilir ve sanat eserlerini oluştururken yapay zeka araçları kullandıkları konusunda yanlış şekilde suçlanabilirler. Örneğin aşağıda, Jackson Pollock tablosu olan "Convergence" isimli eser, sanatçının tanıdık renkli boya sıçratmalarını içeriyor. Tespit araçlarının çoğu, bunun gerçek bir görüntü olduğunu ve yapay zeka tarafından üretilmiş bir kopya olmadığını belirledi, ancak hepsi aynı sonucu vermedi.


Illuminarty'nin yaratıcıları, tablo ve çizim gibi sahte sanat eserlerini tanıyabilen bir dedektör istediklerini belirttiler. Testlerde, Illuminarty çoğu gerçek fotoğrafı doğru bir şekilde orijinal olarak değerlendirdi, ancak yapay zeka ile üretilmiş görsellerin yalnızca yarısını yapay olarak etiketledi. Yaratıcılar, aracın sanatçıları haksız yere yapay zeka kullanmakla suçlamaktan kaçınmak için kasıtlı olarak dikkatli bir tasarıma sahip olduğunu belirtti. Illuminarty'nin aracı, diğer birçok dedektörle birlikte, The New York Times tarafından Midjourney kullanılarak oluşturulan Pollock tarzındaki benzer bir görüntüyü doğru bir şekilde tanımladı.


Yapay Zeka İle Oluşturulan Görsellerin Kalitesi Düşürüldüğünde Tespit Araçları Zorlanıyor
Tespit araçları, hizmetlerinin şeffaflığı ve sorumluluğu teşvik etmek, yanlış bilgi, sahtekârlık, istenmeyen pornografi, sanatsal hile ve diğer teknoloji istismarlarını belirlemeye yardımcı olmak için tasarlandığını söylüyor. Endüstri uzmanları, finansal piyasaların ve seçmenlerin yapay zeka hilelerine karşı savunmasız hale gelebileceği konusunda uyarıyor. Örneğin, aşağıdaki Yeni Zelanda merkezli yapay zeka araçları ile çalışan bir sanatçı olan Marc Fibbens tarafından Midjourney kullanılarak oluşturulan siyah-beyaz bir portre tarzındaki görüntü oldukça ikna edici. Tespit araçlarının çoğu hala bunu doğru bir şekilde sahte olarak tanımayı başardı.

Yapay Zeka Görsel Tespit Araçlarını Aldatmak Ne Kadar Kolay?
Ancak, aynı görüntünün biraz kumlandırılması AI dedektörlerini zorlandı. Hive gibi dedektörler, kumlandırma işleminden sonra sahte görüntülerin gerçek fotoğraflar olduğuna inanmaya başladı. Çıplak gözle neredeyse görünmez olan bu ince dokulu yapı, pikselleri AI üretimi içeriğin işaretlerini analiz etme yeteneğini etkiledi. Bazı şirketler, pikselleri incelemeye ek olarak, perspektifi veya konuların uzuvlarının boyutunu değerlendirerek görüntülerde AI kullanımını belirlemeye çalışıyor.


Yapay zeka, gerçekçi görüntülerin ötesinde metin, ses ve videoları da üretebilen bir teknolojidir. Bu teknoloji, profesörleri kandırmış, tüketicileri dolandırmış ve savaşın seyrini değiştirmeye yönelik girişimlerde kullanılmıştır.
Araştırmacılar, yapay zeka tespit araçlarının tek savunma yöntemi olmaması gerektiğini belirtiyor. Örneğin Pennsylvania State Üniversitesi'ndeki Sosyal Sorumluluk Sahibi Yapay Zeka Merkezi'nin direktörü S. Shyam Sundar, yapay zeka ile görüntü oluşturucularının çalışmalarına su damgaları yerleştirmeleri gerektiğini söylüyor. Web siteleri, arka plan sistemlerine tespit araçları entegre edebilir, böylece yapay zeka destekl görselleri otomatik olarak tanımlayabilir ve kullanıcılara nasıl paylaşıldıkları konusunda uyarılar ve kısıtlamalarla daha dikkatli bir şekilde sunabilir. Sundar, görsellerin özellikle güçlü olduğunu belirtiyor ve ekliyor "Görüntüler içgüdüsel bir tepkiye neden olma eğilimindedir. İnsanlar gözlerine çok daha fazla inanma eğilimindedir."

Kabuk yaraya sadık değil...