Sınır Tanımayan Yapay Zeka Görüntü Üreticilerinin Sevinci ve Korkusu

Stable Difüzyon gibi görüntü oluşturucular, bir kişinin hayal edebileceği hemen hemen her şeyi tasvir eden gerçek fotoğraflara veya el yapımı çizimlere benzeyen şeyler yaratabilir. Bu, web ve görüntü veritabanlarından alınan geniş bir görüntü koleksiyonunun özelliklerini ilişkili metin etiketleriyle ilişkilendirmeyi öğrenen algoritmalar sayesinde mümkündür. Algoritmalar, bir görüntüye rastgele gürültü eklemeyi ve kaldırmayı içeren bir süreçte bir metin istemiyle eşleşmesi için yeni görüntüleri oluşturmayı öğrenir.

Stabil Diffusion gibi araçlar web’den alınan görüntüleri kullandığından, eğitim verileri genellikle pornografik görüntüler içerir ve bu da yazılımın yeni müstehcen resimler üretmesini sağlar. Bir başka endişe de, bu tür araçların, gerçek bir kişinin yanlış bilgi yayabilecek bir şeyden ödün veren bir şey yaptığını gösteren görüntüler oluşturmak için kullanılabileceğidir.

Yapay zeka tarafından oluşturulan görüntülerin kalitesi, AI araştırma şirketi OpenAI tarafından Ocak 2021’de DALL-E adlı bir sistemin duyurulmasıyla başlayarak geçen bir buçuk yılda yükseldi. Metin istemlerinden görüntü oluşturma modelini popüler hale getirdi ve Nisan 2022’de artık ticari bir hizmet olarak sunulan daha güçlü bir halefi olan DALL-E 2 tarafından takip edildi.

OpenAI, en başından beri, görüntü oluşturucularına kimlerin erişebileceğini kısıtladı ve yalnızca talep edilebilecekleri filtreleyen bir komut istemi aracılığıyla erişim sağladı. Aynısı, adı verilen rakip bir hizmet için de geçerlidir. yolculukBu yılın Temmuz ayında piyasaya sürülen, geniş çapta erişilebilir olarak yapay zeka yapımı sanatın popülerleşmesine yardımcı oldu.

Stable Difusion, ilk açık kaynaklı AI sanat oluşturucu değil. Orijinal DALL-E piyasaya sürüldükten kısa bir süre sonra, bir geliştirici, herkesin kullanımına sunulan DALL-E Mini adlı bir klon yaptı ve hızla bir meme yapma fenomeni haline geldi. DALL-E Mini, daha sonra yeniden markalandı Craiyon, hala DALL-E’nin resmi sürümlerinde bulunanlara benzer korkuluklar içerir. CEO’su Clement Delangue SarılmaYüzStable Diffusion ve Craiyon dahil olmak üzere birçok açık kaynaklı AI projesine ev sahipliği yapan bir şirket olan , teknolojinin yalnızca birkaç büyük şirket tarafından kontrol edilmesinin sorun yaratacağını söylüyor.

“Teknolojinin uzun vadeli gelişimine bakarsanız, onu daha açık, daha işbirlikçi ve daha kapsayıcı hale getirmek aslında güvenlik açısından daha iyidir” diyor. Kapalı teknolojinin dışarıdan uzmanlar ve halk tarafından anlaşılmasının daha zor olduğunu ve dışarıdakilerin modelleri ırk, cinsiyet veya yaş önyargıları gibi sorunlar için değerlendirebilmesinin daha iyi olduğunu söylüyor; ek olarak, diğerleri kapalı teknolojinin üzerine inşa edemezler. Dengede, açık kaynak teknolojisinin faydalarının risklerden daha ağır bastığını söylüyor.

Delangue, sosyal medya şirketlerinin dezenformasyon yaymak için kullanılan AI tarafından oluşturulan görüntüleri tespit etmek için kendi araçlarını oluşturmak için Stable Difusion’ı kullanabileceğine dikkat çekiyor. Geliştiricilerin ayrıca, Stable Difüzyon kullanılarak yapılan görüntülere daha kolay izlenebilmeleri için görünmez filigranlar eklemek için bir sisteme katkıda bulunduklarını ve sorunlu olanların kaldırılabilmesi için modelin eğitim verilerinde belirli görüntüleri bulmak için bir araç oluşturduğunu söylüyor.

Unstable Difüzyon ile ilgilendikten sonra Simpson-Edin, Unstable Difüzyon Discord’da moderatör oldu. Sunucu, kişilerin reşit olmayan pornografi olarak yorumlanabilecek resimler de dahil olmak üzere belirli türde içerikleri yayınlamasını yasaklar. “İnsanların kendi makinelerinde yaptıklarını denetleyemeyiz, ancak yayınlananlar konusunda son derece katıyız” diyor. Yakın vadede, AI sanat yapımının yıkıcı etkilerini içermek, makinelerden çok insanlara bağlı olabilir.

Leave a Comment

Your email address will not be published.