Midjourney: Yapay Zeka Tabanlı Görsel Üretme Platformu Hizmetlerini Durdurdu
Midjourney adlı yapay zeka tabanlı görsel üretme platformu son zamanlarda Trump’ın tutuklandığı ve Papa’nın şık bir ceket giydiği gibi sahte fotoğrafların viral olması üzerine ücretsiz deneme hizmetlerini durdurdu. Şirketin CEO’su ve kurucusu David Holz, “olağanüstü talep ve deneme sürümünün kötüye kullanımı” nedeniyle aldıklarını belirtti.
Daha önce Midjourney, kullanıcıların Discord üzerinden kayıt olup, aylık 10 dolarlık abonelik ücreti ödemeden önce 25 ücretsiz görsel üretme hizmeti sunuyordu. Ancak, 15 Mart’ta Midjourney’in yazılımının 5. sürümünü yayınlamasıyla, insanları gösteren görsellerin kalitesi önemli ölçüde arttı.
Önceleri yapay zekâ üretimi görsellerin belirgin özellikleri arasında olan şekilsiz eller artık daha az problem teşkil ediyor. Aydınlatma ve kumaş dokusu da daha gerçekçi hale geldi ve sistem, sayısız ünlü ve kamuoyu figürünün görsellerini üretebiliyor. Bu gelişmeler, Trump’ın tutuklanışı, şık giyinen Papa, Paris’teki protestoların arasında yürüyen Fransa Cumhurbaşkanı Emmanuel Macron ve Elon Musk ile Alexandria Ocasio-Cortez’in el ele tutuştuğu gibi sahte fotoğrafların viral olmasına yol açtı.
Midjourney, sahte görsellerin siyasi hassasiyet içeren tehdidine karşı şimdilik hata düzeltme işlemi uygulamış gibi görünüyor, ancak moderasyon politikalarında önemli bir değişiklik yapmamıştır. Şirketin içerik kısıtlamaları, OpenAI’in DALL-E’si gibi bazı rakip hizmetlere göre daha hoşgörülü, ancak Stable Diffusion gibi diğerlerinden daha kısıtlayıcıdır.
Midjourney, kullanıcı şikayetleri doğrultusunda farklı ülkelerdeki konularla ilgili yasaklı kelimeler listesi bulunduruyor. CEO David Holz, geçen yıl bu konuda bir açıklama yaparak, listeyi tamamen paylaşmamayı tercih ettiklerini ve bunun “drama”yı en aza indirmek için yapıldığını ifade etti. Ancak, Midjourney’in viral olan sahte görselleri sebebiyle yasaklı kelimeler listesini genişlettiği görülüyor. Örneğin, son zamanlarda “tutuklandı” kelimesi yasaklandı.
Şu anda Midjourney, ücretsiz kullanıcıların görsel üretmesine izin vermiyor. Gelecekte bu durum değişebilir. Salı günü, Holz hizmetin yavaş olduğunu ve bunun “GPU eksikliği”nden kaynaklandığını söyledi.
Yapay zeka tabanlı görsel üretme, yoğun bilişim süreci gerektiren bir süreçtir ve Midjourney görselleri bulut ortamında üretip kullanıcılarla paylaşıyor. Ancak çarşamba günü, Holz yazılımın kötüye kullanılmasının ücretsiz denemelerin durdurulmasındaki ana neden olduğunu belirtti. Holz, “Denemeleri, kötüye kullanım için yeni güvenlik önlemleriyle tekrar açmayı denedik, ancak yeterli olmadığı için herkesin yararına olacak şekilde tekrar kapattık.” dedi.