İnsanlar OpenAI’ın araçlarını her gün görüntü ve ses oluşturmak ve düzenlemek için kullanıyorlar; bu da iletişimi daha etkileyici, kullanışlı ve erişilebilir hale getiriyor. Bu araçlar insanların inşa etme, hayal etme ve paylaşma biçimlerinin bir parçası haline geldikçe, içeriğin nereden geldiğini anlayabilmeleri ve doğrulayabilmeleri, onu daha güvenle yorumlayabilmeleri açısından önem taşıyor. Menşe sinyalleri, insanlara içeriğin nereden geldiği, nasıl oluşturulduğu veya düzenlendiği ve iddia ettiği şey olup olmadığı hakkında bağlam sağlayarak yardımcı olabilir.
Bugün, çevrimiçi ortamda güveni inşa etmek için çok katmanlı, ekosistem odaklı bir modelle içerik menşei yaklaşımımızı güçlendiriyoruz. C2PA uyumluluğu sayesinde menşe sinyallerimizi diğer araç ve platformlar için daha kolay tanınabilir hale getiriyor, Google ile ortaklık yaparak görüntülere dayanıklı platformlar arası SynthID filigranı ekliyor ve halkın, görüntülerin OpenAI’dan gelip gelmediğini doğrulamak için kullanabileceği bir aracın önizlemesini paylaşıyoruz.
Tüm bu güncellemeler, açık standartları destekleme, OpenAI tarafından oluşturulan içeriği daha kolay tanımlanabilir kılma ve daha güvenilir bir bilgi ekosistemini desteklemek için endüstri genelinde işbirliği yapma yönündeki önceki çalışmalarımızın üzerine inşa edilmiştir.
C2PA Uyumluluğu ile Güven Ekosistemini İnşa Etmek
OpenAI, DALL·E 3 ve daha sonra ImageGen ve Sora tarafından oluşturulan görüntülere İçerik Kimlik Bilgileri eklemeye başladığı 2024’ten beri menşe standartlarının geliştirilmesi ve benimsenmesiyle ilgilenmektedir. Ayrıca, içerik menşe için açık teknik standardın arkasındaki endüstriler arası grup olan İçerik Menşei ve Kimlik Doğrulama Koalisyonu (C2PA) Yürütme Komitesi’ne katıldık. C2PA’nın teknik yaklaşımı, bir medya parçasının bilgiyi içeriğin kendisiyle güvenli bir şekilde taşımasına yardımcı olmak için meta veriler ve kriptografik imzalar kullanır. Bu bilgi, bir kaynağı değerlendiren gazetecilere, bütünlük kararları veren platformlara ve çevrimiçi gördüklerini anlamaya çalışan insanlara yardımcı olan bağlamı içerir.
Yakın zamanda OpenAI’yı C2PA Uyumlu Bir Üretici Ürün'ü haline getirme adımını attık. C2PA uyumlu hale gelerek, platformlara içeriğimize eklediğimiz menşe bilgilerini okumak, korumak ve iletmek için güvenilir bir yol sunuyoruz. Bu önemlidir, çünkü menşe yalnızca içerik oluşturulduğu ilk platformun ötesinde hayatta kalırsa işe yarar ve uyumluluk bunu mümkün kılar.
Google SynthID ile Çok Katmanlı Bir Menşe Yaklaşımı
C2PA meta verileri, menşe için önemli bir temeldir. İçeriğin nereden geldiği, nasıl oluşturulduğu veya düzenlendiği ve bu bilgiyi kimin imzaladığı hakkında bilgi taşımasına yardımcı olur. Ancak meta veriler hatasız değildir. Yükleme ve indirmeler sırasında sıyrılabilir, kaybolabilir veya dosya formatı değişiklikleri, yeniden boyutlandırma veya ekran görüntüleri gibi dönüşümlerle bozulabilir.
Menşei daha dayanıklı hale getirmek için çok katmanlı bir yaklaşım benimsiyor ve ChatGPT, Codex veya OpenAI API aracılığıyla oluşturulan görsellerden başlayarak Google DeepMind'ın SynthID'sini filigranlama yoluyla dahil ediyoruz. SynthID, C2PA meta veri tabanlı yaklaşımları tamamlayan görünmez bir filigran katmanı yerleştirir.
Bunu bir süredir inşa ediyorduk. Sora’da görünür filigranlar ve Voice Engine’de bir ses filigranı kullandık ve dağıtım boyunca doğruluk ve güvenilirliği test etmeye ve araştırmaya devam ettik.
Bu iki sistem birbirini güçlendirir. C2PA, içeriğin ayrıntılı bağlam taşımasına yardımcı olur; SynthID, meta veriler hayatta kalmadığında bir sinyal korunmasına yardımcı olur. Filigranlama, ekran görüntüleri gibi dönüşümlerde daha dayanıklı olabilirken, meta veriler tek başına bir filigrandan daha fazla bilgi sağlayabilir. Birlikte, menşei tek başına her iki katmandan da daha dayanıklı hale getirirler.
Tespit ve Halka Açık Doğrulama Aracımızın Önizlemesi
Güvenilir meta veriler ve çoğu değişikliğe direnen filigranlar, menşe sinyallerini daha dayanıklı hale getirebilir. Ancak insanların bu sinyalleri tespit etmenin bir yoluna ihtiyacı var. Şu anda, yüklenen bir görüntünün ChatGPT, OpenAI API veya Codex’te oluşturulup oluşturulmadığını, İçerik Kimlik Bilgileri ve SynthID dahil olmak üzere menşe sinyallerini kontrol ederek doğrulamalarına yardımcı olacak halka açık bir doğrulama aracının önizlemesini yapıyoruz.
Menşein insanlar için doğrulanması ve yorumlanması daha kolay olması gerektiğine inanıyoruz ve aracımızın, birden fazla sinyali entegre ederek ‘Bu AI ile mi oluşturuldu?’ sorusunu yanıtlama konusunda insanların rol oynamasına yardımcı olabileceğine inanıyoruz. Bu, 2024’teki görüntü tespit sınıflandırıcımızın ilk araştırma önizlemesinden elde edilen öğrenimlerin üzerine inşa ediliyor ve insanların OpenAI’dan kaynaklanan bir SynthID filigranının medyada olup olmadığını güvenilir bir şekilde tespit etmelerini ve bulunduğunda C2PA meta verilerini ortaya çıkarmalarını sağlıyor.
Hiçbir tespit yöntemi hatasız değildir, bu nedenle tespitin başarısız olduğu durumlarda temkinli bir yaklaşım benimsiyoruz. Örneğin, meta veri veya filigran tespit edilmezse, araç görüntünün OpenAI araçlarıyla oluşturulup oluşturulmadığı hakkında kesin bir sonuç çıkarmaz, çünkü menşe sinyalleri bazı durumlarda sıyrılabilir.
Başlangıçta, araç OpenAI tarafından oluşturulan içerikle sınırlıdır. Önümüzdeki aylarda, platformlar arası doğrulamayı mümkün kılmak için endüstriler arası çabaları desteklemeyi hedefliyoruz. Zamanla, insanların çevrimiçi karşılaşabileceği daha fazla içerik türünü de desteklemeyi bekliyoruz.
Geleceğe Bakış
Hiçbir tek menşe tekniği kendi başına yeterli değildir. Güçlü bir yaklaşımın paylaşılan standartları, dayanıklı filigran sinyallerini ve halka açık doğrulamayı birleştirdiğine inanıyoruz. İçerik Kimlik Bilgilerine uzun süredir devam eden desteğimizin üzerine inşa ederek, C2PA ile uyumlu hale gelerek, SynthID’yi benimseyerek ve halka açık doğrulama araçlarının önizlemesini yaparak, uzun vadede daha birlikte çalışabilen bir menşe ekosistemine katkıda bulunmayı umuyoruz.
