Google, yeni içerik sınıflandırma sistemiyle yapay zeka çağında özgünlük arıyor

Salı günü Google’da Açıklanan planlar Kullanıcıların insan tarafından oluşturulan görüntüler ile yapay zeka tarafından oluşturulan görüntüler arasında ayrım yapmasına yardımcı olmak için içerik kimlik doğrulama teknolojisini ürünlerine uygulamak. Önümüzdeki birkaç ay içinde teknoloji devi, dijital içeriğin kökenini ve düzenlenmiş geçmişini takip etmek için tasarlanmış bir sistem olan Content Provenance and Authenticity Alliance (C2PA) standardını arama hizmetlerine, reklamlara ve muhtemelen YouTube’a entegre edecek. Ancak teknolojik bir çözümün bu sorunu çözüp çözemeyeceği açık bir sorudur. Eski bir sosyal sorun Yabancılar tarafından üretilen kayıtlı medyaya duyulan güven.

A grup 2019 yılında bir grup teknoloji şirketi, çevrimiçi ortamda yanıltıcı ve sahte sentetik medyayla mücadele etmek amacıyla C2PA sistemini oluşturdu. Yapay zeka tarafından oluşturulan içerik daha yaygın ve gerçekçi hale geldikçe uzmanlar, kullanıcıların karşılaştıkları görsellerin gerçekliğini belirlemesinin zor olabileceğinden endişe ediyor. C2PA standardı, çevrimiçi imzalama otoritesi tarafından desteklenen, görüntülerin nereden geldiği ve nasıl değiştirildiği hakkında açıklayıcı bilgiler içeren dijital bir içerik izi oluşturur.

Google, bu C2PA standardını arama sonuçlarına entegre ederek kullanıcıların bir görselin yapay zeka araçları kullanılarak mı oluşturulduğunu veya düzenlendiğini görmesine olanak tanıyacak. Google Arama, Lens ve Circle to Search’teki Bu Görsel Hakkında özelliği, mevcut olduğunda bu bilgiyi gösterecektir.

Google’ın güven ve güvenlikten sorumlu başkan yardımcısı Lori Richardson, bir blog yazısında, platformlar arası içerik kaynağı sağlamanın karmaşıklığını kabul etti. “İçeriğin kaynaklanması ve referans alınması, ürün veya hizmete dayalı bir dizi dikkate alınması gereken karmaşık bir zorluk olmaya devam ediyor. Her ne kadar tüm çevrimiçi içerik için sihirli bir çözüm olmadığının farkında olsak da, sektördeki diğer kişilerle çalışmak, sürdürülebilir ve birlikte çalışabilir çözümler oluşturmak için kritik önem taşıyor. dedi.

Şirket, en son C2PA teknik standartlarını kullanmayı planlıyor. Sürüm 2.1kurcalama saldırılarına karşı gelişmiş güvenlik sağladığı söyleniyor. Google, “temel politikaları uygulama” aracı olarak C2PA meta verilerini reklam sistemlerine entegre etmeyi planladığından, kullanımı aramanın ötesine geçecektir. YouTube ayrıca gelecekte kamerayla çekilen içeriklere C2PA bilgilerinin dahil edildiğini de görebilir.

Google, yeni girişimin AI şeffaflığına yönelik diğer çabalarıyla uyumlu olduğunu söylüyor. Bileşik KimliğiGoogle DeepMind tarafından oluşturulan yerleşik bir filigran teknolojisi.

C2PA’nın geniş ölçekteki etkinliği hâlâ bir hayal

En az beş yıllık geçmişine rağmen, C2PA gibi faydalı içerik kaynağı teknolojisine giden yol son derece zorludur. Teknoloji tamamen isteğe bağlıdır ve anahtar kimlik doğrulama meta verileri, eklendikten sonra görüntülerden kolayca çıkarılabilir.

Yapay zeka destekli görüntü oluşturucuların, oluşturulan her dosyaya C2PA bilgilerini dahil etme standardını desteklemesi gerekecek; bu da muhtemelen Flux gibi açık kaynaklı görüntü sentezi modellerini engelleyecektir. Bu nedenle belki de pratikte, kamera tarafından yazılan “daha özgün” medya, yapay zeka tarafından oluşturulan görüntülere kıyasla C2PA ile etiketlenecektir.

Ek olarak, meta verileri korumak, kaynak ve görüntüleri düzenlemek veya rötuşlamak için kullanılan herhangi bir yazılım da dahil olmak üzere, sürecin her adımında C2PA’yı destekleyen eksiksiz bir araç zinciri gerektirir. Şu anda Leica gibi yalnızca birkaç kamera üreticisi C2PA standardını desteklemektedir. Nikon ve Canon bunu benimseme sözü verdiler ancak The Verge Raporlar Apple ve Google’ın akıllı telefon cihazlarında C2PA desteğini uygulayıp uygulaymayacağı konusunda hala belirsizlik var.

Adobe’nin Photoshop ve Lightroom’u C2PA verilerini ekleyebilir ve koruyabilir, ancak diğer birçok popüler düzenleme aracı henüz bu özelliği sağlamamaktadır. C2PA’nın tüm avantajlarından yararlanmak için yalnızca serideki uyumsuz bir görüntü düzenleyicinin kullanılması yeterlidir. Çevrimiçi platformlarda C2PA verilerinin tekdüze görünümlerinin genel olarak eksikliği, standardın sıradan kullanıcılar için kullanışlı hale getirilmesinin önündeki bir başka engeli temsil etmektedir.

Şimdilik C2PA, sahte görsellerle ilgili mevcut güven sorunlarına teknik bir çözüm olarak değerlendirilebilir. Bu anlamda C2PA, bilginin güvenilir bir kaynaktan gelip gelmediğini belirleyerek içeriğin gerçekliğini doğrulamak için kullanılan birçok araçtan biri olabilir – eğer C2PA meta verileri korunursa – ancak Yapay zeka tarafından üretilen yanlış bilgilere tam bir çözüm olması pek olası değildir. yalnız.