Kullanıcı güveninin kaybı, geri dönüşü olmayan son noktadır.

Google (GOOG, GOOGL) Çarşamba günü, I/O konferansının bir parçası olarak geniş ürün ekosistemine bir dizi yeni üretken yapay zeka özelliği tanıttı. Microsoft’un değil, Microsoft’un kendisi olduğunu kullanıcılarına ve yatırımcılarına ispatlayan (MSFT), yapay zeka alanında lider şirkettir.

Gösteri sırasındaki en önemli duyurulardan biri, e-posta yazmanıza yardımcı olacak Help Me Write adlı bir AI oluşturma özelliğinin eklenmesini içeriyordu. Ancak Google Workspace Başkan Yardımcısı Aparna Pappu, üretken yapay zeka kullanması nedeniyle şirketin uygunsuz yanıtlar vermemeye dikkat etmesi gerektiğini, aksi takdirde şirketin kullanıcıların güvenini kaybetme riskiyle karşı karşıya kalacağını söylüyor.

Yahoo Finance’e “Kullanıcı güveninin kaybı, geri dönüşü olmayan nihai noktadır” dedi. “Bu bizim Kuzey Yıldızımız”, kullanıcının güveni kaybedilemez. “”

Üretken yapay zeka, sizinki gibi işleri eski haline getirip getirmeyeceğinden okullarda izin verilip verilmeyeceğine kadar bir dizi çetrefilli soruyu gündeme getirdi. Kullanıcıların, taleplerine doğru yanıtlar verme konusunda teknolojiye ne kadar güvenebilecekleri de bir tartışma konusu haline geldi.

Babu, Google’ın üretken AI özelliklerini halka açılmadan önce güvenilir test kullanıcılarına yayınlamasının bir nedeninin de bu olduğunu söylüyor.

“İçeri girmeden önce [general availability] Laboratuarlara bile götürmek için onu test etmeli ve sıkıcıdan geçirmeliyiz. [Google’s early user test program] Babu, tek bir üçüncü taraf kullanıcının denemesine izin vermeden önce çok sayıda titiz kullanılabilirlik testi, sorumluluk testi ve güvenlik testinden geçtiğini açıkladı.

Google ve Microsoft’un üretken AI teklifleri, erken test aşamalarında olduklarını veya bazı yanıtların doğru olmayabileceğini özellikle belirtir. Ayrıca, üretici yapay zeka genel olarak “halüsinasyonlara” eğilimlidir; bu, temelde belirli, görünüşte doğru, ancak yanlış kullanıcı sorgularına yanıtlar oluşturabileceğini söylemenin ayrıntılı bir yoludur.

“60 Dakika” bölümü sırasında, Google’ın sohbet robotu Bard, var olmayan bir kitap halüsinasyonu görüyor. CEO Sundar Pichai, klip sırasında sorunun birçok chatbot’un bu noktada sahip olduğu bir sorun olduğunu ve mühendislerin daha iyi anlamaya çalıştıklarını açıkladı.

Hikaye devam ediyor

Bu amaçla Babu, Google’ın yanlış yanıtları veya uygunsuz yanıtları önlemenin bir yolu olarak sistemlerini test etmeye devam ettiğini söylüyor.

Babu, “Sorumlu ve güvenli yapay zeka, bir gecede doğmadı. Yapay zeka üzerinde yıllarca çalışmak ve rakip testinin nasıl yapılacağını bulmakla geçti. Dolayısıyla, bu ürünleri nasıl oluşturduğumuz konusunda temelde sorumlu ve güvenli bir yapay zeka testi var.”

Pappu’nun Workspace’e özgü olduğunu söylediği bir sorun, her biri kendi teknoloji anlayışına sahip milyarlarca kullanıcı tarafından kullanılıyor olmasıdır. Üretken AI gibi bir özelliği bu kullanıcıların kafasını karıştırmadan denkleme dahil etmek başlı başına bir bilmecedir.

“3 milyar kullanıcımız var” dedi. “Bunları gerçekten basit ve kullanımı kolay hale getirme sorumluluğumuz var.”

ile Daniel HollyYahoo Finance’te Teknik Editör. onu takip et @cıvıldamak

Hisse senetlerini harekete geçiren olaylar da dahil olmak üzere en son borsa haberleri ve derinlemesine analiz için buraya tıklayın

Yahoo Finance’ten en son finans ve iş haberlerini okuyun