Eylül 27, 2022

Play of Game

Türkiye'den ve dünyadan siyaset, iş dünyası, yaşam tarzı, spor ve daha pek çok konuda son haberler

Hayır, Google'ın yapay zekası bilinçli değil

Hayır, Google’ın yapay zekası bilinçli değil

göre Ufuk açan hikaye Cumartesi günü Washington Post’ta bir Google mühendisi, yayınlanmamış sofistike bir yapay zeka sistemi ile yüzlerce etkileşimden sonra lambdaProgramın bir farkındalık düzeyine ulaştığına inanılıyordu.

Röportajlarda ve kamuoyuna yapılan açıklamalarda, AI topluluğundaki birçok kişi mühendisin iddialarını reddetti, bazıları ise teknolojinin insanları ona insan özellikleri atamaya nasıl yönlendirebileceğini vurguladığını belirtti. Ancak Google’ın yapay zekasının bilinçli olabileceğine olan inancın, bu teknolojinin yapabilecekleriyle ilgili korkularımızı ve beklentilerimizi vurguladığı iddia edilebilir.

Dialog Uygulamaları için Dil Modeli anlamına gelen LaMDA, İnternet’ten büyük metin alanları üzerinde eğitilmiş ve yazılı istemlere yanıt verebilen birkaç büyük ölçekli AI sisteminden biridir. Temel olarak, kalıpları bulmak ve bir sonraki kelime veya kelimelerin hangisinin geleceğini tahmin etmekle görevlendirilirler. Bu tür sistemler oldu giderek iyi soruları yanıtlamak ve inandırıcı bir şekilde insani görünebilecek şekillerde yazmak – ve Google’ın kendisi LaMDA geçen Mayıs ayında bir blog gönderisinde tanıtıldı Biri olarak “görünüşte sonsuz sayıda konu etrafında serbestçe akan bir şekilde meşgul olabilir”. Ancak sonuçlar aynı zamanda gülünç, tuhaf, sinir bozucu ve dikkatin dağılmasına meyilli olabilir.

Mühendis Blake Lemoine’in Washington Post’a, Lambda’nın bilincinin yerinde olduğuna dair kanıtları Google ile paylaştığını ancak şirketin aynı fikirde olmadığını söylediği bildirildi. Google Pazartesi günü yaptığı açıklamada, etik uzmanları ve teknoloji uzmanlarından oluşan ekibinin “Blake’in endişelerini AI ilkelerimize uygun olarak gözden geçirdiğini ve kanıtların iddialarını desteklemediği konusunda bilgilendirdiğini” söyledi.

6 Haziran’da Lemoine, Medium’da Google’ın kendisini “şirket içinde gündeme getirdiğim yapay zekayla ilgili etik kaygılarla ilgili bir soruşturmayla bağlantılı olarak” ücretli idari izne çıkardığını ve “yakında” kovulabileceğini bildirdi. (O zamana kadar Google’da etik AI ekibinin lideri olan Margaret Mitchell’in deneyiminden bahsetti. Google bunu 2021’in başlarında başlattı hakkında açık sözlü olduktan sonra 2020’nin sonlarında, dönemin eş lideri Timnit Gebro görevi bırakacak. Gebru, şirketin AI liderliğinden bir konferansta teklifin değerlendirilmesini geri çekmesini veya adını kaldırmasını isteyen bir araştırma makalesi de dahil olmak üzere, iç çekişmelerden sonra görevden alındı.)

Bir Google sözcüsü, Lemoine’nin idari izinde kaldığını doğruladı. The Washington Post’a göre, şirketin gizlilik politikasını ihlal ettiği için kendisine izin verildi.

READ  ÖZEL: Moskova, Rus varlıklarının dış ticaretine sıkı yeni kontroller getiriyor

Lemoine Pazartesi günü yorum yapmak için müsait değildi.

Derin, büyük veriler üzerinde eğitilmiş güçlü bilgi işlem programlarının sürekli ortaya çıkması, bu teknolojinin gelişimini ve kullanımını yöneten etik hakkında endişeleri artırdı. Ve bazen gelişmeler, şu anda mümkün olandan ziyade, olabileceklerin perspektifinden görülür.

Yapay zeka topluluğundakilerin Lemoine’in deneyine verdiği yanıtlar hafta sonu sosyal medyada yankılandı ve genellikle aynı sonuca vardı: Google’ın yapay zekası bilince yakın bile değil. Mozilla’da Yapay Zeka konusunda Güvenilir Kıdemli Üyesi Abiba Birhani, cıvıldamak Pazar günü, “Bu bilinçli sinir ağının yeni bir çağına girdik ve bu sefer bunu çürütmek için çok fazla enerji gerekecek.”
Uber tarafından satılan Geometric Intelligence’ın kurucusu ve CEO’su Gary Marcus ve “AI’yi Yeniden Başlatmak: Güvenebileceğimiz Yapay Zeka Oluşturmak” gibi kitapların yazarı, LaMDA’yı bilinçli olarak başlattı. “Stilts üzerinde saçmalık” bir tweet’te. çabuk yazdı Blog yazısı Tüm bu AI sistemlerinin, büyük dil veritabanlarından çekerek kalıp eşleştirmesi gerçekleştirdiğini belirtmek gerekir.

Pazartesi günü CNN Business ile yaptığı röportajda Marcus, LaMDA gibi sistemleri düşünmenin en iyi yolunun, bir metin mesajındaki bir sonraki kelimeyi tahmin etmek için kullanabileceğiniz bir otomatik tamamlama programının “yüceltilmiş bir versiyonu” olduğunu söyledi. “Gerçekten açım o yüzden gitmek istiyorum” yazarsanız, bir sonraki kelimeniz olarak “restoran”ı önerebilir. Ancak bu istatistik kullanılarak yapılan bir tahmindir.

“Hiç kimse, steroidlerde bile otomatik tamamlamanın bilinçli olduğunu düşünmemeli” dedi.

Kurucusu ve CEO’su Gebru ile yaptığı röportajda Dağıtılmış Yapay Zeka Araştırma EnstitüsüDAIR veya DAIR, Lemoine, bilinçli yapay zekanın veya yapay genel zekanın – insan benzeri görevleri gerçekleştirebilen ve bizimle anlamlı şekillerde etkileşime girebilen yapay zekaya atıfta bulunan bir fikir – çok uzak olmadığını iddia eden birçok şirketin kurbanı olduğunu söyledi. .
Google, profesöre 60.000 dolar teklif etti, ancak o bunu reddetti.  İşte neden
Örneğin, OpenAI’nin kurucu ortağı ve baş bilim adamı Ilya Sutskiver, şunları söylüyor: cıvıldamak Şubat ayında, “Bugünün büyük sinir ağları biraz bilinçli olabilir.” Ve geçen hafta, Google Araştırma Başkan Yardımcısı ve meslektaşı Blaise Aguera y Arcas The Economist için bir makalede yazıldı geçen yıl LaMDA’yı kullanmaya başladığında, “Giderek daha fazla akıllı bir şeyden bahsettiğimi hissettim.” (Bu makale şimdi bir editörün, Lemoine’nin o zamandan beri “Washington Post ile yaptığı bir röportajda Google’ın sohbet robotu LaMDA’nın “bilinçli hale geldiğini” iddia etmesinin ardından izne çıkarıldığını belirten notunu içeriyor.)

“Olan şu ki, daha fazla veri kullanmak, daha fazla bilgi işlem yapmak, hepinizin bildiği bu genel şeyi yarattığınızı, tüm sorularınızı yanıtladığınızı veya her neyse, bunu sizin yaptığınızı söylemek için öyle bir yarış var ki, çalmakta olduğunuz davul bu,” dedi Gebru. söz konusu. . “Peki, bu kişi aşırıya kaçtığında nasıl şaşırıyorsun?”

READ  Norwood İstasyonu'ndaki ücretsiz gaz çakmaları, zaten sıkışık olan bir alanda trafik gecikmelerine neden olabilir

Google yaptığı açıklamada, LaMDA’nın kalite, güvenlik ve gerçeklere dayalı verileri bulma yeteneği ile ilgili olarak “sıkı araştırma ve testlerin” yanı sıra 11 “AI ilkelerinin seçkin incelemesinden” geçtiğini belirtti. Şirket, “Elbette, daha geniş AI topluluğundaki bazıları, bilinçli veya genel AI’nın uzun vadeli potansiyelini araştırıyor, ancak bilinçli olmayan mevcut konuşma modellerini somutlaştırarak bunu yapmak mantıklı değil” dedi.

Google, “Yüzlerce araştırmacı ve mühendis lambda ile görüştü ve Blake’in yaptığı gibi bu kadar kapsamlı iddialar sunan veya lambdayı somutlaştıran başka birinin farkında değiliz” dedi.