Geoffrey Hinton Neden Teknoloji Konusunda “Islık Çalması” Gerektiğine Karar Verdi?

New York (CNN) Geoffrey Hinton, ” olarak da bilinir.Yapay zekanın vaftiz babasıSalı günü CNN’e verdiği demeçte, ne kadar akıllı olduğu konusunda endişelendikten sonra gelişmesine yardım ettiği teknolojiyi “ıslık çalması” gerektiğine karar verdi.

Hinton Salı günü CNN muhabiri Jake Tapper’a verdiği bir röportajda, “Ben sadece bu şeylerin bizden daha akıllı hale geldiğini birdenbire fark eden bir bilim insanıyım” dedi. “Bir nevi ıslık çalmak ve bu şeylerin bizi ele geçirmesini nasıl engelleyeceğimiz konusunda ciddi şekilde endişelenmemiz gerektiğini söylemek istiyorum.”

Hinton’un sinir ağları üzerindeki öncü çalışmaları, günümüz ürünlerinin çoğuna güç veren yapay zeka sistemlerini şekillendiriyor. Pazartesi günü, teknolojiyle ilgili artan endişeleri hakkında samimi bir şekilde konuşmak için on yıldır çalıştığı Google’daki görevinden ayrıldığı için manşetlere girdi.

ile Pazartesi günü yapılan bir röportajda New York TimesHareketini ilk bildiren Hinton, AI’nın işleri ortadan kaldırma ve “birçoğunun artık neyin doğru olduğunu söyleyemeyeceği” bir dünya yaratma becerisinden endişe duyduğunu söyledi. Ayrıca, kendisinin ve diğerlerinin öngördüğünün çok ötesinde olan şaşırtıcı ilerleme hızına da dikkat çekti.

Hinton, Tapper’a “Bizden daha akıllı olsaydı, manipülasyonda çok iyi olurdu çünkü bunu bizden öğrenmiş olurdu ve daha zeki bir şeyin daha az zeki bir şey tarafından kontrol edildiğine dair çok az örnek var” dedi. Salı günü.

“Kodlamayı biliyor, bu yüzden ona koyduğumuz kısıtlamaları aşmanın yollarını bulacaktır. İnsanları istediklerini yapmaları için manipüle etmenin yollarını bulacaktır.”

Hinton, AI ile ilgili endişelerini dile getiren tek teknoloji lideri değil. Bir dizi topluluk üyesi bir anlaşma imzaladı. Mart ayında mesaj AI Labs’tan “toplum ve insanlık için derin riskler” gerekçe göstererek en güçlü AI sistemlerini eğitmeyi en az altı ay durdurmasını istemek.

mesaj, yayınlanan Kar amacı gütmeyen bir kuruluş olan Life of Life Enstitüsü’nden desteklenen Elon Musk tarafından, OpenAI’den sadece iki hafta sonra duyurmak ChatGPT’yi destekleyen viral chatbot teknolojisinin daha güçlü bir sürümü olan GPT-4. İlk testlerde ve şirketin demosunda, GPT-4 dava taslakları hazırlamak, standartlaştırılmış testleri geçmek ve elle çizilmiş bir eskizden çalışan bir web sitesi oluşturmak için kullanıldı.

Mektubu imzalayanlardan biri olan Apple’ın kurucu ortağı Steve Wozniak, Salı günü “Bu Sabah” CNN’e çıktı ve yanlış bilgi yayma kabiliyetiyle ilgili endişelerini dile getirdi.

CNN’e konuşan Wozniak, “Sizi aldatmak isteyenler için aldatmak çok daha kolay olacak” dedi. “Bu konuda herhangi bir değişiklik yapmıyoruz – sadece sahip olduğumuz yasaların bununla ilgileneceğini varsayıyoruz.”

Wozniak ayrıca “bir tür organizasyona” ihtiyaç duyulabileceğini söyledi.

Hinton ise CNN’e dilekçeyi imzalamadığını söyledi. İlerlemeyi durdurabileceğimizi düşünmüyorum” dedi. “Yapay zeka üzerinde çalışmayı bırakmamız gerektiğini söyleyen dilekçeyi imzalamadım çünkü Amerika’daki insanlar durursa Çin’deki insanlar da durmayacak.”

Ancak bunun yerine ne yapılacağına dair net bir cevap olmadığını kabul etti.

Hinton, Tapper’a “Bu sorunu çözebileceğimizden emin değilim” dedi. “Sorunu çözmenin yollarını düşünmek için çok çaba sarf etmemiz gerektiğini düşünüyorum. Şu anda bir çözümüm yok.”