İnanılmaz bir şekilde, bugün bildiğimiz şekliyle yapay zeka, hızla “bir tiranlıktan daha güçlü” hale gelebilir ve insanlar için varoluşsal bir tehdit oluşturma gücüne sahiptir – bu nedenle, onu gecikmeden tasarlamanın aciliyeti vardır.
İsrailli tarihçi ve çok satan yazar Yuval Noah Harari ve ünlü Quebec araştırmacısı Yoshua Bengio Çarşamba günü Creative Business etkinliği C2’de. Bu, bir konferans sırasında Montreal’deki Place-Ville-Marie’deki dolu bir odaya verilen mesajdı.
Her iki uzman da yapay zekanın (AI) insanlar için varoluşsal bir tehdit olma potansiyeline sahip olduğu konusunda hemfikir.
İsrail’den video konferans yoluyla konuşan Harari, “Yapay zeka farklıdır çünkü karar verme teknolojisidir” dedi. Çakmaktaşı bıçak veya nükleer bomba, onları kullanıp kullanmayacağına karar vermek için bir erkek gerekir. Ancak AI kararlar verir ve bu nedenle gücümüzün bir kısmını alır. »
Montreal Üniversitesi Bilgisayar Bilimi ve Yöneylem Araştırması Bölümü’nde profesör olan Mr. Bengio’ya göre AI, kısa vadede Kasım 2024’teki bir sonraki ABD başkanlık seçimini tehdit ediyor.
ChatGPT gibi araçlar, dezenformasyon kampanyalarını dağıtmak için kullanılabilir. Dolayısıyla demokrasi için bir tehdittir. Demokrasiyi kaybetmek, liberal toplumun bize verdiği tüm iyi şeyleri kaybetmektir.
Joshua Bengio
Birkaç yıl içinde, bu tür teknolojiler insan benzeri bir zekaya sahip olabilir ve sonra onu geçebilir, dedi.
“Bunun olup olmayacağını bilmiyoruz. Ama öyleyse, bu varoluşsal bir tehdittir. Bizi bir kurbağayı gördüğümüz gibi gören yeni bir zeka türü hayal edin… Kurbağalara doğru mu davranıyoruz?”
Bu ihtimal ile ilgili olarak Sn. Harari de endişelerini dile getirdi. “Yapay zeka, zorba olabilen bir tırtıl. Evrimin gerçekleşmesi için milyonlarca yıl geçmesi gerekmiyor: Birkaç yıl içinde o noktaya gelebiliriz.”
İki adam kısa süre önce açık bir mektup imzaladı
Yuval Noah Harari için özel şirketler arayışa devam edecek. “Devletin konuşlandırmayı kontrol etmesi çok acil bir şey. Örneğin, basit bir kuralımız olabilir: Yapay zeka bir insanı taklit edemez, yapay zeka ile konuştuğumuzu bilmeliyiz. Binlerce yıldır insanların yasaları var. kalpazanlığa karşı ve bu yasalar işe yarıyor. İnsan kalpazanlığı için de benzer yasalara ihtiyaç var.”
Hükümetler, ChatGPT gibi araçların popülaritesi nedeniyle yapay zekaya yeniden ilgi duyuyor. Ancak seçilmiş yetkililer, demokrasilerin geleceği için ne anlama geldiği de dahil olmak üzere, bu teknolojinin tam potansiyelini hala yanlış anlıyor, Bay. Harari’yi kınadı
“Seçenek yok. Seçim kampanyasında, risk yüksek olduğunda, politikacılar bundan bahsetmezler. AI zaten üniversite kabulleri, bankalardan krediler hakkında kararlar alma sürecinde. »
Yoshua Bengio, AI’nın işçilerin işlerinin bir kısmını yapmalarına yardımcı olma potansiyeline sahip olduğunu ancak ekonomik etkisinin hala belirsiz olduğunu söyledi.
“Yapay zeka, programcıların iki kat daha hızlı programlama yapmasına izin verseydi, yarısı kadar programcıya ihtiyacımız olur muydu? Yoksa aynı sayıda programcıya mı ihtiyacımız var, ancak iki kat daha mı üretken olacaklar? Söylemesi zor. »
Yuval Noah Harari’nin işaret ettiği gibi, AI topluluğunun dönüştürücü gücü, 1919’daki Sanayi Devrimi’nden daha fazladır.e yüzyıl
“Son büyük devrim sanayi devrimiydi. Şirketi kurmak nesiller aldı. İşlevsel sanayileşmiş toplumlar inşa etme konusunda Holokost gibi birçok kötü deneyim yaşadık. Bizi yok etmedi. AI devrimi ile deneyip başarısız olamayız çünkü başarısızlıkları sürdürmeyiz, onlar bizi yok edebilir. »
Kısa vadede, insanlığın sorunlarının çoğunun yapay zeka tarafından daha da kötüleştirilebileceğini belirtiyor. “Tedbirli olmak istemiyoruz ama değişim zor olacak. Hitler, %25 işsizlikle sadece 3 yıl iktidarda kaldı.”
Görevin büyüklüğü ile karşı karşıya kalan Mr. Bengio, insanların ellerinden gelenin en iyisini yapması gerektiğine dikkat çekiyor.
“Bu bizim ahlaki zorunluluğumuz. İklim değişikliğinde olduğu gibi deneyebiliriz. Tehditler var, faydalar var. Ne iyimserim ne de kötümserim ama harekete geçme yükümlülüğümüz var.”
“Yemek sever. Özür dilemeyen alkol gurusu. Tutkulu internet meraklısı. Sert analist. Oyuncu.”
