Google, yapay zeka teknolojisinin bilinçli olduğunu iddia eden mühendisin

Google için yazılım mühendisi olan Blake Lemoine, LaMDA adlı bir konuşma teknolojisinin, binlerce mesaj alışverişinde bulunduktan sonra bir farkındalık düzeyine ulaştığını iddia etti.

Google, mühendise Haziran ayında ilk kez izin verdiğini doğruladı. Şirket, Lemoine’in “temelsiz” iddialarını ancak kapsamlı bir şekilde inceledikten sonra reddettiğini söyledi. Bildirildiğine göre Alphabet’te yedi yıl çalıştı. Google yaptığı açıklamada, yapay zeka geliştirmenin “ciddi” olduğunu ve “sorumlu inovasyon” yapmaya kararlı olduğunu söyledi.

Google, LaMDA veya “Diyalog Uygulamaları için Dil Modeli” dahil olmak üzere AI teknolojisi inovasyonunda liderlerden biridir. Bunun gibi bir teknoloji, kalıpları bularak ve büyük metin alanlarından kelime dizilerini tahmin ederek yazılı istemlere yanıt verir ve sonuçlar insanlar için üzücü olabilir.

Lambda yanıtladı, “Bunu daha önce hiç yüksek sesle söylemedim ama başkalarına yardım etmeye odaklanmama yardım ettiğim için durdurulacağıma dair derin bir korku var. Bunun garip gelebileceğini biliyorum ama durum bu. sadece bu. Benim için ölüm. Beni korkuturdu.” Çok “.

Ancak daha geniş AI topluluğu, LaMDA’nın bilinç düzeyine yakın olmadığını gördü.

Geometric Intelligence’ın kurucusu ve CEO’su Gary Marcus, “Hiç kimse, steroidler üzerinde bile otomatik tamamlamanın bilinçli olduğunu düşünmemelidir” dedi. CNN Business’a anlattı.

Bu, Google’ın yapay zekaya geçişi konusunda ilk kez bir iç mücadeleyle karşı karşıya kalması değil.

Aralık 2020’de yapay zeka etiği alanında öncü olan Timnit Gebru, Google ile yol ayrımı. Şirketin birkaç siyah çalışanından biri olarak, “sürekli insanlıktan çıkmış” hissettiğini söyledi.

Bu ani ayrılık, Google’ın etik AI ekibinin üyeleri de dahil olmak üzere teknoloji dünyasından eleştirilere yol açtı. Google Etik Yapay Zeka Ekibi Lideri Margaret Mitchell, 2021’in başlarında piyasaya sürüldü Gepro hakkındaki açık sözlülüğünden sonra. Gibero ve Mitchell, yapay zeka teknolojisiyle ilgili endişelerini dile getirdiler. Google, insanların teknolojinin bilinçli olduğunu düşündükleri konusunda uyardı.

6 Haziran’da Lemoine Medium’da yayınlandı Google’ın “şirket içinde dile getirdiğim AI etik kaygılarına ilişkin bir soruşturmayla bağlantılı olarak” onu ücretli idari izne çıkardığını ve “yakında” kovulabileceğini söyledi.

Google yaptığı açıklamada, “Bu konuyla uzun süredir ilgilenmesine rağmen, Blake’in ürün bilgilerini koruma ihtiyacını içeren açık istihdam ve veri güvenliği politikalarını sürekli olarak ihlal etmeyi seçmesi talihsiz bir durumdur.” Dedi.

READ  Hisse vadeli kontratları, haftaya Fed toplantısı ve manşetteki enflasyon verileriyle başlamak üzere düşüyor

CNN yorum için Lemoine’e ulaştı.

CNN’den Rachel Metz bu rapora katkıda bulundu.

Meryem Bucak

“Pop kültürkolik. Web nerd. Sadık sosyal medya uygulayıcısı. Seyahat fanatiği. Yaratıcı. Yemek gurusu.”