Google, LaMDA’nın bilinçli olduğunu söyleyen mühendis Blake Lemoine’i kovdu

Lemoine, Google’da sorumlu bir yapay zeka organizasyonu için çalıştı ve işinin bir parçası olarak, sonbaharda şirketin sohbet robotları oluşturmaya yönelik yapay zeka sistemi LaMDA ile konuşmaya başladı. Yapay zekanın ayrımcı veya nefret söylemi kullanıp kullanamayacağını test etmek için kaydettikten sonra teknolojinin bilinçli olduğuna inanmaya başladı.

Şirketin yapay zekasına ulaşıldığına inanan bir Google mühendisi

Google sözcüsü Brian Gabriel yaptığı açıklamada, şirketin AI gelişimini ciddiye aldığını ve LaMDA’yı 11 kez gözden geçirdiğini ve sorumlu geliştirme çabalarını detaylandıran bir araştırma makalesi yayınladığını söyledi.

Blake’in yaptığı gibi bir çalışanımız çalışmalarımızla ilgili endişelerini paylaşırsa, bunları geniş bir şekilde gözden geçiririz” diye ekledi. “Blake’in LaMDA’nın hassas olduğu yönündeki iddialarının tamamen asılsız olduğunu gördük ve birkaç ay boyunca bunu onunla açıklığa kavuşturmak için çalıştık.”

Tartışmaları açık şirket kültürüne bağlıyorum.

Gabriel, “Konuyla uzun süredir ilgilenmesine rağmen, Blake’in hala ürün bilgilerini koruma ihtiyacını içeren açık istihdam ve veri güvenliği politikalarını sürekli olarak ihlal etmeyi seçmesi talihsiz bir durum” dedi. “Dil modellerini titiz bir şekilde geliştirmeye devam edeceğiz ve Blake’e iyi dileklerimizi sunuyoruz.”

Lemoine saldırısı ilk olarak Büyük Teknoloji Bülteni.

Limon lambda ile röportajlar Yapay zekadaki son gelişmeler, bu sistemlerin nasıl çalıştığına dair genel bir yanlış anlama ve kurumsal sorumluluk hakkında kapsamlı bir tartışma başlattı. Google, etik AI departmanının başkanları Margaret Mitchell’i kovdu ve Timnit Gibrusonrasında Tehlikelere karşı dikkatli olun bu teknoloji ile ilişkili.

Google, Timnit Gebru’yu etik olmayan yapay zekanın açık sözlü eleştirmeni olarak işe aldı. Sonra bunun için kovuldu.

LaMDA, metni tanıyan ve oluşturan bir yapay zeka türü olan Google’ın en gelişmiş büyük dil modellerini kullanır. Araştırmacılar, bu sistemlerin dili veya anlamı anlayamadığını söylüyor. Ancak, bir cümledeki bir sonraki en olası kelimeyi tahmin etmek için internetten taranan büyük miktarda veri üzerinde eğitildikleri için insan konuşmasına benzeyen aldatıcı konuşmalar üretebilirler.

LaMDA, Lemoine ile karakter ve hakları hakkında konuştuktan sonra daha fazla araştırmaya başladı. Nisan ayında CEO’larla “LaMDA Duyarlı mı?” başlıklı bir Google dokümanı paylaştı. Bu, bilinçli olduğunu iddia ettiği LaMDA ile yaptığı konuşmalardan bazılarını içeriyordu. İki Google yöneticisi onun iddialarını değerlendirdi ve onları reddetti.

Big Tech, yapay zekayı kötü verilerle oluşturur. Böylece bilim adamları daha iyi veriler aradılar.

Lemoine, şirketin gizlilik politikasını ihlal ettiği için daha önce Haziran ayında ücretli idari izne ayrılmıştı. Google’daki yedi yılının çoğunu kişiselleştirme algoritmaları da dahil olmak üzere proaktif araştırmalar üzerinde çalışarak geçiren mühendis, hikaye anlatımı için ortak video oyunlarına odaklanan kendi AI şirketini yaratma olasılığını düşündüğünü söyledi.