Slack kullanıcıları yapay zekayı eğitmek için kullanılan mesajları keşfettiklerinde dehşete düştü

sonraki serbest bırakmak Slack AI Şubat ayında Slack ayaklarını kazıyor ve gizemini koruyor gibi görünüyor Politika Slack’in birinci sınıf yapay zeka modellerini eğitmek için varsayılan olarak mesajlar, içerik ve dosyalar dahil olmak üzere müşteri verilerini emer.

Slack mühendisi Aaron Maurer’e göreSlack şöyle açıkladı: Blog Salesforce’a ait sohbet hizmeti, müşteri verileri üzerinde büyük dil modellerini (LLM’ler) eğitmez. Ancak Maurer, Threads’de “Bu gizlilik ilkelerinin Slack AI ile nasıl çalışacağını daha dikkatli bir şekilde açıklamak” için Slack’in politikasının güncellenmesi gerekebilir, bunun nedeninin kısmen politikanın “başlangıçta bizim için yapmakta olduğumuz arama/öneri çalışması etrafında yazılmış olması” olduğunu yazdı. Slack’ten yıllar önce”. Uluslararası Af Örgütü.”

Maurer konulara yanıt veriyordu posta Mühendis ve yazar Gergely Oros, şirketlere, politika bir blog aracılığıyla değil, gerçek politikanın dilinde netleşinceye kadar veri paylaşımından vazgeçme çağrısında bulundu.

Oros, “Slack’teki bir makine öğrenimi mühendisi, LLM modellerini eğitmek için mesajları kullanmadıklarını söylüyor” diye yazdı. “Benim cevabım, mevcut şartların onlara bunu yapmalarına izin verdiği yönünde. Bence siyasetteyseniz bu bir politikadır. Ve bir blog yazısı bir gizlilik politikası değildir: her ciddi şirket bunu bilir.”

Slack’in gizlilik ilkelerini şirketin Slack AI’yi tanıtma şekliyle karşılaştırırsanız, kullanıcılar için gerilim daha da belirgin hale geliyor.

Slack’in Gizlilik İlkeleri’nde özellikle şu ifade yer almaktadır: “Makine öğrenimi (ML) ve yapay zeka (AI), ürünümüzün misyonunu ilerletmek için sınırlı şekillerde kullandığımız yararlı araçlardır. AI/ML modellerini geliştirmek için sistemlerimiz müşteri verilerini (ör. Slack’e sağlanan mesajlar, içerik, dosyalar) ve ayrıca Gizlilik Politikamızda ve Müşteri Sözleşmenizde tanımlandığı şekilde diğer bilgiler (kullanım bilgileri dahil).

sırasında, Gevşek AI sayfası “Endişelenmeden çalışın” diyor “Verileriniz sizin verilerinizdir. Bunları Slack AI’yi eğitmek için kullanmıyoruz.”

Bu tutarsızlık nedeniyle kullanıcılar, verilerin Slack AI veya gelecekteki AI güncellemeleri için nasıl kullanılacağını açıklığa kavuşturmak için Slack’e gizlilik ilkelerini güncelleme çağrısında bulundu. Salesforce sözcüsüne göre şirket, güncellemenin gerekli olduğu konusunda hemfikirdi.

Salesforce sözcüsü Ars’a “Dün Slack topluluğunun bazı üyeleri gizlilik ilkelerimiz konusunda daha fazla netlik istedi” dedi. “Slack’te müşteri verileri ile üretken yapay zeka arasındaki ilişkiyi daha iyi açıklamak için bu ilkeleri bugün güncelleyeceğiz.”

Sözcü Ars’a, politika güncellemelerinin Slack’in “müşteri verilerini kullanarak Yüksek Lisans veya diğer üretken modeller geliştirmediğini”, “üçüncü taraf Yüksek Lisans’ı eğitmek için müşteri verilerini kullanmadığını” veya “bu modelleri herhangi bir şekilde oluşturup eğitmediğini” açıklığa kavuşturacağını söyledi. öğrenebilir, ezberleyebilir veya “Müşteri verilerini yeniden üretebilir.” Güncelleme aynı zamanda “Slack AI’nın, modellerin müşteri verilerini saklamadığı kullanıma hazır LLM’leri kullandığını” açıklığa kavuşturarak “müşteri verilerinin Slack’in güven sınırlarını asla terk etmemesini ve LLM sağlayıcılarının asla müşteri verilerine erişememesini” sağlayacak.

Ancak bu değişiklikler, yapay zeka eğitiminde kullanılmak üzere sohbetleri ve diğer Slack içeriklerini paylaşmayı hiçbir zaman açıkça kabul etmeyen kullanıcılar için önemli bir endişeyi gidermiyor gibi görünüyor.

Kullanıcılar sohbetleri Slack ile paylaşmamayı seçiyor

Bu tartışmalı politika yeni değil. kablolu dikkat etmek Nisan ayında bildirildi, TechCrunch adı geçen Bu politika en az Eylül 2023’ten beri yürürlüktedir.

Ancak yaygın tepki dün gece artmaya başladı Korsan HaberleriSlack kullanıcıları, sohbet hizmetini kullanıcıları politika değişikliği konusunda bilgilendirme konusunda başarısız olduğu, bunun yerine varsayılan olarak sessizce etkinleştirdiği için eleştirdi. Eleştirmenler için Slack dışında kimseyi seçmenin bir anlamı olmadığını düşünüyorlardı.

Tepki oradan sosyal medyaya da sıçradı ve burada SlackHQ, Slack’in terminolojisini tüm eleştirilere yanıt vermiyor gibi görünen açıklamalarla hızlıca açıklığa kavuşturdu.

“Üzgünüm Slack, kullanıcıların DM’lerini, mesajlarını, dosyalarını vb. ne yapıyorsun?” Maliyet yönetimi şirketi Duckbill Group’un baş bulut ekonomisti Corey Quinn, yayımlamak X hakkında. “Bunu doğru okumadığıma eminim.”

SlackHQ Cevap verdi Ekonomist “Bundan o kadar nefret ediyorum ki” dedikten ve ücretli çalışma alanında veri paylaşımını devre dışı bıraktığını doğruladıktan sonra Quinn’e.

SlackHQ, “Açıklamak gerekirse, Slack’in kanal önerileri, emojiler ve arama sonuçları gibi şeyler için platform düzeyinde makine öğrenimi modelleri var” dedi. “Ve evet, müşteriler verilerini (üretken olmayan) makine öğrenimi modellerinin eğitilmesine yardımcı olmaktan hariç tutabilirler. Müşteri verileri, orijinal olarak Slack’te yerleşik olan üretken yapay zeka deneyimimiz olan Slack AI’ye aittir.[and] “Bu, Büyük Dil Modellerini (LLM’ler) kullanan ancak bu LLM’leri müşteri verileri üzerinde eğitmeyen, ayrı olarak satın alınan bir eklentidir.”