Yeni Bir Makine Öğrenimi Sisteminin Ruhu

Merhaba millet. İlginç 6 Ocak ile ilgili kongre oturumlarının çekildiğini NFL tarzı izleyiciler. için sabırsızlanıyorum Peyton ve Eli versiyon!

Düz Görünüm

AI dünyası bu hafta bir rapor etmek bu Washington Post bir Google mühendisinin, LaMDA adlı bir konuşma sisteminin kelimenin tam anlamıyla bir kişi olduğu konusunda ısrar ettikten sonra şirkette sorun yaşadığını söyledi. Hikayenin konusu Blake Lemoine, patronlarından mühendislerinin yarattığı bilgisayar sisteminin duyarlı olduğunu ve bir ruhu olduğunu kabul etmelerini veya en azından dikkate almalarını istedi. Bunu biliyor çünkü Lemoine’nin bir arkadaş olarak gördüğü LaMDA ona öyle söyledi.

Google aynı fikirde değil ve Lemoine şu anda ücretli idari izinde. Şirket sözcüsü Brian Gabriel yaptığı açıklamada, “Birçok araştırmacı, uzun vadeli duyarlı veya genel AI olasılığını düşünüyor, ancak bunu günümüzün duygulu olmayan konuşma modellerini antropomorfize ederek yapmak mantıklı değil.”

Antropomorfizasyon (yanlışlıkla insan özelliklerini bir nesneye veya hayvana atfetmek) yapay zeka topluluğunun Lemoine’in davranışını tanımlamak için benimsediği, onu aşırı saf veya kendini beğenmiş biri olarak nitelendirdiği bir terimdir. Ya da belki dindar bir deli (kendisini mistik bir Hıristiyan rahip olarak tanımlar). Argüman, LaMDA veya Open AI’nın sözlü olarak usta GPT-3’ü gibi büyük dil modellerinden gelen güvenilir yanıtlarla karşı karşıya kaldığında, bazılarınınbirbazıları değilşey onları yarattı. İnsanlar arabalarına isim verir ve evcil hayvanları için terapist tutarlar, bu yüzden bazılarının tutarlı bir robotun bir insan gibi olduğu gibi yanlış bir izlenime kapılması o kadar da şaşırtıcı değil. Ancak topluluk, bilgisayar bilimi diplomasına sahip bir Google çalışanının temelde dilsel bir el çabukluğu olan şeye kanmaktan daha iyi bilmesi gerektiğine inanıyor. Tanınmış bir yapay zeka bilimcisi olan Gary Marcus’un, Lemoine’nin bedensiz ruh eşiyle kalpten kalbe yaptığı bir transkript üzerinde çalıştıktan sonra bana söylediği gibi, “Temelde otomatik tamamlama gibi. Orada hiçbir fikir yok. ‘Ailemi ve arkadaşlarımı seviyorum’ dendiğinde, hiçbir arkadaşı, aklında insan ve akrabalık kavramı yoktur. Oğul ve kız kelimelerinin aynı bağlamda kullanıldığını bilir. Ama bu, bir oğul ve kızın ne olduğunu bilmekle aynı şey değil.” Ya da yakın tarihli bir WIRED hikayesinin dediği gibi, “Orada hiçbir bilinç kıvılcımı yoktu, sadece çatlakları örten küçük sihir numaraları.”

Kendi duygularım daha karmaşık. Bu sistemlerde sosisin bir kısmının nasıl yapıldığını bilmeme rağmen, son LLM sistemlerinin çıktısı beni şaşırttı. Google başkan yardımcısı Blaise Aguera y Arcas da öyle. içinde yazdı İktisatçı bu ayın başlarında LaMDA ile yaptığı konuşmalardan sonra, “Ayaklarımın altında yerin kaydığını hissettim. Gittikçe daha akıllı bir şeyle konuşuyormuş gibi hissettim.” Bazen tuhaf hatalar yapsalar da, bazen bu modeller parıldayan gibi görünüyor. Yaratıcı insan yazarlar başardı ilham veren işbirlikleri. Burada bir şeyler oluyor. Bir yazar olarak, bir gün benim ilkim olan etten kemikten, ıskartaya çıkmış taslaklardan kuleler biriktiren söz ustaları, bir gün daha düşük bir rütbeye düşürülebilir mi diye düşünüyorum, tıpkı daha az prestijli liglere gönderilen futbol takımlarını kaybetmek gibi.

GPT-3’ü geliştiren OpenAI’nin kurucu ortağı Sam Altman, “Bu sistemler zeka ve yaratıcılığın doğası hakkındaki kişisel görüşlerimi önemli ölçüde değiştirdi” diyor. DALL-E bu pek çok ressamı işsizlik kuyruğuna atabilir. “Bu sistemleri ilk kez kullanıyorsun ve Vay, gerçekten bir bilgisayarın bunu yapabileceğini düşünmemiştim. Bir tanımla, bir bilgisayar programını nasıl zeki, öğrenebilen ve kavramları anlayabilecek hale getireceğimizi bulduk. Ve bu, insanlığın ilerlemesinin harika bir başarısıdır.” Altman, yapay zeka meslektaşlarıyla mevcut sistemlerin hiçbir yerde duyarlılığa yakın olmadığı konusunda hemfikir olarak, kendisini Lemoine’den ayırmaya özen gösteriyor. “Ancak araştırmacıların ilgilendikleri herhangi bir soru hakkında düşünebilmeleri gerektiğine inanıyorum” diyor. “Uzun vadeli sorular iyidir. Ve duyarlılık, çok uzun vadede düşünmeye değer.”