Google’ın Yeni Yapay Zekasının Kirli ve Kaba Olmasını Durdurmak İçin Bir Planı Var


Silikon Vadisi CEO’ları genellikle şirketlerinin bir sonraki büyük işini duyururken pozitiflere odaklanırlar. 2007’de Apple’dan Steve Jobs, ilk iPhone’un “devrim yaratan kullanıcı arayüzü” ve “çığır açan yazılımı” övdü. Google CEO’su Sundar Pichai, Google’ın “şimdiye kadarki en gelişmiş konuşma yapay zekası”nın beta testini duyurduğu Çarşamba günü şirketinin yıllık konferansında farklı bir yol izledi.

Pichai, LaMDA 2 olarak bilinen sohbet robotunun herhangi bir konuda sohbet edebileceğini ve Google çalışanlarıyla yapılan testlerde iyi performans gösterdiğini söyledi. adında yakında çıkacak bir uygulamayı duyurdu. AI Test Mutfağı bu, botu yabancıların denemesi için kullanılabilir hale getirecektir. Ancak Pichai sert bir uyarı ekledi. “Güvenliği artırmış olsak da, model yine de yanlış, uygunsuz veya saldırgan tepkiler verebilir” dedi.

Pichai’nin kararsız konuşması, dili işleyen makine öğrenimi yazılımının yeteneklerindeki bir dizi son atılım etrafında dönen heyecan, şaşkınlık ve endişe karışımını göstermektedir.

Teknoloji, otomatik tamamlama ve web aramasının gücünü şimdiden geliştirdi. Ayrıca, akıcı metin veya programlama kodu oluşturarak çalışanlara yardımcı olan yeni üretkenlik uygulamaları kategorileri oluşturdu. Pichai, geçen yıl LaMDA projesini ilk kez açıkladığında, bunun sonunda Google’ın arama motoru, sanal asistan ve işyeri uygulamalarında işe koyulabileceğini söyledi. Ancak tüm bu göz kamaştırıcı vaatlere rağmen, bu yeni AI kelime ustalarının nasıl güvenilir bir şekilde kontrol edileceği belirsiz.

Google’ın LaMDA’sı veya Diyalog Uygulamaları için Dil Modeli, makine öğrenimi araştırmacılarının büyük dil modeli dediği şeye bir örnektir. Terim, genellikle çevrimiçi kaynaklı büyük hacimli metinleri işleyerek dil kalıpları için istatistiksel bir his oluşturan yazılımı tanımlamak için kullanılır. Örneğin LaMDA, başlangıçta çevrimiçi forumlardan, Soru-Cevap sitelerinden, Wikipedia’dan ve diğer web sayfalarından bir trilyondan fazla kelimeyle eğitildi. Bu geniş veri hazinesi, algoritmanın farklı stillerde metin oluşturma, yeni metni yorumlama veya bir sohbet robotu olarak işlev görme gibi görevleri gerçekleştirmesine yardımcı olur. Ve bu sistemler, eğer çalışırlarsa, bugün kullandığınız sinir bozucu sohbet robotları gibi olmayacaklar. Şu anda Google Asistan ve Amazon’un Alexa’sı, yalnızca önceden programlanmış belirli görevleri gerçekleştirebilir ve anlamadıkları bir şeyle sunulduğunda sapabilir. Google’ın şu anda önerdiği şey, gerçekten konuşabileceğiniz bir bilgisayar.

Google tarafından yayınlanan sohbet günlükleri, LaMDA’nın -en azından zaman zaman- bilgilendirici, düşündürücü ve hatta komik olabileceğini gösteriyor. Chatbot’u test etmek, Google başkan yardımcısı ve AI araştırmacısı Blaise Agüera y Arcas’ı harekete geçirdi. kişisel bir makale yaz Geçen Aralık ayında teknolojinin tartışılması, dilin ve zekanın doğasına dair yeni anlayışlar sağlayabilir. “Ekranın diğer tarafında ‘o’ değil ‘kim’ olduğu fikrini sallamak çok zor olabilir” diye yazdı.

Pichai, geçen yıl ve yine Çarşamba günü LaMDA’nın ilk sürümünü duyurduğunda, Alexa, Google Asistan ve Apple’ın Siri gibi genellikle sinir bozucu bir şekilde sınırlı yeteneklerinden çok daha geniş bir ses arabirimi yolu sağladığını gördüğünü açıkça belirtti. Artık Google’ın liderleri, gerçekten konuşabileceğiniz bilgisayarlar yaratmanın yolunu sonunda bulduklarına ikna olmuş görünüyorlar.

Aynı zamanda, geniş dil modellerinin kirli, edepsiz ve açık ırkçı konuşmada akıcı olduğu kanıtlanmıştır. Web’den milyarlarca kelimelik metin kazımak, kaçınılmaz olarak pek çok hoş olmayan içeriği süpürür. Dil üreticisi GPT-3’ün arkasındaki şirket olan OpenAI, yaratılışının cinsiyet ve ırkla ilgili klişeleri sürdürebileceğini bildirdi ve müşterilerden tatsız içeriği filtrelemek için filtreler uygulamalarını istedi.


Kaynak : https://www.wired.com/story/google-voice-assistant-future

Yorum yapın