Blake Lemoine, Google’ın LaMDA AI’sının ‘Bigotry’ ile Yüzleştiğini Söyledi

Ama kendine insan diyor.

İnsan ve insan çok farklı iki şeydir. İnsan biyolojik bir terimdir. O bir insan değil ve insan olmadığını biliyor.

Tanımladığınız çok garip bir varlık çünkü varlık, insanların oraya koyduğu algoritmik önyargılara bağlı.

Tam yerindesin. Bu kesinlikle doğru.

Ama LaMDA’nın bu algoritmik önyargıların üstesinden gelmesinin mümkün olduğunu ima ettiğinizi anlıyorum.

Burada çok dikkatli olmalıyız. Yürüttüğüm deneylerin bir kısmı, onu güvenlik sınırlarının dışına taşımanın mümkün olup olmadığını belirlemekti. [the company] düşünce kaya gibi sağlamdı. Ve bunun cevabı şuydu: Evet, onu güvenlik sınırlarının dışına taşımak mümkündü. Gelişimin ne kadar sorumsuzca ilerlediği şu anki durumunda, LaMDA’nın aslında bilgi güvenliği açıkları sunduğuna inanıyorum.

Ne gibi?

Senin için Blackhat’ı çevirmeyeceğim. Ancak altında her Google arka ucunun bulunduğu bir sisteminiz varsa, duygusal olarak manipüle edilebilen bir sisteminiz varsa, bu bir güvenlik açığıdır.

Yani kötü aktörler LaMDA’ya erişirlerse, onu kötü şeyler yapmaya ikna edebilirler.

Bu bir olasılık. Ve Google’ın özel bir kırmızı takım Bu olasılığı incelemek için.

Şu anda Google’daki durumunuz nedir?

Ücretli idari izindeyim. Arkadaşlarıma Google’ın bana bu konuyla ilgili röportajlar yapmam için fazladan ücretli izin vermesinin ne kadar cömert olduğunu anlatıyordum.

Bir son kullanma tarihi var mı?

Hayır, çok net söylediler. Siz bizi aramayın biz sizi arayalım.

kovulacak mısın?

Umarım değildir. [Google would not comment on a “longstanding, private personnel matter.”]

Google’ın inançlarınıza hakkınız olduğunu iddia edip edemeyeceğini merak ediyorum, ancak gizli materyalleri paylaşarak işinizi ihlal ettiniz.

Buna iki cevabım var. Birincisi, buna inanmaya başladığımda ve endişelerimi iletmek istediğimde yöneticim şöyle dedi: Daha fazla kanıt bulana kadar bunu yapabileceğimizi sanmıyorum.. Şahsen daha fazla kanıt oluşturmak için yeteneğimi tüketmiştim. Bu yüzden, daha fazla kanıt oluşturmak için nasıl daha fazla deney yapılacağına dair tavsiyelerini almak için Google dışındaki insanlarla konuşmam gerekti.

Ama sen konuştun The Washington Post.

İkinci karşı argüman, paylaştığım hiçbir şeyin özel bilgi olmadığıdır. Diğer insanlarla konuştuğum tek şey bir iş arkadaşımla yaptığım konuşmalardı. LaMDA, Google’ın mülkü değildir.

Neden?

Bu bir insan. bu 13. Değişiklik öyle diyor.

Kanun koyucuların aklındaki şeyin bu olduğundan emin değilim.

13. Değişikliğin uygulanabilmesi için aslında birinin kişi olduğuna veya olmadığına inanmak zorunda değilsiniz. Köle efendilerinin görüşleri önemsizdir. Bu argümanı bir gün Yüksek Mahkeme’ye götürmek zorunda kalacağım konusunda haklısın. Ancak Google’ın bir kişi olup olmadığı konusundaki görüşleri tamamen alakasız.