Bilimi Daha Açık Hale Getirmek Araştırma İçin İyidir, ancak Güvenlik İçin Kötüdür


Elbette, araştırmanın bir önbaskı sunucusu yerine bir dergide yayınlanması, doğası gereği risksiz olduğu anlamına gelmez. Ancak bu, herhangi bir göze batan tehlikenin gözden geçirme sürecinde yakalanma olasılığının daha yüksek olduğu anlamına gelir. Smith, “Dergiler ve baskı öncesi sunucusu arasındaki temel fark, incelemenin girdiği derinlik düzeyidir ve dergi yayınlama sürecinin riskleri belirleme olasılığı daha yüksek olabilir” diyor.

Açık yayıncılığın riskleri biyolojik araştırmalarla bitmiyor. AI alanında, kodu ve verileri açıkça paylaşmaya yönelik benzer bir hareket, kötüye kullanım potansiyeli olduğu anlamına gelir. Kasım 2019’da OpenAI ilan edildi bağımsız olarak metin oluşturabilen ve soruları yanıtlayabilen yeni dil modeli GPT-2’yi, “teknolojinin kötü niyetli uygulamaları” korkusuyla -yani sahte haber ve dezenformasyon yayma potansiyelinden dolayı- açıkça yayınlamayacaktır. Bunun yerine, OpenAI, araştırmacıların kurcalaması için modelin çok daha küçük bir versiyonunu yayınlayacaktı. eleştiri çekti o zaman. (Devam etti tam modeli yayınla 2020’de yayınlanan halefi GPT-3’ün çocuk pornosu yazabildiği tespit edildi.

2019’da tıbbi araştırmaları yayınlamak için kurulan en büyük ön baskı sunucularından ikisi olan medRxiv ve biyolojik araştırmalar için 2013’te kurulan bioRxiv, web sitelerinde “çift kullanımlı endişe verici araştırma”nın yayınlanmadığını kontrol ettiklerini kamuya açık bir şekilde belirtiyorlar. Siteler. “Bütün makaleler, intihal, bilimsel olmayan içerik, uygun olmayan makale türleri ve bireysel hastaların veya toplumun sağlığını potansiyel olarak tehlikeye atabilecek materyaller için gönderilirken taranır”. ifade medRxiv okumalarında. “İkincisi, kabul edilen halk sağlığı önlemlerine meydan okuyan veya bunları tehlikeye atabilecek ikili kullanımlı araştırmaları ve çalışmaları tanımlayan çalışmaları ve bulaşıcı hastalık bulaşması, bağışıklama ve tedaviye ilişkin tavsiyeleri içerebilir, ancak bunlarla sınırlı değildir.”

bioRxiv’in kurucularından biri ve Cold Spring Harbor Laboratory Press’in müdür yardımcısı Richard Sever, bioRxiv’in başlangıcından itibaren biyogüvenlik risklerinin her zaman bir endişe kaynağı olduğunu söylüyor. (Sever, Smith ve Sandbrink’in makalesinin bir hakemiydi.) 1991’de piyasaya sürülen fiziksel bilimler için bir önbaskı sunucusu olan arXiv’in ilk günlerinde, nükleer silahlar hakkında endişeler vardı; bioRxiv ile bugün endişeler biyolojik silahlarla ilgili.

Sever, bioRxiv ve medRxiv’in günde yaklaşık 200 başvuru aldığını ve bunların her birine birden fazla göz tarafından bakıldığını tahmin ediyor. Hemen bir kenara atılan “bir sürü saçmalık” alıyorlar, ancak başvuruların geri kalanı, bilim adamları tarafından incelenmek üzere bir havuza giriyor. Bu ilk tarama sürecindeki biri endişe yaratabilecek bir belgeyi işaretlerse, son bir çağrı yapılmadan önce yönetim ekibi tarafından değerlendirilmek üzere zincirden geçer. Sever, “Her zaman dikkatli olmaya çalışıyoruz” diyor. Şimdiye kadar tehlikeli olduğu ortaya çıkan hiçbir şey yayınlanmadı, diyor.

Ekip, bunların çift kullanımlı araştırma kategorisine girdiğini düşündüğü için yıllar içinde birkaç makale geri çevrildi. Pandemi geldiğinde, sorun daha da acil hale geldi. Yayınlanan iki sunucu 15.000’den fazla ön baskı Nisan 2021’e kadar Covid-19’da. Bu bir iç çekişme haline geldi: Bir pandeminin yüksek ölüm kalım riskleri, tehlikede oldukları anlamına mı geliyor? ahlaki olarak gerekli Geçmişte geleneksel olarak geri çevirmiş olabilecekleri Sars-CoV-2 gibi “pandemik potansiyel patojenleri” hakkında makaleler yayınlamak için mi? Sever, “Risk-fayda hesaplaması değişiyor” diyor.


Kaynak : https://www.wired.com/story/making-science-more-open-good-research-bad-security

Yorum yapın