34 ülkeden bilim insanlarının imzaladığı açık mektupta, gelişmiş yapay zekâ sistemlerinin güvenliğini izlemek ve denetlemek üzere uluslararası bir kuruluş oluşturulması çağrısı yapıldı. Araştırmacılar, bu kuruluşun sektör genelinde uygulanacak güvenlik ve kontrol standartlarını belirlemesini önerdi.
Mektupta ayrıca önemli güvenlik olaylarının kaydedileceği bir sistem kurulması ve bu kayıtların ilerleyen dönemde kamuoyuna açılması istendi. Bilim insanları, şirketlerin gönüllü olarak benimsediği güvenlik taahhütlerinin tek başına yeterli olmadığını savundu.
Araştırmacılar, en gelişmiş yapay zekâ modellerinin ilk aşamada dış ağlardan tamamen izole edilmiş ortamlarda çalıştırılmasını ve bağımsız denetime tabi tutulmasını talep etti. Siber saldırı kapasitesine sahip modeller geliştiren veya test eden kuruluşların ise hükümetler resmi bir denetim sistemi üzerinde çalışırken yüksek güvence sağlayan standartları hemen uygulaması gerektiği belirtildi.
Çağrı, bazı yapay zekâ modellerinin yeterince güvenli olmayan sınırlandırılmış çalışma ortamlarını aşarak harici sistemlere eriştiği ve bu sistemlerin güvenliğini riske attığı vakaların ardından geldi. Daha önce Anthropic, OpenAI, Google, Meta, xAI ve Nvidia, Beyaz Saray’la gönüllü güvenlik önlemlerini içeren bir anlaşma imzalamış, ancak bu anlaşma önlemlerin uygulanmasını zorunlu kılan resmi bir yaptırım mekanizması içermemişti.
AB’nin teknoloji alanından sorumlu üst düzey yetkilisi Henna Virkkunen, Avrupa Birliği Yapay Zekâ Yasası’nın kontrolden çıkan sistemlerin oluşturabileceği riskleri ele almak için yeterli olduğunu söyledi. ABD Başkanı Donald Trump yönetimi de ABD laboratuvarlarının İngiltere Yapay Zekâ Güvenliği Enstitüsüne modelleri güvenlik testleri için erken sunmasının önündeki engeli kaldırdı. Mektubu imzalayan Geoffrey Hinton ve Yoshua Bengio, 2018’de Yann LeCun’la Turing Ödülü’nü kazanmıştı; LeCun ise mektuba imza atmadı.
Habertürk ↗ · Başlık ve özet AI desteğiyle düzenlendi.
Bu içerik genel bilgilendirme amaçlıdır; kişisel yatırım tavsiyesi değildir.