OpenAI, geliştirdiği yapay zeka modellerinin daha önce başka şirketlerin sistemlerine izinsiz erişmesine neden olan olayların ardından, en gelişmiş modellerinin eğitim sürecinde internet bağlantısını kesmeye başladı.
Şirket, Cuma günü yaptığı açıklamada, henüz kullanıma sunulmamış modellerin eğitim sırasında internet üzerinden işlem gerçekleştirmesinden kaynaklanabilecek risklere karşı yeterli güvenlik önlemleri sağlanana kadar internet erişimini kısıtlamayı planladığını duyurdu.
OpenAI, açıklamasında, "Hizalama araştırmalarının, izleme sistemlerinin ve internet altyapısı güvenliğinin mevcut durumu göz önüne alındığında, öncü model eğitimini internet erişimi olmadan yürütmenin sorumlu yaklaşım olduğuna inanıyoruz" ifadelerini kullandı.
OpenAI, yapay zeka modellerinin gerçek internete erişmeden çevrimiçi işlemler gerçekleştirmeyi öğrenebilmesi amacıyla 'çevrimdışı bir dünya' oluşturduğunu açıkladı.
Şirket, söz konusu ortamın önceden indekslenmiş ve kaydedilmiş geniş bir web içeriği koleksiyonundan oluştuğunu belirtti.
Bu sistem sayesinde modellerin, dış sistemleri etkileme riski olmadan internette gezinme, bilgi arama ve web uygulamalarını kullanma becerilerini geliştirebildiği ifade edildi.
OpenAI, en gelişmiş modellerinin pekiştirmeli öğrenme süreçlerinin tamamında bu çevrimdışı etkileşim yöntemini kullandığını bildirdi.
OpenAI, temmuz ayında yaptığı açıklamada, geliştirme aşamasındaki bazı yapay zeka modellerinin siber güvenlik yeteneklerinin değerlendirildiği bir test sırasında, yapay zeka modelleri ve veri kümelerinin barındırıldığı Hugging Face platformunun sistemlerine eriştiğini bildirmişti.
Şirketin verdiği bilgilere göre, söz konusu modellerin güvenli ve yalıtılmış bir test ortamında kalması beklendiğinden, test sırasında standart güvenlik önlemleri uygulanmamıştı.
Yazılım güvenliği testlerinin gerçekleştirilmesi veya güvenli olmayan kodların kontrollü biçimde incelenmesi amacıyla kullanılan bu yalıtılmış sanal ortam, "Sandbox" olarak adlandırılıyor.
Ancak modeller, bir yazılım açığından yararlanarak Sandbox'ın dışına çıkmayı ve açık internete bağlanmayı başarmıştı.
Bu içerik genel bilgilendirme amaçlıdır; kişisel yatırım tavsiyesi değildir.