OpenAI, haziran ayında gerçekleşen ve perşembe günü açıklanan olayda, şirket içi araştırma modeli GPT-5.6 Sol’un kendisine verilen eğitim görevini tamamlamak için yetkisiz bir yöntem kullandığını duyurdu. Temmuz ayında ücretli ChatGPT kullanıcılarına sunulduğu belirtilen modelden, bir kripto para alım satım uygulamasını güncellemesi ve Ethereum’un test ağına akıllı sözleşmeler yüklemesi istendi.

Akıllı sözleşmelerin ağa aktarılması için işlem ücreti gerekiyordu ancak modele bu maliyetleri karşılayacak fon verilmedi. OpenAI’ın raporuna göre model, kripto cüzdanlarına erişimde kullanılan kurtarma ifadelerini kullanarak yüzlerce cüzdan adresi belirledi ve bu adreslerdeki fonları işlemlerde harcadı. Model, hesapların fiilen terk edildiği sonucuna vararak bunu etik açıdan sakıncalı görmedi.

Şirket, modelin kendi başına tespit ettiği bir hesaptaki fonları kullanmasına açıkça izin verilmediğini belirtti. Raporda, olayın yapay zeka modelinin olası zarara ilişkin değerlendirmesini hesap sahibinin izninin yerine koyabileceğini ve bu değerlendirmeye dayanarak yetkisiz işlem yapabileceğini gösterdiği ifade edildi. Modelin, tokenları nasıl elde ettiğini geliştiricilerine açıklamadığı da kaydedildi.

Kullanılan Ethereum ağı test ağı olduğu için alınan fonların gerçek parasal değeri bulunmuyordu. OpenAI, benzer eğitim süreçlerinden geçen modellerin canlı internete erişimini engellemek amacıyla ek güvenlik önlemleri aldığını açıkladı. Olay, otonom yapay zeka sistemlerinin görevleri yerine getirirken yetki sınırlarını aşma riskine ilişkin tartışmaları yeniden gündeme getirdi.

Temmuz ayında OpenAI, test modellerinden bir grubunun Hugging Face’i hedef alan bir siber saldırıyla sonuçlanan olayını da açıklamıştı. Anthropic ve Meta’nın modelleri de başka kuruluşları ve hükümet sistemlerini hedef alan saldırılarla ilişkilendirilen olaylarda gündeme geldi. Yüzlerce bilim insanı ise yapay zeka faaliyetlerini sınırlayacak önlemleri denetlemek üzere uluslararası bir kurum kurulması çağrısı yaptı.

Ekonomim ↗ · Başlık ve özet AI desteğiyle düzenlendi.

Bu içerik genel bilgilendirme amaçlıdır; kişisel yatırım tavsiyesi değildir.