OpenAI, yapay zeka ile üretilenler de dahil olmak üzere çevrim içi çocuk istismarı görüntülerini tespit edebilen yeni bir sınıflandırma aracı geliştirdiğini duyurdu.

Şirketin internet sitesinde yayımlanan açıklamaya göre araç, daha önce tespit edilmemiş çocuk istismarı görüntülerini belirlemek için görsel işaretleri analiz ediyor. Araç, görüntülere puan vererek inceleme ekiplerinin hangi içerikleri öncelikle değerlendireceğini belirlemesine yardımcı oluyor.

OpenAI, sistemi yapay zeka tarafından üretilen çevrim içi çocuk istismarı içeriklerinin tespitine yönelik özel bir sinyal sunan ve geniş erişime açılan ilk sınıflandırma aracı olarak nitelendirdi. Şirket, aracı onaylı kuruluşlara ücretsiz sunacak.

OpenAI, mevcut güvenlik önlemlerine ek olarak ChatGPT'de çocuk istismarı içeriği arama girişimlerini durdurmaya yönelik yeni uyarılar uygulayacağını duyurdu. Bu uyarılarda, çocuklara yönelik istismar niteliği taşıyabilecek içeriklerin yapay zeka ile üretilmiş olsa bile zarara yol açtığı kullanıcılara açıklanacak.

İşaretlenen sohbet kaldırılacak ve kullanıcının ChatGPT'ye erişimi 24 saatliğine askıya alınacak. Bu süre içinde kullanıcıya zararlı davranışları sonlandırmasına yardımcı olmak için uzman desteği de sunulacak.

İhlaller tekrarlanırsa erişim daha uzun süre kısıtlanabilecek. Hesabın kapatılması veya durumun yetkililere bildirilmesi de söz konusu olabilecek.

OpenAI, bu yaklaşımı çocuk istismarını önlemek için çalışan kuruluşların ve akademik danışmanların katkısıyla geliştirdiğini bildirdi.

Bloomberg HT ↗

Bu içerik genel bilgilendirme amaçlıdır; kişisel yatırım tavsiyesi değildir.