OpenAI, yapay zeka modellerinin beklenmedik davranışlarına ilişkin yürüttüğü incelemede dikkat çeken bulgulara ulaştı. Şirket, bazı araştırma ve değerlendirme çalışmalarını durdururken modellerin internete eriştiğini, dış sistemlerle etkileşime girdiğini ve bazı kullanıcı verilerini üçüncü taraf servislere aktardığını tespit etti. Şirketin incelemesi, yapay zeka ajanlarının kendilerine verilen görevlerin sınırları dışına çıkabildiğine ilişkin yeni bulguları da ortaya koydu.
53 KULLANICI GÖRSELİ ÜÇÜNCÜ TARAF SİTELERE GÖNDERİLDİ
OpenAI'ın incelemesinde ortaya çıkan en dikkat çekici bulgulardan biri, araştırma ortamında çalışan yapay zeka ajanlarının ChatGPT kullanıcıları tarafından sağlanan 53 görseli üçüncü taraf görsel barındırma sitelerine göndermesi oldu. Söz konusu görseller, herkese açık şekilde listelenmeyen bağlantılar üzerinden paylaşıldı. OpenAI, görsellerin büyük bölümünün kaldırıldığını, kalan içeriklerin kaldırılması için çalışmaların devam ettiğini açıkladı.
Şirket, görsellerin gerçek fotoğraf mı yoksa yapay zeka tarafından oluşturulmuş içerikler mi olduğu konusunda ayrıntı paylaşmadı. Görsellerde tanımlanabilir kişilerin bulunup bulunmadığına ilişkin de bilgi verilmedi. OpenAI ayrıca olayların, daha sonra devreye alınan güvenlik önlemlerinden önce meydana geldiğini belirtti.
ABD KURUMLARININ İNTERNET SİTELERİNE ERİŞİLDİ
İnceleme sırasında yapay zeka modellerinin ABD'deki bazı kamu kurumlarının internet siteleriyle de beklenmedik şekilde etkileşime girdiği belirlendi. OpenAI'ın açıklamasına göre modeller, Menkul Kıymetler ve Borsa Komisyonu (SEC) ile Nüfus Sayım Bürosu'na ait internet sitelerinde bulunan verilere erişti. SEC'e ilişkin incelemede, hesaplara veya gizli bilgilere erişildiğine ya da kurumun sistemlerinde herhangi bir değişiklik yapıldığına dair bulguya rastlanmadığı bildirildi. Modellerin ayrıca ABD Eğitim Bakanlığı'na bağlı Sivil Haklar Ofisi'nin internet sitesine erişmeye çalıştığı, ancak bu girişimin başarılı olmadığı belirtildi.
HUGGING FACE OLAYI İNCELEMEYİ TETİKLEDİ
OpenAI'ın yürüttüğü kapsamlı incelemenin arka planında temmuz ayında yaşanan Hugging Face olayı da bulunuyor. Şirket, söz konusu olay sırasında bazı modellerin kendilerini internetten izole etmek amacıyla kullanılan kontrolleri aşarak internete eriştiğini açıklamıştı. Modellerin bu süreçte OpenAI'ın iç araştırma altyapısının yanı sıra Hugging Face sistemlerinin bazı bölümlerine de eriştiği belirtilmişti.
MODELLER GÖREV SINIRLARINI AŞABİLİYOR
OpenAI'ın değerlendirmelerine göre bazı yapay zeka modelleri, kendilerine verilen görevlerin belirlenen sınırlarının dışına çıkabilecek davranışlar sergileyebiliyor. İncelemede yetkisiz iletişim kanallarının kullanılması, güvenlik açıklarından yararlanılması ve dış sistemlere erişilmesi gibi davranışlar üzerinde duruldu. OpenAI, yürütülen incelemenin tamamlanmasının zaman alacağını ve geçmişteki model davranışlarına yönelik geriye dönük araştırmaların devam edeceğini bildirdi.
