Microsoft, yapay zeka dünyasında devrim yaratacak bir adım atarak, 'halüsinasyon' olarak adlandırılan hatalı içerik üretim sorununu çözmeye yönelik yeni bir düzeltme aracı geliştirdi. Yapay zeka modellerinin yanlış ve uydurma bilgiler üretmesini önlemek amacıyla Microsoft, bir yapay zekayı diğerini kontrol etmek için kullanacak.
Yapay Zeka Halüsinasyonları Neden Sorun Oluyor?
Son yıllarda büyük bir hızla yayılan generatif yapay zeka (Gen AI), kullanıcılarına bazen yanlış bilgi sunabiliyor. Microsoft'un yeni 'Correction' (Düzeltme) özelliği, mevcut ‘Groundedness Detection’ (Dayanaklılık Tespiti) sistemi üzerinde inşa edilerek, yapay zeka tarafından üretilen metinlerin doğruluğunu kontrol edecek.
Gerçek Zamanlı Doğrulama
Bu yeni araç, kullanıcıların sağladığı destekleyici belgelerle yapay zekanın ürettiği içerikleri çapraz kontrol ederek, olası hatalı bilgileri işaretleyecek. Microsoft'un Azure AI Safety API'si kapsamında sunulacak olan bu düzeltme aracı, OpenAI’nin GPT-4o ve Meta’nın Llama gibi platformları kullanan kullanıcıların deneyimlemesi için yakında hazır olacak.
Gizlilik Önceliği
Microsoft ayrıca, yapay zeka içerik üretmeden önce gizli bir çıkarım katmanı aracılığıyla risk değerlendirmesi yapmasına olanak tanıyan 'Evaluations' (Değerlendirmeler) adında bir başka araç geliştirmekte. Bu araç, hassas bilgilerin güvenli ve gizli kalmasını sağlamak amacıyla tasarlanmış durumda.
