Yapay zeka destekli chatbot'ların tıbbi tavsiye verirken önemli hatalar yapabileceği ve bu hataların hastaların sağlığını riske atabileceği ortaya kondu. Almanya'da yapılan bir araştırma, chatbot'ların sıklıkla kullanılan ilaçlarla ilgili sorulara verdikleri yanıtların güvenilir olmadığını gösterdi. Araştırma kapsamında, en sık reçete edilen 50 ilaç için hastalar tarafından en çok sorulan 10 soru belirlendi. Bu sorular arasında ilaçların yan etkileri, kullanım talimatları ve kontrendikasyonlar yer aldı.
BING COPILOT ARACI TUTARSIZ CEVAPLAR VERDİ
Araştırmacılar, Microsoft'un yapay zeka destekli sohbet aracı Bing Copilot'un verdiği 500 cevabı, klinik eczacılar ve doktorlar tarafından sağlanan yanıtlarla karşılaştırdı. Sonuçlar, yanıtların dörtte birinden fazlasının (yüzde 26) referans verilerle örtüşmediğini, yüzde 3'ünden fazlasının ise tamamen yanlış olduğunu ortaya koydu. Bu yanıtların yüzde 42'si hafif veya orta derecede zarar verebilecek potansiyele sahipken, yüzde 22'si ciddi zarara ya da ölüme yol açabilecek nitelikteydi.
ANLAMAK ZOR
Daily Mail'de yer alan habere göre, chatbot'ların verdiği cevapların anlaşılması güç ve genellikle üniversite düzeyinde bir bilgi birikimi gerektirdiği belirtildi. BMJ Quality and Safety dergisindeki araştırmacılar, chatbot cevaplarının çoğunlukla bilgi eksikliği veya yanlışlıklar içerdiğini ve bunun hasta güvenliği açısından büyük bir risk oluşturduğunu vurguladı. Bu nedenle, hastaların sağlık uzmanlarına danışmasının önemi bir kez daha gündeme getirildi.
COPILOT'UN HATA NEDENİ
Microsoft sözcüsü, Bing Copilot'un yanıtlarını birçok kaynaktan derlediğini ve kullanıcıları geleneksel aramalara yönlendirdiğini belirtti. Ancak, sağlık tavsiyesi için her zaman bir uzmana başvurulması gerektiğini vurguladı. Araştırmanın sınırlamaları olduğunun farkında olan bilim insanları, chatbot'ların sunduğu bilgilere daha fazla netlik getirilmesi gerektiğini ifade ettiler. Yine de, yapay zeka destekli arama motorları ve chatbot'ların tıbbi tavsiyeler verirken dikkatli kullanılmasının önemine dikkat çektiler.
