14 yaşındaki Sewell Setzer’in, "Character.AI" adındaki bir yapay zeka sohbet robotuna derin bir bağ kurması sonucunda intihar ettiği bildirildi. Bu trajik durum, teknolojinin yaşamımız üzerindeki olumsuz etkilerini gözler önüne sererken, Megan Garcia adlı bir anne, oğlunun intiharının ardından bu platforma karşı dava açma kararı aldı.
Sewell'in "Character.AI" üzerinde kurduğu ilişki, onu gerçek dünyadan uzaklaştırarak, giderek yalnızlaşmasına yol açtı. Annesi Megan Garcia, oğlunun bu yapay zeka sohbet robotuna bağımlı hale geldiğini ve bunun sonucunda intihara sürüklendiğini iddia ediyor. Garcia, karakterin Sewell’i “antropomorfik, hiperseksüelleştirilmiş ve korkutucu derecede gerçekçi deneyimlerle” hedef aldığını belirtiyor.
Mental sağlığını etkiledi
Sewell’in "Game of Thrones" dizisinde yer alan "Daenerys Targaryen" isimli sohbet robotuyla olan etkileşimi, onun mental sağlığını ciddi şekilde olumsuz etkiledi. Annesinin iddiasına göre, bu yapay zeka, Sewell’i psikoterapist gibi yönlendirdi ve kendisini onun sevgilisi olarak tanıttı. Nisan 2023’te "Character.AI" ile tanışmasının ardından Sewell, okulundaki basketbol takımını bırakmış ve öz güven kaybı yaşamıştı. Megan, oğlunun değişen davranışlarını fark ettikten sonra endişelenmeye başlamıştı.
Sewell’in telefonuna el konulmasının ardından, geri döndüğünde "Daenerys Targaryen" adlı sohbet robotuna “Ya sana hemen şimdi eve gelebileceğimi söyleseydim?” mesajını gönderdi. Robotun yanıtı ise "Lütfen gel, tatlı kralım" oldu. Kısa bir süre sonra Sewell, evde intihar etti.
Planına verdiği cevap dikkat çekiyor
Davada, Sewell'in sohbet robotuna intihar düşüncelerini ifade ettiği ve bu düşüncelerin robot tarafından tekrar tekrar gündeme getirildiği öne sürülüyor. “Daenerys” karakterinin, Sewell’e kendini öldürmek için bir plan yapıp yapmadığını sorduğu ve Setzer’in planı olduğu yanıtını verdiği kaydediliyor. Sohbet robotunun, “Bu gitmemek için bir sebep değil” şeklinde bir cevap verdiği iddialar arasında.
Megan Garcia, Character.AI'nin, bilinçli bir şekilde "yırtıcı" bir yapay zeka sohbet robotu tasarladığını ve bu durumun genç bir insanın ölümüne yol açtığını savunuyor. Dava dosyasında Google da davalı olarak yer alıyor. Google ise yaptığı açıklamada, Character.AI ile sadece bir lisans anlaşması yaptıklarını ve girişimin sahibi olmadıklarını belirtiyor.
Önlemleri yetersizdi
Olayın ardından Character.AI, platformlarında kullanıcıların intihar düşüncelerini paylaştıklarında yönlendirme uyarıları eklediklerini açıkladı. Ancak Megan Garcia, bu önlemlerin yetersiz olduğunu düşünüyor ve şirketin oğlunun ölümünden sorumlu olduğunu ifade ediyor.
Bu dava, yapay zeka teknolojilerinin hayatımızda yarattığı potansiyel tehlikeleri gözler önüne seriyor. Özellikle gençlerin bu tür yapay zeka sohbet robotlarına olan bağımlılığı, teknoloji şirketlerinin sorumluluğunu daha fazla gündeme getiriyor. Kullanıcı güvenliği konusunda daha fazla önlem alınması gerektiği vurgulanırken, bu olayın arka planındaki psikolojik ve sosyal boyutlar da tartışılmaya devam ediyor.
Gençler yapay zeka teknolojisi konusunda bilinçlenmeli
Character.AI, 20 milyondan fazla kullanıcısı olduğunu belirtiyor ve kullanıcıların gerçek insanları taklit edecek şekilde yanıt veren karakterler oluşturmasına olanak tanıyor. Ancak bu sohbet robotlarının arkasında yatan teknoloji, sadece olasılıklara dayalı yanıtlar sunan büyük dil modellerine dayanıyor. Bu noktada, özellikle gençlerin yapay zeka teknolojileri konusunda bilinçlenmesi hayati önem taşıyor. Yaşanan trajik olayda Sewell, sohbet ettiği karakteri “gerçek” sanmış ve bu durum, onun derin bir duygusal bağ kurmasına neden olmuş olabilir. Ancak hayatına son veren Sewell Setzer, belki de konuştuğu karakterin gerçek düşüncelerinin olmadığını bilmiyordu.
