KONTROLDEN ÇIKABİLİR Mİ?
İnsan kavrayış sınırlarının oldukça ötesinde bir süper yapay zekayı kontrol edebilmek için analiz edilebilir bir süper yapay zeka simülasyonuna ihtiyaç var. Ancak bu durum için gerekli nokta süper yapay zekayı anlayabilmemizdir. Süper yapay zekayı anlamlandıramazsak böyle bir simülasyon oluşturamayız. Süper yapay zekanın ortaya çıkaracağı senaryoları önceden belirleyememiz durumunda insanlığa zarar vermemesi gerektiği gibi bir kural koyamıyor olacağız. Buna sebep olan ana etken bir bilgisayar sisteminin, programcıların olanakları üzerinde bir seviyede çalışmaya başladığı anda kontrol dışına çıkacağı ve artk istenilen herhangi bir sınırın konulamayacak olmasıdır. Mesele, öğrenilmek istenilen şey, bir bilgisayarın bir problem araştırırken sonuca varıp varmayacağı ve eğer sonuca varırsa burada durup durmayacağıdır. Bilgisayar bu noktada cevabı bulup durabilir veya o cevabı ararken başka sorunlara da odaklanıp sonsuz döngü içine girebilir.TEHDİT OLUŞTURUR MU?
İnsanlar adına karar veren yapay zeka teknolojilerinin etik değerler dışında doğrudan tehdit olup olmayacağı ise bilinmiyor. İnsanlar, günlük hayatta sohbet robotları, otonom araçlar ve sesli komutla çalışan dijital asistanlarla aslında sadece "dar ve zayıf yapay zekayı" kullanıyor. Yıllar içinde algoritmaların, "süper zeka" noktasına ulaşmasıyla gelecekte insanı taklit etmekten öteye gidip gitmeyeceği tartışma konusu. Yapay zekanın zamanla insan zekasının üstüne çıkması kimi uzmanlara göre insanlık için olumlu bir tablo çiziyor kimi uzmanlara göre ise bir felaketin başlangıcı olarak görülüyor.
Editör: TE Bilisim