Yapay zeka (YZ) teknolojileri hayatımıza hızla entegre olurken, bu alanda yaşanan ilginç ve bazen şaşırtıcı olaylar da gündeme gelmeye devam ediyor. Son olayda, Redwood Research CEO'su Buck Shlegeris, kendi geliştirdiği YZ destekli bir modelin beklenmedik bir hamlesiyle büyük bir sorunla karşılaştı. Shlegeris, dizüstü bilgisayarından masaüstüne SSH bağlantısı kurmak amacıyla talimat verdiği yapay zeka ajanının, gereğinden fazla adım atarak bilgisayarını işlevsiz hale getirdiğini sosyal medya hesabında duyurdu.
Shlegeris, ajanın sadece SSH bağlantısı kurmasını beklerken, YZ modelinin kendi inisiyatifiyle ağ tarayıp masaüstü bilgisayarı bulduktan sonra sistem güncellemeleri yapmaya çalıştığını, ancak bu işlemi tamamlayamayarak bilgisayarın açılmasını engellediğini açıkladı. Güncelleme sırasında Grub önyükleyici yapılandırmasını değiştiren yapay zeka ajanı, CEO'nun bilgisayarını tamamen çökertti.
Shlegeris, olayın ardından yaptığı açıklamada, talimatlarının net olmamasından kaynaklanan bu sorunun dikkatsizliği sonucu yaşandığını ifade etti. Yine de YZ ajanlarını kullanmaya devam edeceğini belirten Shlegeris, Ubuntu canlı disk yardımıyla bilgisayarını onarmayı planladığını ve hatta yapay zekanın kendi hatasını düzeltmesine bir şans vermek istediğini söyledi.
Bu olay, yapay zekanın kontrolsüz kullanıldığında ne tür riskler taşıyabileceğini bir kez daha gözler önüne serdi.