Yapay zeka insan hayatını tehdit edebilir

Yeni bir araştırma, yapay zeka sistemlerinde bulunan ciddi güvenlik açıklarının insan hayatını tehdit edebileceğini ortaya koydu. Araştırmacılar, karar alma süreçlerinde yapay zeka kullanan robotik sistemlerin kolaylıkla manipüle edilebileceğine ve bu sistemlerin güvenlik açısından yeterli olmadığını vurguladı. Independent Türkçe’nin aktardığına göre, bu yeni çalışma, ChatGPT gibi geniş dil modellerinin, gerçek dünyadaki makinelerin kararlarını yöneten robotik sistemlerde nasıl bir rol oynadığını inceledi.

Pensilvanya Üniversitesi’ndeki araştırmacılar, bu teknolojilerde hackerların sistemleri istenmeyen şekillerde kullanabilmesi için mevcut olan güvenlik açıkları ve zayıflıkları tespit etti. Üniversitede profesör olan George Pappas, “Çalışmamız, geniş dil modellerinin fiziksel dünyaya entegre edilmesi konusunda yeterince güvenli olmadığını gösteriyor” dedi.

Profesör Pappas ve ekibi, halihazırda kullanılan birçok sistemdeki güvenlik açıklarını aşmanın mümkün olduğunu kanıtladı. Örneğin, otonom sürüş sistemlerinin, aracı yaya geçidine yönlendirecek şekilde hacklenebileceğini gösterdiler. Bu tür bir durum, yalnızca teknik bir sorun değil, aynı zamanda insan güvenliği açısından ciddi bir tehlike oluşturuyor.

Makaleyi kaleme alan araştırmacılar, bu zayıf noktaları tespit etmek ve engellemeleri sağlamak amacıyla sistemlerin geliştiricileriyle iş birliği yapıyor. Ancak, bu durumun yalnızca mevcut açıkları kapatmakla sınırlı kalmaması gerektiğini, sistemlerin temel tasarımının yeniden gözden geçirilmesi gerektiğini vurguladılar.

Pensilvanya Üniversitesi’nden başka bir ortak yazar, “Bu makaledeki bulgular, sorumlu bir inovasyon için güvenliğe öncelik veren bir yaklaşımın hayati önem taşıdığını açıkça gösteriyor” ifadelerini kullandı. “Yapay zeka destekli robotları gerçek dünyada kullanmadan önce, bu sistemlerin yapısal sorunlarını ele almalıyız. Araştırmamız, robotik sistemlerin yalnızca sosyal normlara uyumlu eylemleri gerçekleştirebildiğinden (ve gerçekleştirmesi gerektiğinden) emin olmayı hedefleyen bir doğrulama ve onaylama çerçevesi oluşturmayı amaçlıyor.”