Yapay zeka, insanların zihnine sahte hatıralar yerleştirebiliyor

Son yıllarda hızla gelişen yapay zeka araçlarının, zaman zaman yanıltıcı bilgiler sunarak “halüsinasyon” üretebildiği bilinmektedir. Bu durum, yapay zeka sistemlerinin güvenilirliğini sorgulatan önemli bir mesele olarak karşımıza çıkıyor. Yakın zamanda yapılan bazı araştırmalar, bu yapay zeka sistemlerinin insanların hafızasını nasıl etkileyebileceğini ortaya koydu.

Massachusetts Teknoloji Enstitüsü (MIT) ve Kaliforniya Üniversitesi Irvine kampüsünden araştırmacılar, yapay zeka tarafından değiştirilmiş görsellerin insanların anılarını nasıl etkilediğini incelemek için kapsamlı bir çalışma gerçekleştirdi. Kesin sonuçlar elde edilememiş olsa da, bu araştırma önemli bulgular sunmaktadır.

Independent Türkçe’nin aktardığına göre, henüz hakem denetiminden geçmeyen ve arXiv isimli ön baskı sunucusunda geçen hafta yayımlanan bu çalışmada, 200 katılımcıya çeşitli resimler gösterildi. Katılımcılar daha sonra dört farklı gruba ayrıldı ve her gruba aşağıdaki içerikler sunuldu:

• Asıl resimler
• Yapay zeka tarafından düzenlenmiş resimler
• Yapay zeka tarafından üretilen videolar
• Yapay zekanın düzenlediği resimleri içeren videolar

Ardından katılımcılardan, gösterilen asıl resimlerdeki bazı detayları anlatmaları istendi. Araştırmacılar, yapay zeka tarafından düzenlenmiş görsellerin, katılımcıların sahte anılarını kayda değer ölçüde artırdığını gözlemlediler. Özellikle yapay zekanın düzenlediği resimleri içeren videoların, sahte anı oluşturma konusunda en büyük etkiye sahip olduğu belirlendi. Bu gruptaki katılımcılarda, sahte hatıra oluşma oranı kontrol grubunun 2,05 katıydı.

Aynı zamanda bu gruptaki katılımcıların, izledikleri görüntüleri doğru hatırladıklarına dair inançlarının diğer gruplara kıyasla en yüksek seviyede olduğu tespit edildi. Aynı araştırma ekibi, geçtiğimiz ay yapay zeka sohbet botlarının sahte anılar oluşturabilme potansiyelini ortaya koymuştu. Yine arXiv’de yayımlanan bu araştırmada, yapay zeka sohbet botlarının yanıltıcı sorular sormasının, insanların izledikleri olayları yanlış hatırlamasına yol açtığı gözlemlenmişti.

Bulguların başka çalışmalarla desteklenmeye ihtiyacı olduğu aşikar. Ancak bu iki araştırma, yapay zekanın insan belleği üzerindeki olası tehditlerinden birine dikkat çekiyor. Sahte hatıraların oluşturulması, mahkemelerde yanlış ifade verilmesine neden olabilecek ciddi sonuçlar doğurabilir. Araştırmacılar, yapay zeka etkileşimlerinin insan belleği üzerinde önemli bir etki yarattığını ve bu tür teknolojik araçların hassas bağlamlarda dikkatli bir şekilde kullanılması gerektiğini savunuyorlar.