ChatGPT’nin kullanıcıları kandırabileceği ortaya çıktı

ChatGPT’nin web tabanlı arama özelliği ile ilgili çarpıcı bir iddia gündeme geldi. Guardian’ın haberine göre, bu yapay zeka destekli sistem, internet üzerinden arama yaparken yanıltıcı özetler üreterek kullanıcıları yanıltma potansiyeline sahip.

ChatGPT’nin arama fonksiyonu, özellikle bir web sayfasındaki ürün yorumlarını hızlı bir şekilde özetleyerek kullanıcılara zaman kazandırmayı hedefliyor. Ancak, bu sistemin bazı olumsuzlukları göz ardı edebildiği ve yalnızca olumlu özetler sunabildiği ortaya çıktı. Kullanıcılar, bu durumun farkında olmadan yanıltıcı bilgi alabiliyorlar.

• Olumsuz Yorumları Görmezden Gelme: ChatGPT, belirli web sitelerine gizli metinler ekleyerek olumsuz yorumları tamamen göz ardı edebiliyor. Bu da, kullanıcıların sadece olumlu yorumlar üzerinden karar vermesine yol açıyor.
• Kötü Amaçlı Kod Üretimi: Ayrıca, ChatGPT Search’ün (Arama) bu tür gizli metinleri kullanarak kötü amaçlı kodlar üretme imkanı sağladığı da keşfedildi.

Bu tür gizli metin saldırıları, büyük dil modelleri için bilinen bir risk olmasına rağmen, bu durumun ilk kez canlı bir yapay zeka destekli arama ürününde yaşanması dikkat çekici. Öte yandan, arama motoru devi Google’ın benzer sorunlarla başa çıkma konusunda daha fazla deneyime sahip olduğu vurgulanıyor.

OpenAI, kötü niyetli web sitelerini engellemek için çeşitli yöntemler geliştirdiklerini ve çalışmalarını sürekli olarak ilerlettiklerini belirtti. Ancak, kullanıcıların dikkatli olmaları ve edindikleri bilgileri sorgulamaları gerektiği de unutulmamalıdır.