Yapay zekayı nasıl güvenli ve verimli kullanabiliriz?

Kaspersky Anketi Sonuçları ve Üretken Yapay Zeka

Kaspersky’nin gerçekleştirdiği bir anket, Türkiye’deki katılımcıların %40’ının yapay zekayı iş yerlerinde bir ekip üyesi olarak görmeye başladığını ortaya koyuyor. Bu durum, teknolojinin iş yerlerindeki rolünü ve algısını önemli ölçüde değiştirmektedir. Ancak, bu ilerlemeler, kötü niyetli kullanıcıların üretken yapay zeka araçlarını benimseyerek bireylere yönelik daha ikna edici sosyal mühendislik saldırıları düzenlemeleriyle birlikte daha karmaşık bir hale gelmektedir.

Örneğin, kişiselleştirilmiş kimlik avı e-postaları hazırlamak, insanları taklit eden gerçekçi ses, video veya metin içerikleri oluşturan “deepfake” teknolojileri kullanmak ve kamuoyunu yanıltabilecek dezenformasyon kampanyalarını yaymak gibi tehditler ortaya çıkmaktadır. Bu nedenle, kuruluşlar üretken yapay zekanın kullanımında merkezi bir yaklaşım benimsemelidir.

Kuruluşlar, bu tür bir hizmeti bulut sağlayıcıları aracılığıyla kurumsal hesaplar üzerinden sunarak gerekli tüm önlemleri alabilirler. Bu süreç, mesajlardaki kişisel verilere ilişkin izleme ve gözlemleme gibi önlemleri de içermelidir. Uzmanlara göre, kuruluşlar, çalışanlarını üretken yapay zekanın kabul edilebilir kullanımı ve bu araçlara erişimin şirket politikaları doğrultusunda yönetilmesi hakkında eğitmelidir. Aynı zamanda, kuruluşlar üretken yapay zekanın faydalarını ve risklerini anlamalı ve olası tehlikeleri azaltmak için gerekli güvenlik önlemlerini alarak çalışan verimliliğini ve iş memnuniyetini artırabilirler.

• Çalışanlar için genel kurallar arasında, gizli verilerin yapay zeka araçlarına ifşa edilmemesi,
• Herhangi bir kritik kullanım durumu için yapay zekanın tavsiyelerine güvenilmemesi,
• Bilgilerin mutlaka doğrulanması,
• Bir sohbet botuna sağlanan verilerin dışarıya sızabileceği hatırlatılması,
• Büyük dil modeli (LLM) tabanlı sistemleri çalıştıran bilgisayarların ve sunucuların güncel güvenlik araçlarıyla korunması yer almaktadır.

Uzmanın Değerlendirmeleri

Kaspersky Makine Öğrenimi Teknolojisi Grup Müdürü Vladislav Tushkanov, üretken yapay zeka araçlarının teknolojik veri analizi ve rutin görevlerde yardımcı olarak çalışanların daha verimli hale gelmesine katkıda bulunduğunu belirtmektedir. Ancak, birçok çalışanın yapay zekayı işverenlerinden gerekli izni almadan kullandığına dikkat çekmektedir. Bu durum, kuruluşlar için önemli riskler doğurabilir.

Tushkanov, “Örneğin, veri sızıntısı önemli bir endişe kaynağı haline gelebilir. Ayrıca, çalışanlar ‘halüsinasyonlar’ sonucunda yanlış bilgiler alabilir ve bunlara göre hareket edebilirler. Bu, büyük dil modellerinin yanlış bilgileri kendinden emin bir şekilde sunmasından kaynaklanmaktadır. Özellikle üretken yapay zeka belirli iş işlevlerinin nasıl yerine getirileceği konusunda tavsiyelerde bulunduğunda bu halüsinasyonlar tehlikeli olabilir.” ifadelerini kullanmıştır.

Tushkanov, durumun kuruluşların üretken yapay zekayı tamamen engellemesi gerektiği anlamına gelmediğini vurguluyor. Karar vericilerin, günlük iş rutininin hangi bölümlerinin işletmenin karşılaştığı tehdit düzeyine olumsuz etkide bulunmadan üretken yapay zeka araçlarıyla otomatikleştirilebileceğini anlamak için kapsamlı bir risk değerlendirmesi yapmaları gerektiğini kaydetmektedir. ChatGPT ve benzeri çözümleri yasaklamanın ideal bir seçenek olmayabileceğine de dikkat çekmektedir.

“Üretken yapay zeka, çok fazla ve çok az tedbir arasında bir denge sağlayarak verimli bir şekilde kullanılabilir. Daha geniş anlamda, kamu ve özel sektör arasındaki işbirlikleri, üretken yapay zekanın iş büyümesine yardımcı olmasını, inovasyon için daha fazla kaynak ayrılmasını sağlamasını ve riskin yönetilmesine katkı sağlamasını kritik bir yardımcı haline getirecektir.” şeklinde bir değerlendirmede bulunmuştur.