Üretken Yapay Zeka (GenAI) araçları hızla modern çalışma ortamının ayrılmaz bir parçası haline geliyor. Rapor hazırlamaktan elektronik tabloları analiz etmeye kadar bir dizi profesyonel görevin yerine getirilmesini kolaylaştırıyor. Küresel ölçekte yapılan Kaspersky anketi, C-suite katılımcılarının %95'inin GenAI araçlarının kurumlarında kullanıldığının farkında olduğunu ve yarısından fazlasının (%59) çalışanların yapay zeka kullanırken yanlışlıkla hassas bilgileri sızdırma riskinden endişe duyduğunu ortaya koyuyor. Kaspersky uzmanları, kuruluşların GenAI araçlarını riskleri önleyecek şekilde nasıl kullanabilecekleri konusunda tavsiyelerde de bulunuyor.
Kaspersky Makine Öğrenimi Teknolojisi Grup Müdürü Vladislav Tushkanov, şunları söyledi:"GenAI araçları, teknolojik veri analizi ve rutin görevlerde yardımcı olduğu için çalışanların daha üretken olmasını sağlıyor. Ancak birçok kişi yapay zekayı işverenlerinden gerekli izni almadan kullanıyor. Bu durum kurum için önemli riskler doğurabilir. Örneğin veri sızıntısı önemli bir endişe kaynağı haline gelebilir. Ayrıca, çalışanlar 'halüsinasyonlar' sonucunda yanlış bilgiler alabilir ve bunlara göre hareket edebilir. Bu, büyük dil modellerinin yanlış bilgileri kendinden emin bir şekilde sunmasından kaynaklanır. Bu halüsinasyonlar, GenAI belirli iş işlevlerinin nasıl yerine getirileceği konusunda tavsiyelerde bulunmak için kullanıldığında özellikle tehlikeli olabilir."
GenAI'nin Güvenli ve Verimli Kullanımında Stratejik Adımlar
Bu zorluğun üstesinden gelmek iş ortamında bir zorunluluk haline geldi. Bir diğer Kaspersky anketi, Türkiye’deki katılımcıların %40'ının yapay zekayı iş yerinde bir ekip üyesi olarak görmeye başladığını ortaya koyuyor. Kötü niyetli kullanıcıların, bireyleri hedef alan daha ikna edici sosyal mühendislik saldırıları oluşturmak için GenAI araçlarını etkili bir şekilde benimsemesi de bu durumu daha karmaşık hale getiriyor. Örneğin kişiselleştirilmiş kimlik avı e-postaları hazırlamak; insanları taklit eden gerçekçi ses, video veya metin içeriği içeren deepfake'ler oluşturmak, hatta kamuoyunu etkileyebilecek veya gerçeği gizleyebilecek dezenformasyon kampanyaları yaymak gibi.
"Bu, kuruluşların GenAI'yi tamamen engellemesi gerektiği anlamına gelmiyor. Bunun yerine karar vericiler, günlük iş rutininin hangi bölümlerinin işletmenin karşı karşıya olduğu tehdit düzeyine olumsuz etkide bulunmadan GenAI araçlarıyla otomatikleştirilebileceğini anlamak için kapsamlı bir risk değerlendirmesi yapmalıdır" diyor Tushkanov.
Bu sayede kuruluşlar, GenAI'nin kullanımı söz konusu olduğunda merkezi bir yaklaşım benimseyebilirler. Bu tür bir hizmet daha sonra bir bulut sağlayıcısı üzerinden kurumsal bir hesap aracılığıyla sağlanabilir ve gerekli tüm önlemlerin alındığından emin olunabilir. Bunlar, mesajlardaki kişisel olarak betimlenebilecek bilgilerin izlenmesinin yanı sıra gözetimi de içerebilir. Kuruluşlar ayrıca çalışanlarını GenAI'nin kabul edilebilir kullanımı ve bunlara erişimin şirket tarafından yönetilen uygun yolları konusunda eğitmelidir.
Kuruluşlar, GenAI kullanmanın faydalarını ve risklerini anlayarak ve olası tehlikeleri azaltmak üzere gerekli güvenlik önlemlerinin alınmasını sağlayarak çalışan verimliliğini ve iş memnuniyetini önemli ölçüde artırabilirler. Çalışanlar için genel kurallar, gizli verilerin yapay zeka araçlarına ifşa edilmemesini; herhangi bir kritik kullanım durumu için yapay zekanın tavsiyelerine güvenilmemesini; bilgilerin mutlaka doğrulanmasını; bir sohbet botuna sağlanan herhangi bir verinin dışarıya sızabileceğini hatırlamayı da içermelidir. Ayrıca büyük dil modeli (LLM) tabanlı sistemleri çalıştıran tüm bilgisayarın ve sunucuların güncel güvenlik araçlarıyla korunması gerekir.
Tushkanov, son olarak şunları söylüyor: "ChatGPT ve diğer çözümleri yasaklamak ideal seçenek olmayabilir. GenAI, çok fazla ve çok az tedbir arasındaki dengeyi bularak verimli bir şekilde kullanılabilir. Daha geniş anlamda, kamu ve özel sektör arasındaki iş birlikleri, GenAI'nin iş büyümesine yardımcı olmak, inovasyon için daha fazla kaynak ayrılmasını sağlamak ve riski yönetmek için kritik bir yardımcı haline gelmesine katkı sağlayacaktır."
LLM tabanlı sistemlerin siber güvenlik risklerini ele alma hakkında daha fazla bilgi için Kaspersky'nin Vladislav Tushkanov ile 9 Ekim 2024 Çarşamba günü Türkiye saatiyle 14.00'da gerçekleştireceği web seminerine buradan kaydınızı yaptırabilirsiniz.
