Kaspersky Yapay Zeka Teknoloji Araştırma Merkezi: Biz Kimiz ve Ne Yapıyoruz?

Kaspersky, yaklaşık yirmi yıldır yapay zekayı (AI), özellikle de makine öğrenimini (ML) ürün ve hizmetlerine entegre etme konusunda ön saflarda yer almaktadır. Bu teknolojileri siber güvenliğe uygulama konusundaki derin uzmanlığımız ve deneyimimiz; benzersiz veri setlerimiz, verimli yöntemlerimiz ve gelişmiş model eğitim altyapımızla bir araya gelerek, karmaşık makine öğrenimi zorluklarını çözme yaklaşımımızın temelini oluşturur. Kaspersky AI Teknolojisi Araştırma Merkezimiz, AI/ML ve siber güvenliğin kesişim noktasındaki en zorlu görevlerin üstesinden gelmek için veri bilimcileri, makine öğrenimi mühendisleri, tehdit uzmanları ve altyapı uzmanlarını bir araya getirir. Bu, yalnızca uygulamalı teknolojilerin geliştirilmesini değil, aynı zamanda nöromorfik makine öğrenimi, yapay zeka risk farkındalığı vb. birçok umut verici yaklaşımların kullanımının da dahil olduğu yapay zeka algoritmalarının güvenliğine yönelik araştırmaları da içerir.

Teknolojilerimiz ve ürünlerimiz

Kaspersky’de, öncelikle kötü amaçlı yazılımları tespit etmek için çok çeşitli yapay zeka/ML destekli tehdit tespit teknolojileri geliştirdik. Bunlar arasında; statik özelliklere dayalı olarak kötü amaçlı yürütülebilir dosyaları tespit etmek için derin bir sinir ağı algoritması, kullanıcı cihazlarında çalışan tespit kurallarının otomatik olarak oluşturulması için karar ağacı makine öğrenimi teknolojisi ve yürütme sırasında programların kötü amaçlı davranışlarını tespit etmek için sinir ağları yer alır. Ayrıca, müşteri cihazlarına yüklenen çözümlerden ve diğer kaynaklardan alınan anonim telemetriye dayalı olarak kötü amaçlı çevrimiçi kaynakları tanımlamak için bir sistem kullanmaktayız. Bunlar hakkında daha fazla bilgiyi Kötü Amaçlı Yazılım Tespiti için Makine Öğrenimi adlı teknik dokümanımızda bulabilirsiniz. Sahte web sitelerini tespit eden ML modeli ve şüpheli spam e-postaları karantinaya alan DeepQuarantine gibi diğer modeller, kullanıcıları kimlik avı ve spam tehditlerinden korur. KSN’nin bulut altyapısı, yapay zeka geliştirmelerimizi hem ev hem de kurumsal kullanıcılar için neredeyse anında kullanılabilir hale getirir.

Üretken yapay zekanın, özellikle de büyük dil modellerinin (LLM) vaatlerinden yola çıkarak, yeteneklerini keşfetmek ve yeni çözümleri hızla prototip haline getirmek için bir altyapı geliştirdik. ChatGPT’ye benzer LLM araçlarını kullanan bu altyapı, tüm departmanlardaki çalışanlar tarafından günlük işler için erişilebilir olmakla kalmaz, aynı zamanda yeni çözümler için de bir temel oluşturur. Örneğin, Kaspersky Tehdit İstihbarat Portalımız yakında belirli IoC’ler için tehdit raporu özetlerini hızlı bir şekilde sunacak yeni bir LLM tabanlı OSINT özelliğine sahip olacak.

Müşterilerimizin altyapılarının güvenliğini artırmak için aktif olarak amiral gemisi kurumsal ürün ve hizmetlerimize özel yapay zeka teknolojileri geliştirmekteyiz. Kaspersky Managed Detection and Response’taki Yapay Zeka Analisti, birkaç yıldır hatalı pozitifleri otomatik olarak filtreleyerek SOC ekiplerinin iş yükünü azaltmaya yardımcı olmakta. Sadece geçen yıl bu teknoloji 100.000’den fazla uyarıyı insan müdahalesi olmadan sonuçlandırdı. Bu, SOC uzmanlarının gerçek tehditlere daha hızlı yanıt vermesine ve karmaşık vakaları araştırmaya ve tehditleri proaktif olarak yakalamaya daha fazla zaman ayırmasına olanak tanır. Çözümlerimizden bir diğeri olan Kaspersky SIEM (Kaspersky Unified Monitoring and Analysis platform) ve Kaspersky XDR’deki yapay zeka tabanlı ana bilgisayar risk puanlaması, verileri şirket dışına aktarmaya gerek kalmadan şüpheli ana bilgisayar davranışı araması yapmak için makine öğrenimi algoritmalarını kullanır.

Kaspersky’nin gelişimindeki bir diğer önemli alan ise endüstriyel ortamlarda AI/ML kullanımıdır. Buna, telemetri sinyallerinde yaklaşan ekipman arızası, süreç kesintisi, insan hatası veya siber saldırının erken (gizli) işaretlerini otomatik olarak tanıyan bir tahmine dayalı analitik yazılım çözümü olan Kaspersky MLAD (Anomali Tespiti için Makine Öğrenimi) de dahildir. MLAD, sinir ağını sürekli olarak eğiterek nesneden gelen “atomik” olay akışını analiz eder, bunları kalıplar halinde yapılandırır ve anormal davranışı tanımlar. Projelerimizden bir diğeri de, Kaspersky ile işbirliği içinde Rusya merkezli Motive Neuromorphic Technologies (Motive NT) tarafından geliştirilen enerji tasarruflu nöromorfik işlemci AltAI ve ateşleme sinir ağlarına dayalı yapay zeka çözümleri için bir araştırma projesi ve yazılım platformu olan  Kaspersky Neuromorphic Platform‘dur.

Yapay zeka teknolojilerinin yaygın olarak benimsenmesi güvenlik kontrolünü de gerekli kıldığından; bir yapay zeka güvenlik ekibi de kurduk. Bu ekip yapay zeka sistemlerinin güvenilir bir şekilde korunmasını sağlamayı ve verilere, iş süreçlerine ve yapay zeka altyapısına yönelik potansiyel tehditleri engellemeyi amaçlayan bir dizi hizmet sunmaktadır.

Ekibimiz

Geçmişte makine öğrenimi tabanlı görevler, yalnızca belirli tehditlerin tespit edilmesinden sorumlu departmanlar tarafından gerçekleştiriliyordu. Ancak görevlerin sayısının ve makine öğrenimi teknolojilerinin öneminin artmasıyla birlikte yapay zeka tabanlı sistemler konusundaki uzmanlığımızı ayrı bir Kaspersky Yapay Zeka Teknoloji Araştırma Merkezi’ne aktarmaya karar verdik. Bunun sonucunda Kaspersky’de yapay zeka kullanımını yöneten üç ana ekip oluşturuldu:

1. Tespit Yöntemleri Analiz Grubu: Küresel Araştırma ve Analiz Ekibi (GReAT) ve Tehdit Araştırma Merkezi ile işbirliği içinde kötü amaçlı yazılım tespiti için makine öğrenimi algoritmaları geliştirmektedir. Hem statik hem de davranış tabanlı kötü amaçlı yazılım tespitine yönelik yapay zeka sistemleri, kullanıcılarımızın güvenliğine doğrudan katkıda bulunur.
2. Teknoloji Araştırmaları: Geleceğin Teknolojileri Departmanına bağlı çalışan Teknoloji Araştırmaları, gelecek vaat eden yapay zeka teknolojilerinin araştırılması, Kaspersky MLAD ve KNP’nin geliştirilmesi, Motive NT ile işbirliği içinde yeni nesil AltAI nöromorfik işlemcinin geliştirilmesi ve yapay zeka güvenliği için AIST hizmetlerinin sağlanması konularında uzmanlaşmıştır.
3. MLTech Ekibi: Bu ekip, ML modellerini eğitmek için kurumsal ML altyapısını geliştirmekten, içerik tehdit algılama modelleri (kimlik avı ve spam) oluşturmaktan ve MDR, Kaspersky SIEM (Birleşik İzleme ve Analiz platformu) ve Kaspersky XDR gibi gelişmiş kurumsal hizmetlerimize ve çözümlerimize LLM tabanlı olanlar da dahil olmak üzere AI teknolojilerini uygulamaktan sorumludur.

Bu, yapay zeka uzmanlığımızın yukarıda bahsettiğimiz ekiplerle sınırlı olduğu anlamına gelmiyor. Yapay zeka alanı şu anda o kadar karmaşık ve çok yönlü ki, tüm bilgi birikimini birkaç araştırma grubunda toplamak imkansız. Antidrone ekibinin makine görüşü teknolojileri, CoreTech ve KasperskyOS departmanlarının yapay zeka kodlama asistanları araştırması, GReAT’teki APT arama ve Hükümet İlişkileri ekibinin yapay zeka mevzuat çalışması gibi desteklerle diğer ekipler de Uzmanlık Merkezi’nin çalışmalarına önemli katkılarda bulunmakta ve makine öğrenimini birçok görevde uygulamakta.

Araştırmalarımız ve patentlerimiz

Yapay zeka teknolojilerimizin benzersizliği, dünya çapında aldığımız düzinelerce patentle tescillenmiştir. Bunların başında; program davranış günlüklerine dayalı kötü amaçlı yazılım tespiti, telemetride kötü amaçlı sunucuların tespiti, sahte web siteleri ve spam gibi makine öğrenimi yardımıyla yapılabilen tespit teknolojilerine yönelik patentler gelir. Ayrıca Kaspersky portföyü; makine öğrenimi için veri kümelerini iyileştirme teknolojileri, anormallik tespiti ve hatta ebeveyn denetim sistemlerinde çocukların şüpheli bağlantılarını arama gibi çok daha geniş bir görev yelpazesini kapsar. Bunlara ek olarak, endüstriyel sistemlere yönelik yapay zeka teknolojilerimizin ve olay akışlarını işlemeye yönelik benzersiz sinir ağı yaklaşımlarımızın patent süreçleri de devam etmektedir.

Kaspersky, yapay zeka uzmanlığını toplulukla aktif olarak paylaşmaktadır. Monotonik makine öğrenimi algoritmaları veya spam tespiti için sinir ağlarının uygulanması gibi bazı çalışmalar önde gelen makine öğrenimi konferanslarında akademik makaleler olarak, diğerleri ise özel portallarda ve bilgi güvenliği konferanslarında yayınlanmaktadır. Örneğin, kendi yapay zeka algoritmalarımızın güvenliği, özellikle de spam algılama ve kötü amaçlı yazılım algılama algoritmalarına yönelik saldırılar üzerine araştırmalar yayınlamakta, Zaman serisi analizi için sinir ağlarının uygulanmasını incelemekte ve endüstriyle ilgili görevlerde nöromorfik ağların kullanımını araştırmaktayız. Diğer yandan Kaspersky Nöromorfik Platformumuz (KNP), tüm makine öğrenimi topluluğu tarafından kullanılabilecek ve geliştirilebilecek açık kaynaklı bir yazılımdır.

Algoritmalarımıza güvenebilmemiz ve güvenilirliklerinden emin olmamız gerektiğinden, güvenli yapay zeka geliştirme ve uygulama konusu bizim için temel öneme sahiptir. Ele aldığımız diğer konular arasında ML sistemlerine yönelik saldırıları simüle eden siber güvenlik mücadelelerine katılımımız ve sistem günlüklerindeki ve kimlik avı bağlantılarındaki tehditleri tespit etmek için LLM’ler gibi gelişmiş teknolojilerin kullanımı yer almaktadır. Ayrıca, gizlilik açısından, çeşitli LLM tabanlı sistemlere yönelik saldırılar, saldırganlar tarafından yapay zekanın kullanımı ve teknolojilerimizin SOC’lerde uygulanması da dahil olmak üzere, üretken yapay zekaya yönelik tehditler hakkında konuşmaktayız. Bazen kapılarımızı açıp iç işleyişimizi ortaya koymakta, modellerimizi eğitme sürecinden ve hatta kalitelerini değerlendirmenin inceliklerinden bahsetmekteyiz.

Farkındalık yaratmak

Son olarak, Kaspersky AI Teknoloji Araştırma Merkezi’nin en önemli işlevi, müşterilerimiz ve genel kamuoyu arasında AI teknolojilerinin artıları, eksileri ve oluşturdukları tehditler hakkında farkındalık yaratmaktır. Merkezdeki uzmanlarımız deepfake videoların tehlikeleri hakkında bilgilendirme yaparken, yapay zeka kullanımının incelikleri hakkında konuşur (örneğin, ChatGPT’nin geliştiricileri işe alma sürecini nasıl etkilediği) ve web seminerleri ve yuvarlak masa tartışmaları aracılığıyla deneyimlerimizi paylaşırız.

FT Teknoloji Araştırma ekibi, nöromorfik yaklaşıma dayalı sistemler de dahil olmak üzere yapay zeka güvenliği konularına ayrılmış ayrı bir yol ile nöromorfik teknolojiler üzerine konferanslar düzenlemektedir. Ortağımız olan Rusya Bilimler Akademisi Sistem Programlama Enstitüsü (ISP RAS) ile birlikte Bilgisayarla Görme, LLM ve Zaman Serileri alanlarında sinir ağlarına yönelik çeşitli saldırı vektörlerini ve bunları korumanın yollarını araştırmaktayız. Kaspersky’nin ISP RAS ile endüstriyel ortaklığının bir parçası olarak ekip, güvenilir makine öğrenimi çerçevelerinin örneklerini test eder.

Ayrıca Bauman Moskova Devlet Teknik Üniversitesi‘nde siber güvenlikte yapay zeka kullanımına ilişkin bir modül de dahil olmak üzere eğitim kurslarının geliştirilmesinde yer almaktayız. Bir başka örnek de çalışanların siber tehditler konusunda farkındalığını artırmaya yönelik çözümümüz Kaspersky ASAP‘ta bulunan yapay zekanın güvenli kullanımına ilişkin modülümüzdür. Son olarak, yapay zekanın kullanımına yönelik bir dizi uluslararası standardın oluşturulmasına katkıda bulunmaktayız. Örneğin 2023 yılında, İnternet Yönetişim Forumu’nda siber güvenlikte yapay zeka sistemlerinin etik kullanımına yönelik ilk ilkeleri sunduk.

Özetle, Kaspersky Yapay Zeka Teknolojisi Araştırma Merkezi’nin ana görevleri arasında yapay zeka teknolojilerinin geliştirilmesi, siber güvenlikte güvenli bir şekilde uygulanması, uygunsuz veya kötü niyetli yapay zeka kullanımı için tehdit izleme ve trendleri öngörme yer alır ve tüm bu görevler tek bir amaca hizmet eder: Müşterilerimiz için en üst düzeyde güvenlik sağlamak.