Kaspersky NEXT’te öğrendiğimiz 5 şey

Bu yılki Kaspersky NEXT etkinliğinde, Avrupa’nın en önde gelen siber güvenlik ve yapay zeka uzmanlarından bazılarının araştırma ve tartışmaları ele alındı. Makine öğrenimi ve yapay zekadan IoT’nin (Nesnelerin İnterneti) korunmasına kadar, 14 Ekim’de Lizbon’da gerçekleşen bu yılki etkinlikte öğrendiğimiz beş şey.

Yapay Zeka ile dünyayı daha adil hale getirmek

Makinelerin bugün kaç karar verdiğini hiç düşündünüz mü? Veya bu kararların kaç tanesi cinsiyet, ırk veya sosyal konumuna dayanıyordu? Muhtemelen, insan yerine yapay zekanın ne çok karar aldığını bile fark etmemişsinizdir. AI for Good’un kurucusu Kriti Sharma, kim olduğumuz ve ne istediğimiz hakkında verilen kararlarda sık sık algoritmaların kullanıldığını açıkladı.

Ayrıca Kriti yapay zekayı geliştirmek için asıl yapmamız gerekenin her tür sosyal konumdan, cinsiyetten ve etnik kökenden insanı bir araya getirmek olduğunu da belirtti. İnsan önyargısının makinelerin karar vermesini neden etkilediğiyle ilgili Ted Talk konuşmasını buradan izleyebilirsiniz:

Yapay zekaya cinsiyet atfetmenin etkisi

Alexa’yı, Siri’yi ve Cortana’yı düşünün. Hepsinin ortak noktası ne? Kadın sesleri kullanıyorlar ve itaatkâr hizmetkârlar olarak üretiliyorlar. Peki, neden? Teknoloji, stereotipleri güçlendiriyor mu? Cinsiyet ve Yapay Zeka ile ilgili iki panelde bu konular tartışıldı. Dijital asistanlar kadın sesiyle konuşuyor çünkü çeşitli çalışmalara göre, dijital asistanlar kadın sesiyle konuştuğunda insanlar kendilerini daha rahat hissediyor. Bu aynı zamanda toplumun bir yansıması mı?

Peki Yapay Zeka alanında cinsiyet eşitsizliğiyle mücadele etmek için ne yapılabilir? Cinsiyet tarafsız bir ses kullanılabilir ya da robotlar ve yapay zeka için bir cinsiyet oluşturulabilir. Bu konunun ele alınmasına ek olarak (yukarıda da belirtildiği gibi), Yapay Zeka üreten takımların kapsayıcı olması ve hizmet verilen kullanıcıların çeşitliliğini yansıtması da önemlidir.

https://twitter.com/kaspersky/status/1183739717965230087

İnsanlar robotlara diğer insanlara güvendiklerinden daha fazla güveniyor

Sosyal robot, insanlarla ve diğer robotlarla etkileşime giren bir yapay zeka sistemidir ve Siri veya Cortana’nın aksine fiziksel bir varlığa sahiptir. Ghent Üniversitesi’ndeki robotik profesörü Tony Balpaeme, robotlar daha yaygın hale geldikçe robot ve insan etkileşimlerine dair sorunların nasıl artacağını açıkladı.

Balpaeme, kendisinin ve ekibinin gerçekleştirdiği bazı bilimsel deneyleri anlattı. Örneğin, insanlar ile robotların, şifreleri sıfırlamak için kullanılabilecek hassas bilgileri (doğum tarihi, çocuklukta oturulan sokak veya şehir, en sevilen renk, vb.) ortaya çıkarabilme yeteneğini test ettiler. İşin ilginci, robotlara insanlardan daha fazla güvenildiği için insanların onlara hassas bilgiler verme ihtimalinin daha yüksek olmasıdır.

Balpaeme ayrıca izinsiz giriş konusunda bir deney gösterdi. Bu deneyde bir binanın veya alanın güvenliğini sağlamakla görevli bir grup insan, sevimli bir robotun bölgeye girmesine kolayca izin veriyor. Robotun güvenilir olduğunu varsaymak için hiçbir neden yok, ancak insanlar zararsız olduğunu varsayıyor. Bu aslında kolaylıkla istismar edilebilecek bir eğilim. Securelist’te sosyal robotik ve ilgili deneyler hakkında daha fazla bilgi edinebilirsiniz.

https://twitter.com/kaspersky/status/1183683889514078209

Yapay Zeka ikna edici sahtekârlıklar için kullanılacaktır

Kaspersky GReAT üyesi David Jacoby, sosyal mühendislik hakkında konuştu: sohbet botları, Yapay Zeka ve otomatik tehditler. Zaman geçtikçe, yüz ve ses tanıma uygulamaları sosyal mühendislik sayesinde veya eski yöntemlerle istismar edilebilir.

Jacoby, tespit edilmesi çok daha zor hale gelen deep fake videolar hakkında da konuştu. Gelecekteki seçimleri ve haber yayınlarını nasıl etkileyebilecekleri önemli bir konudur.

Ancak asıl endişelendiren konu güvendir. Teknoloji mükemmelleştiğinde, kime güveneceksiniz? Jacoby’ye göre çözüm, daha iyi farkındalık: kullanıcıların sahte videoları tespit etmelerine yardımcı olacak yeni teknolojilerin yanı sıra eğitim.

Robot teknolojilerinde güvenliğin durumu

Başka bir Kaspersky GReAT üyesi olan Dmitry Galov, robot yazılımı yazmak için esnek bir çerçeve olan ROS (Robot İşletim Sistemi) hakkında konuştu. Diğer pek çok sistem gibi, ROS güvenlik düşünülerek oluşturulmadı ve doğal olarak önemli güvenlik sorunları içeriyor. Sosyal robotlar ve otonom arabalar gibi ROS tabanlı ürünler üniversite sınıflarından tüketicilerin kucağına uçmadan önce yaratıcıların bu sorunları ele alması gerekiyor. Gerçekten de, ROS’un yeni bir versiyonu gelişme aşamasındadır. Galov’un raporunda daha fazlasını okuyabilirsiniz.

Bonus ipucu: USB prezervatif kullanın

Kaspersky GReAT üyesi Marco Preuss ve Dan Demeter, iş gezilerinde insanların kendilerini hacklenmekten nasıl koruduklarını anlattılar. Otel odanızda gizli kameralar, böcekler ve iki yönlü aynalar olabileceğini hiç düşündünüz mü?

Biraz paranoyak olanlar için bu yazı Preuss ve Demeter’in bazı seyahat güvenlik ipuçlarını içeriyor (ayrıca gerçekten paranoyaksanız) bir USB “prezervatif” kullanmanın öneminden de bahsediliyor — evet, gerçekten varlar ve kullanımları normal olanlara benziyor: Telefonunuzu bilinmeyen bir USB bağlantı noktası kullanarak şarj etmek üzereyseniz, cihazınızı bu küçük cihazla korumak isteyebilirsiniz. Neyse ki, normal prezervatiflerin aksine, bunlar yeniden kullanılabiliyor.

Etkinlik boyunca ele alınan konuları takip etmek için Twitter hesabımıza göz atabilirsiniz.