Kaspersky, yeni eğitim programı “Büyük Lisan Modelleri Güvenliği”ni tanıttı

Kurs, siber güvenlik uzmanlarına büyük lisan modellerindeki (LLM) güvenlik açıklarını anlamak, kıymetlendirmek ve bunlara karşı savunma yapmak için gerekli hünerleri kazandırmak hedefiyle Kaspersky AI Teknoloji Araştırma Merkezi tarafından geliştirildi.

LLM’lerin ortaya çıkışı, şirketlerin Yapay Zeka (AI) sistemlerini geliştirme ve bunlarla etkileşim kurma biçiminde ihtilal yaratırken, birebir vakitte yeni ve karmaşık güvenlik problemleri da ortaya çıkardı.  Kaspersky’nin yaptığı bir araştırma, 2024 yılında şirketlerin yarısından fazlasının altyapılarında AI ve Objelerin İnterneti (IoT) teknolojilerini kullanmaya başladığını ortaya koydu. Bu teknolojiler kurumsal sistemlere ve süreçlere giderek daha fazla entegre epeyce, bunların nasıl gaye alınabileceğini, siber taarruzlar için hangi güvenlik açıklarının kullanılabileceğini ve bunlara karşı nasıl savunma yapılabileceğini anlamak artık isteğe bağlı bir husus değil, siber güvenlik uzmanları için hayati bir maharet haline geldi.

Bu kritik muhtaçlığı karşılamak için Kaspersky, ünlü Siber Güvenlik Eğitimi portföyünü LLM’lerin güvenliğine adanmış yeni bir çevrimiçi kursla genişletti. Yeni gelişmekte olan bu alanda sağlam bir temel sağlamak için tasarlanan kurs, profesyonellere güvenlik açıklarını kıymetlendirme, tesirli savunma tedbirleri uygulama ve sağlam AI sistemleri tasarlama konusunda uzmanlık kazandırıyor. İştirakçiler, gerçek hayattan örnekler ve pratik ödevlerle uğraşarak, sağlam güvenlik tedbirleri uygulama ve LLM tabanlı uygulamaların dayanıklılığını artırma marifetlerini geliştirebiliyor.

Kurs, yaklaşık yirmi yıldır siber güvenlik ve inançlı yapay zeka alanlarında yapay zeka çalışmalarına adanmış uzmanlardan oluşan Kaspersky Yapay Zeka Teknoloji Araştırma Merkezi’nin kapsamlı uzmanlığından yararlanıyor. Bu uzmanlar, çok çeşitli tehditlerin tespit ve azaltılması konusunda değerli ilerlemeler kaydetti. Kaspersky Araştırma Geliştirme Kümesi Müdürü Vladislav Tushkanov tarafından yönetilen program, ilgi cazip görüntü dersler, pratik laboratuvar çalışmaları ve etkileşimli alıştırmalar aracılığıyla iştirakçilere ilgi cazibeli bir öğrenme tecrübesi sunuyor. Kursta:

• Jailbreak, prompt injection ve token smuggling üzere istismar tekniklerini keşfederek bunlara karşı nasıl savunma yapılacağı öğretiliyor.
• Model, prompt, sistem ve hizmet üzere çeşitli seviyelerde pratik savunma stratejileri geliştiriliyor.
• LLM güvenliğini kıymetlendirmek ve geliştirmek için yapılandırılmış çerçeveler uygulanıyor.

Bu eğitim yapay zeka siber güvenliği alanında mesleğine yeni başlayanlar, LLM’leri geliştiren yahut entegre eden mühendisler ve yapay zeka altyapısı ile yakından çalışan uzmanlar için büyük yararlar sağlıyor.

Vladislav Tushkanov, şunları söylüyor: “Büyük lisan modellerinin yükselişi, kuruluşların yapay zeka oluşturma ve kullanma yaklaşımında ihtilal yaratarak yeni ufuklar açtı. Lakin bu teknolojik sıçrama, acil olarak ele alınması gereken karmaşık güvenlik problemlerini da beraberinde getiriyor. Siber güvenlik uzmanları için bu güvenlik açıklarını tespit etme, bunlardan yararlanma ve bunlara karşı muhafaza sanatını ustalıkla kullanmak hayati bir maharet haline geldi. Bu nedenle profesyonellere LLM tabanlı uygulamaları korumak ve gelişen tehdit ortamının bir adım önünde olmak için gerekli olan bilgileri ve pratik araçları sağlamak maksadıyla bu özel kursu geliştirdik.”

Kaynak: (BYZHA) Beyaz Haber Ajansı