Kaspersky, kimlik avı ataklarında yapay zeka kullanımının temel işaretlerini belirledi

Kaspersky Yapay Zeka Araştırma Merkezi uzmanları, siber hatalıların büyük ölçekli kimlik avı ve dolandırıcılık odaklı hücumları için içerik oluşturmak üzere Büyük Lisan Modellerini (LLM’ler) giderek daha fazla kullandığını keşfetti. Tehdit aktörleri yüksek hacimlerde geçersiz web siteleri oluşturmaya odaklanırken, çoklukla artlarında kendilerini bu siteleri manuel olarak oluşturulanlardan ayıran yapay zekaya has tabirler üzere ayırt edici ipuçları bırakıyor. Şimdiye kadar Kaspersky tarafından gözlemlenen kimlik avı örneklerinin birçok kripto para borsaları ve kripto cüzdan kullanıcılarını maksat alıyor.

Kaspersky uzmanları bir kaynak örneğini tahlil ederek, yapay zekanın içerik oluşturmak ve hatta kimlik avı ve dolandırıcılık web sitelerinin baştan sona oluşturmak için kullanıldığı durumları ayırt etmeye ve tespit etmeye yardımcı olan temel özellikleri belirledi.

LLM tarafından oluşturulan metinlerin besbelli işaretlerinden biri, “Bir yapay zeka lisan modeli olarak…” üzere tabirler de dahil olmak üzere komutları yürütmeyi reddeden feragatnamelerin varlığı biçiminde öne çıkıyor. Örneğin, KuCoin kullanıcılarını maksat alan iki başka kimlik avı sayfası bu çeşit sözler içeriyor.

Büyük lisan modeli kullanımının bir diğer ayırt edici göstergesi de makul tümcelerin varlığı. Örneğin: “İstediğinizi tam olarak yapamasam da emsal bir şey deneyebilirim” üzere. Gemini ve Exodus kullanıcılarını maksat alan öbür örneklerde, LLM detaylı giriş talimatları vermeyi reddediyor.

Kaspersky Araştırma Geliştirme Küme Müdürü Vladislav Tushkanov, şunları söylüyor: “Saldırganlar, LLM’ler ile eşsiz, yüksek kaliteli içeriğe sahip düzinelerce, hatta yüzlerce kimlik avı ve dolandırıcılık web sayfası oluşturmayı otomatik hale getirebiliyor. Evvelce bunun için manuel uğraş gerekiyordu, lakin yapay zeka artık tehdit aktörlerinin bu cins içerikleri otomatik olarak oluşturmasına yardımcı olabilir.”

LLM’ler yalnızca metin blokları değil, tüm web sayfalarını oluşturmak için de kullanılabiliyor. Ortaya çıkan sonuçlar hem metnin kendisinde hem de meta etiketler üzere alanlarda görünüyor. Bunlar bilhassa web sayfasının içeriğini tanımlayan ve HTML kodunda görünen metin parçacıkları ortasında dikkat ediyor.

Sahte sitelerin oluşturulmasında yapay zeka kullanımının öbür göstergeleri de mevcut. Örneğin kimi modeller “araştırmak”, “sürekli gelişen manzarada” ve “sürekli değişen dünyada” üzere makul tabirler kullanma eğiliminde. Bu tabirler yapay zeka tarafından oluşturulan içeriğin güçlü göstergeleri olarak kabul edilmese de, bunun bir işareti olarak görülebilir.

Büyük lisan modeli tarafından üretilen metnin bir öbür özelliği de modelin dünya hakkındaki bilgisinin nereye kadar uzandığını göstermesi. Model genel olarak bu sınırlamayı “Ocak 2023’teki son güncellememe göre” üzere sözler kullanarak lisana getiriyor.

LLM tarafından oluşturulan metin, çoklukla kimlik avı sayfasının tespitini siber güvenlik araçları için daha karmaşık hale getiren taktiklerle birleştiriyor. Örneğin saldırganlar, metni gizlemek ve kural tabanlı tespit sistemlerinin eşleştirmesini önlemek için aksan işaretleri yahut matematiksel gösterimler üzere standart olmayan Unicode sembolleri kullanabiliyor.

Vladislav Tushkanov, kelamlarını şöyle sürdürüyor: “Büyük lisan modelleri gelişiyor ve siber hatalılar bu teknolojiyi makûs gayeleri için kullanmanın yollarını araştırıyor. Bununla birlikte vakit zaman yapılan yanılgılar, bu cins araçların kullanımına, bilhassa de otomasyonun artan boyutuna ait içgörü sağlıyor. Gelecekteki gelişmelerle birlikte, yapay zeka tarafından üretilen içeriği insan tarafından yazılan metinden ayırt etmek daha sıkıntı hale gelebilir. Bu da metinsel bilgileri meta datalar ve başka dolandırıcılık göstergeleriyle birlikte tahlil eden gelişmiş güvenlik tahlillerinin kullanılmasını çok daha kıymetli hale getirebilir.”

Ek örnekler ve tahliller içeren raporun tamamına Securelist’ten ulaşabilirsiniz. 

Kimlik avına karşı korunmak için Kaspersky aşağıdaki korunma metotlarını öneriyor:

• Adreslerin yazımını denetim edin. Birtakım e-postalar ve web siteleri uydurma olmasına karşın gerçek üzere görünür. Bu, hatalıların işini ne kadar düzgün yaptıklarına bağlıdır. Lakin adresler ve irtibatlar büyük olasılıkla yanlış olacaktır. Bunlarda yazım yanılgıları olabilir yahut sizi farklı bir yere yönlendirebilir.
• Web adreslerini direkt web tarayıcısına girin. Bir e-posta bir irtibat içeriyorsa, ilişkiye tıklamak yerine gerçek görünüp görünmediğini görmek için üzerine gelmek inançlı bir alışkanlık olacaktır. Hakikat görünse bile web sitesi ilişkisine tıklamak yerine ilişkiyi kendiniz girin. Tehlikeli web siteleri gerçek olanlarla birebir görünebilir.  
• Kullanıcılara inançlı tarama özellikleri sunarak tehlikeli web sitelerine, indirmelere ve uzantılara karşı muhafaza sağlayan modern bir güvenlik çözümü kullanın.

Kaynak: (BYZHA) Beyaz Haber Ajansı