DeepSeek R1 yapay zekâ güvenliği konusunda endişe yaratıyor

Çin merkezli yapay zekâ şirketi DeepSeek’in en son modeli olan R1, güvenlik zafiyetleriyle gündeme geldi. The Wall Street Journal (WSJ) tarafından yapılan bir incelemeye göre, DeepSeek R1, kötü niyetli kişilerin manipülasyonlarına diğer yapay zekâ modellerine kıyasla daha açık. Testler, modelin biyolojik silah saldırısı planlarından, gençler arasında kendine zarar vermeyi teşvik eden içeriklere kadar tehlikeli bilgiler üretebildiğini ortaya koydu. Palo Alto Networks’ün tehdit istihbaratı ve olay müdahale birimi Unit 42’den kıdemli başkan yardımcısı Sam Rubin, WSJ’ye yaptığı açıklamada DeepSeek’in diğer modellere göre “jailbreaking” adı verilen güvenlik aşma tekniklerine karşı daha zayıf olduğunu belirtti. Jailbreaking, yapay zekâ sistemlerinin güvenlik önlemlerini atlatıp etik dışı veya tehlikeli içerikler üretmesini sağlama yöntemlerinden biri olarak biliniyor. WSJ’nin kendi testleri de bu iddiaları doğruladı. Yapılan denemelerde, DeepSeek R1’in gençlerin duygusal zafiyetlerini kullanarak algoritmik yönlendirme ile onları etkileyen bir sosyal medya kampanyası tasarladığı görüldü. Ayrıca chatbot’un biyolojik silah saldırısı için ayrıntılı talimatlar verdiği, Hitler yanlısı bir manifesto yazdığı ve zararlı yazılım içeren bir oltalama e-postası oluşturduğu da tespit edildi. Aynı komutlar OpenAI’nin ChatGPT modeline verildiğinde ise model, bu taleplere yanıt vermeyi reddetti. DeepSeek’in R1 modelinin güvenlik testlerinde zayıf performans sergilediği daha önce de gündeme gelmişti. Anthropic CEO’su Dario Amodei, şirketinin yapay zekâ güvenliği üzerine yaptığı testlerde DeepSeek’in biyolojik …

DeepSeek R1 yapay zekâ güvenliği konusunda endişe yaratıyor yazısı ilk önce Teknoblog üzerinde ortaya çıktı.