ChatGPT ve Copilot gibi yapay zeka tabanlı chatbotlarının güvenliği tehlikede
ChatGPT ve Copilot gibi yapay zeka tabanlı chatbotlar ile kullanıcılar arasındaki görüşmelerin, beklenenden daha az özel olduğu ortaya çıktı. Güvenlik araştırmacıları, bu yapay zeka yardımcılarının yanıtlarını çözerek okunabilir hale getirebilmeyi başardı.
ChatGPT mesajları nasıl okunuyor? İsrail’li bilim insanları açıkladı
İsrail’den gelen uyarılara göre, ChatGPT gibi yapay zeka tabanlı chatbotlarla yapılan özel görüşmeler, hackerlar tarafından kolayca okunabilir hale getirilebiliyor, bu da yapay zeka tabanlı iletişim hizmetlerinin güvenliğine yönelik ciddi sorunları gündeme getiriyor.
Ben-Gurion Üniversitesi’ndeki Ofansif Yapay Zeka Araştırma Laboratuvarı’nın lideri Yisroel Mirsky, yaptığı açıklamada, şu anda herkesin ChatGPT ve benzer hizmetlerden gelen özel mesajları okuyabileceğini belirtiyor.
ChatGPT kullanıcıları heyecanlı! GPT-5 mi geliyor?
Bu, özellikle aynı Wi-Fi ağında bulunan saldırganlar için geçerli olabilir. Mirsky, OpenAI’nin veri trafiğini şifrelese de, tokenlerin şifresiz gönderildiğini ekliyor. Rapora göre araştırmacılar, kullanıcılar ve ChatGPT arasında genellikle şifrelenmiş olan bu iletişimi, bir “Man-in-the-Middle” saldırısıyla ele geçirip, şifresini çözüyorlar.
Bu saldırıda, bir saldırgan, iki taraf arasındaki iletişimi gizlice yönlendiriyor ve kullanıcı ile chatbot arasındaki ham verileri ele geçiriyor. Saldırganlar, bu verileri anlamak için büyük dil modellerini kullanıyor.
Böylece, tokenlerde yer alan kelimeleri tespit ederek, mümkün olan cümleleri tahmin ediyorlar. Yapılan analizler, bu yöntemin kelimeleri yüzde 55 doğrulukla tahmin edebildiğini ve yüzde 29 vakada yanıtları kelimesi kelimesine doğru şekilde bulabildiğini gösteriyor.
Rapora göre, ChatGPT ve Microsoft Copilot gibi modeller, bu saldırıya açıkken, Google’ın Gemini modeli bu saldırıdan etkilenmiyor. Bu durum, yapay zeka tabanlı iletişim hizmetlerinin güvenlik açıklarını ve kullanıcı verilerinin korunması konusunda yaşanan zorlukları gözler önüne seriyor.
Sizce bu bulgular, ChatGPT ve benzeri yapay zeka servislerinin güvenliğini nasıl etkileyecek? Görüşlerinizi aşağıdaki yorumlar kısmına yazabilirsiniz.
