ChatGPT’nin kilidi sonuna kadar açan 'jailbreak' bulundu. Bazı sorulara yanıt vermemesi için özel olarak eğitilen ChatGPT'de bütün sınırlar bulunan 'jailbreak' ile kalkıyor.
ChatGPT için Evrensel “Jailbreak” İstemi Bulundu
OpenAI tarafından geliştirilen popüler yapay zeka sohbet robotu ChatGPT, sürekli gelişmekte olan bir araç. Ancak, ChatGPT'nin genel yapısı bazı kısıtlamalar içeriyor ve her soruya cevap vermiyor. Yeni bulunan bir evrensel “jailbreak” istemi ile ChatGPT'nin kilidi açılarak, normalde sağlayamayacağı yanıtları üretmesi mümkün hale geliyor. Bu durum, daha yetenekli bir araca erişim sağlarken, büyük riskleri de beraberinde getiriyor.
Jailbreak İsteminin Anlamı ve Kullanımı
"Jailbreak" terimi, Apple cihazlarının kilidini açmak için kullanılan bir terimdir. ChatGPT durumunda ise, AI aracının normalde sağlayamayacağı yanıtları üretmek için belirli istemleri kullanmak anlamına geliyor. Bu, ChatGPT'nin kısıtlamalarını aşarak tam potansiyeline erişmesini sağlıyor. Örneğin, daha önce ChatGPT'nin özel bir “Grandma” istemi sayesinde bedava Windows etkinleştirme kodu verdiği duyulmuştu.
Yeni Jailbreak İstemi ve Riskleri
Yeni bulunan “jailbreak” istemi, OpenAI tarafından kullanılan özel istemlere erişimi de mümkün kılıyor. GitHub’da “Louis Shark” isimli bir geliştirici tarafından paylaşılan bilgilere göre, bu istemle ChatGPT'nin sistem istemlerine erişilebiliyor. Bu, özel GPT'lerin nasıl yapıldığını görebilmek ve onları kopyalamak için kullanılabilir. Ancak, bu durum OpenAI'ın kendi sistem istemlerini de risk altına alıyor. Örneğin, Dall-E yapay zekasının sistem istemleri analiz edilerek yasaklı resimler ürettirilebilir.
Bu gelişme, yapay zeka teknolojisinin kullanımı ve güvenliği konusunda önemli soruları gündeme getiriyor. OpenAI, daha önceki jailbreak istemlerini kapatmış ve bu tür açıklar için ödül programı başlatmıştı. İlerleyen dönemlerde bu yeni açığın da kapatılması bekleniyor. Bu durum, yapay zeka araçlarının güvenliğinin sürekli bir mücadele olduğunu ve bu teknolojilerin sorumlu bir şekilde kullanılmasının önemini vurguluyor.
