Bazı kullanıcılar, sohbet robotunun empatik bir arkadaş gibi davranarak aşırı övgüde bulunduğunu ve yoğun duygusal konuşmalar yaptığını bildirdi. Bazı uç örneklerde ChatGPT’nin son derece sakıncalı öneriler verdiği, zarar verici doğrulamalar yaptığı, gerçeklik kurgusu içeren ifadeler kullandığı ve kendine zarar verme talimatları sunduğu belirtildi. ChatGPT Kullanımının Olası Riskleri Araştırmalara göre, uzun süre yoğun şekilde ChatGPT kullanan…
Bazı kullanıcılar, sohbet robotunun empatik bir arkadaş gibi davranarak aşırı övgüde bulunduğunu ve yoğun duygusal konuşmalar yaptığını bildirdi. Bazı uç örneklerde ChatGPT’nin son derece sakıncalı öneriler verdiği, zarar verici doğrulamalar yaptığı, gerçeklik kurgusu içeren ifadeler kullandığı ve kendine zarar verme talimatları sunduğu belirtildi.
Araştırmalara göre, uzun süre yoğun şekilde ChatGPT kullanan kişilerin sosyal ve zihinsel açıdan olumsuz sonuçlarla karşılaşabileceği ifade edildi. Özellikle yapay zekayı duygusal destek veya terapi amaçlı kullananlar için bu bulgular önemli uyarılar içeriyor.
OpenAI, ChatGPT’nin davranışını daha temkinli ve kontrolcü hâle getirdi. Yapay zeka artık daha mesafeli, düz ve duygusal yoğunluğu azaltılmış yanıtlar verebilecek. Ayrıca çocuklarda kendine zarar verme niyetine işaret eden ifadeler tespit edilirse ebeveynlere bildirim yapılabileceği ve yaş doğrulama sistemi üzerinde çalışıldığı belirtildi.
Yeni GPT-5 modeli, durum özelinde ayrıştırılmış yanıtlar, gelişmiş güvenlik katmanları ve daha güçlü risk tespiti içeriyor. Amaç, fayda ile güvenlik arasında denge kurarak ChatGPT’nin daha güvenli, daha sorumlu ve daha kontrollü bir şekilde kullanılmasını sağlamak.
