- Konu Yazar
- #1
Dünyanın en popüler üretken yapay zekâ aracı ChatGPT, hayatımızın tam ortasına yerleşti. OpenAI'ın geliştirdiği yapay zekâ, artık birçoğumuz için bir soru sormaktan kod yazdırmaya, hatta dertleşmeye kadar her konuda başvurduğumuz ilk yer hâline geldi. Ancak bu "dertleşme" durumu, OpenAI için hem büyük bir sorumluluk hem de ciddi bir risk alanı oluşturuyor. Şirketin yayımladığı son veriler, durumun ne kadar kritik olduğunu net bir şekilde ortaya koydu.
OpenAI, yapay zekâ modelinin "hassas konuşmalar" olarak adlandırdığı durumlarda nasıl daha iyi destek sağlayabileceğine dair kapsamlı bir çalışma yayımladı. Bu çalışma, kullanıcıların ruh sağlığı, bunalım anları ve hatta intihar düşünceleri gibi konularda ChatGPT'ye ne sıklıkla açıldığını ve şirketin bu yanıtları iyileştirmek için neler yaptığını detaylandırıyor. İstatistikler gerçekten çarpıcı.
OpenAI'ın paylaştığı verilere göre ChatGPT'nin 800 milyonu aşan haftalık aktif kullanıcısı bulunuyor. Bu devasa kullanıcı kitlesinin yüzde 0,15'i, yani yaklaşık 1,2 milyon kişi, yapay zekâ ile intihar planları veya niyetleri içeren konuşmalar yapıyor. Bu, sorunun ne kadar yaygın olduğunu gösteren en net rakam.
Sorun sadece bununla sınırlı değil. Şirketin analizine göre kullanıcıların yüzde 0,07'si (yaklaşık 560.000 kişi) psikoz veya mani gibi ciddi akıl sağlığı acil durumlarına işaret eden belirtiler gösteriyor. Ayrıca kullanıcıların yüzde 0,15'i de yapay zekayâ karşı "sağlıksız duygusal bağlılık" geliştirme eğiliminde.
Bu korkutucu tablo karşısında harekete geçen OpenAI, ChatGPT'nin varsayılan modelini (GPT-5) güncellemek için 170'ten fazla akıl sağlığı uzmanı ile çalıştı. Bu uzmanlar, modelin tehlikeli yanıtlar vermesini engellemek, konuşmaları yatıştırmak ve kullanıcıları gerektiğinde profesyonel yardıma yönlendirmek için modeli eğitti.
Yapılan iyileştirmeler sonuç vermiş görünüyor. Şirket, yeni modelle "uygunsuz" veya "istenmeyen" yanıtlarda yüzde 65 ila yüzde 80 arasında bir azalma olduğunu ifade ediyor. Örneğin, intihar ve kendine zarar verme konularındaki uygunsuz yanıtlar yüzde 65 azalırken, yapay zekâya sağlıksız duygusal bağlılık gösteren konuşmalardaki istenmeyen yanıtlar yüzde 80 oranında düşürüldü. Ayrıca kriz anlarında yardım hatlarına erişim genişletildi ve uzun konuşmalarda "ara ver" hatırlatmaları eklendi.
OpenAI'ın bu adımı, yapay zekânın omuzlarındaki yükün ne kadar arttığını ve bu teknolojinin artık sadece bir "bilgi aracı" olmaktan çıkıp bir "dert ortağı" olarak da görüldüğünü ortaya koyuyor.
Peki siz ChatGPT'yi bu tür konularda bir "dert ortağı" olarak görüyor musunuz? Düşüncelerinizi yorumlarda bizimle paylaşın.
OpenAI, yapay zekâ modelinin "hassas konuşmalar" olarak adlandırdığı durumlarda nasıl daha iyi destek sağlayabileceğine dair kapsamlı bir çalışma yayımladı. Bu çalışma, kullanıcıların ruh sağlığı, bunalım anları ve hatta intihar düşünceleri gibi konularda ChatGPT'ye ne sıklıkla açıldığını ve şirketin bu yanıtları iyileştirmek için neler yaptığını detaylandırıyor. İstatistikler gerçekten çarpıcı.
Haftada 1 milyondan fazla kullanıcı intihar hakkında konuşuyor
OpenAI'ın paylaştığı verilere göre ChatGPT'nin 800 milyonu aşan haftalık aktif kullanıcısı bulunuyor. Bu devasa kullanıcı kitlesinin yüzde 0,15'i, yani yaklaşık 1,2 milyon kişi, yapay zekâ ile intihar planları veya niyetleri içeren konuşmalar yapıyor. Bu, sorunun ne kadar yaygın olduğunu gösteren en net rakam.
Sorun sadece bununla sınırlı değil. Şirketin analizine göre kullanıcıların yüzde 0,07'si (yaklaşık 560.000 kişi) psikoz veya mani gibi ciddi akıl sağlığı acil durumlarına işaret eden belirtiler gösteriyor. Ayrıca kullanıcıların yüzde 0,15'i de yapay zekayâ karşı "sağlıksız duygusal bağlılık" geliştirme eğiliminde.
OpenAI, ChatGPT yanıtlarını iyileştirmek için uzmanlarla çalıştı
Bu korkutucu tablo karşısında harekete geçen OpenAI, ChatGPT'nin varsayılan modelini (GPT-5) güncellemek için 170'ten fazla akıl sağlığı uzmanı ile çalıştı. Bu uzmanlar, modelin tehlikeli yanıtlar vermesini engellemek, konuşmaları yatıştırmak ve kullanıcıları gerektiğinde profesyonel yardıma yönlendirmek için modeli eğitti.
Yapılan iyileştirmeler sonuç vermiş görünüyor. Şirket, yeni modelle "uygunsuz" veya "istenmeyen" yanıtlarda yüzde 65 ila yüzde 80 arasında bir azalma olduğunu ifade ediyor. Örneğin, intihar ve kendine zarar verme konularındaki uygunsuz yanıtlar yüzde 65 azalırken, yapay zekâya sağlıksız duygusal bağlılık gösteren konuşmalardaki istenmeyen yanıtlar yüzde 80 oranında düşürüldü. Ayrıca kriz anlarında yardım hatlarına erişim genişletildi ve uzun konuşmalarda "ara ver" hatırlatmaları eklendi.
OpenAI'ın bu adımı, yapay zekânın omuzlarındaki yükün ne kadar arttığını ve bu teknolojinin artık sadece bir "bilgi aracı" olmaktan çıkıp bir "dert ortağı" olarak da görüldüğünü ortaya koyuyor.
Peki siz ChatGPT'yi bu tür konularda bir "dert ortağı" olarak görüyor musunuz? Düşüncelerinizi yorumlarda bizimle paylaşın.
Ziyaretçiler için gizlenmiş link,görmek için
Giriş yap veya üye ol.