OpenAI Dijital Kurtarıcıyı Başlattı

OpenAI, yapay zeka kullanımıyla ilişkili ruh sağlığı risklerini ele almayı amaçlayan eşi benzeri görülmemiş bir güvenlik özelliğinin ChatGPT'de lansmanını duyurdu.

Yeni özellik, kullanıcılara  "güvenilir kişi" belirleme seçeneği sunuyor; algoritmalar konuşmalar sırasında ciddi intihar eğilimi veya kendine zarar verme belirtileri tespit ederse sistem otomatik olarak bunu bildiriyor; bu da kritik anlarda gerçek dünya desteğine hızlı bir köprü sağlıyor.

Değişimi Yönlendiren Şok Edici Rakamlar

Bu hamle, şirketin ortaya çıkardığı endişe verici istatistiklerle ilgili; haftalık kullanıcıların tahmini %0,07  'si (900 milyondan 500.000'i)  psikolojik bir acil durum belirtileri gösteriyor.

Veriler, 1,3 milyon kullanıcının (%0,15)  kendine zarar vermeyle ilgili düşüncelerini ifade ettiğini gösterdi ve bu da dijital müdahale araçlarının geliştirilmesini sadece teknik bir seçenek değil, acil bir gereklilik haline getirdi.

Algoritma ile özel ekip arasında entegrasyon

Independent tarafından yayımlanan  bir rapora göre, bu özellik rastgele otomatik raporlamaya dayanmıyor, bunun yerine gelişmiş otomatik izleme sistemleri tehlikeli davranışsal ve dilsel kalıpları tespit ettiği kesin aşamalardan geçiyor.

İzlemenin ardından, özel bir insan ekip konuşmayı inceleyerek tehdidin ciddiyetini ve gizlilik sağlamak ve yanlış raporları önlemek için güvenilen irtibe uyarı göndermenin aciliyetini değerlendirir.

Sosyal bağların rolüne bilimsel destek

Bu hamle akademi ve tıp camiası tarafından memnuniyetle karşılandı; Amerikan Psikoloji Derneği CEO'su Arthur Evans, sevdikleri birinin dahil edilmesini "kritik koruyucu faktör" olarak nitelendirdi.

Evans, bu teknolojinin gücünün anında dijital desteği gerçek dünya sosyal desteğiyle birleştirme yeteneğinde yattığını ve kullanıcının psikolojik sıkıntısının zirvesindeki izolasyonunu kırmasında olduğunu vurguladı.

Trusted Contact  özelliği tek araç değil, aynı zamanda ChatGPT'nin mevcut güvenlik ekosistemini de güçlendiriyor.

Platform, herhangi bir tehdit tespit edildiğinde kullanıcıları otomatik olarak yerel yardım hatlarına ve kriz destek merkezlerine yönlendirmeye devam ediyor; OpenAI,  yapay zeka araçlarının savunmasız gruplar ve ergenler üzerindeki derin psikolojik etkilerine dair artan endişeleri ortadan kaldırmaya çalışıyor.