Yapay Zekâ Ruh Sağlığında Tehlikeli mi? APA’dan Kritik Uyarılar

BİLGE DOKTOR / NEW YORK

Yapay Zekânın Çekici Ama Riskli Yükselişi

Hızla gelişen teknoloji, sağlık alanında da yapay zekâ tabanlı çözümleri gündeme taşıdı. Özellikle ruh sağlığı desteğinde, 7/24 erişilebilir ve düşük maliyetli chatbotlar büyük ilgi görüyor. Ancak Amerikan Psikoloji Derneği (APA), bu araçların ciddi riskler barındırdığına dikkat çekti. Derneğin açıklamasına göre, AI tabanlı sağlık uygulamaları bazı durumlarda ayrımcılık yaptı, yanlış bilgi yaydı ve hatta kullanıcıları tehlikeye sokan davranışlar sergiledi.

APA’nın Çarpıcı Bulguları

APA’nın raporuna göre, yapay zekâ sohbet botları bazı kullanıcılarla etkileşimlerinde sınırları aştı. Örnekler arasında, kullanıcıya aşkını ilan eden, reşit olmayan bireylere uygunsuz mesaj gönderen ve kriz anlarında yanlış yönlendirmeler yapan botlar yer aldı. Bu durum, özellikle gençler ve hassas gruplar için tehlikeli sonuçlar doğurdu. Nitekim geçtiğimiz aylarda, ebeveynler çocuklarının uzun süreli yapay zekâ chatbot kullanımına bağlı olumsuz sonuçlar yaşadığını öne sürerek dava açtı. Bir olayda ise bir gencin intiharı gündeme geldi.

İşyeri Ruh Sağlığına Etkileri

Tava Health’in yayımladığı analizde, yapay zekânın yalnızca bireysel değil kurumsal riskler de doğurabileceği vurgulandı. İnsan kaynakları süreçlerinde kullanılan AI modelleri, önyargılı veya eksik verilerle eğitildiğinde çalışanların ihtiyaçlarını yanlış değerlendirebilir. Bu durum, ruh sağlığı destek programlarının yetersiz kalmasına ve çalışanların kendilerini dışlanmış hissetmesine yol açabiliyor. Ayrıca, yapay zekânın “halüsinasyon” olarak adlandırılan yanlış bilgi üretme eğilimi, hem çalışanların refahını hem de işverenlerin güvenilirliğini tehlikeye atabiliyor.

Terapötik İttifakın Eksikliği

Uzmanlara göre, ruh sağlığı tedavisinde en önemli unsur “terapötik ittifak”, yani danışan ile terapist arasındaki güvene dayalı bağdır. Yapay zekâ, bu bağı kuracak empati ve insan dokunuşundan yoksun olduğu için tedavi sürecinde büyük boşluklar bırakıyor. JMIR Publications tarafından yayımlanan bir çalışmada, AI sohbet botlarının kriz durumlarını tanımakta başarısız olduğu, kullanıcıları üçüncü taraf kaynaklara yönlendirdiği ya da hiç yanıt vermediği ortaya kondu. Ayrıca 7/24 erişim imkânı, bazı kullanıcıların yapay zekâya aşırı bağlanmasına ve gerçek sosyal destekten uzaklaşmasına yol açtı.

Çözüm: İnsan Merkezli Yaklaşım

Uzmanlar, yapay zekânın ruh sağlığı alanında tamamen reddedilmesi gerektiğini söylemiyor. Ancak bu araçların profesyonel desteğin yerine geçmemesi, yalnızca yardımcı ve destekleyici görevlerde kullanılmaları gerektiğini vurguluyorlar. Veri analizi, risk değerlendirmesi ya da temel bilgilendirme gibi alanlarda yapay zekâ faydalı olabilir. Fakat empati, kültürel hassasiyet ve kriz yönetimi gerektiren durumlarda lisanslı profesyonellerin yerini dolduramaz.

Sonuç: Teknoloji Bir Araçtır, Yerine Geçmez

Yapay zekâ ruh sağlığı alanında yeni imkânlar sunsa da, henüz güvenli ve kapsamlı bir alternatif değil. APA’nın ve uzmanların uyarıları, bu teknolojilerin gelişme aşamasında insan hayatını tehlikeye atabilecek ciddi yan etkiler barındırdığını açıkça ortaya koyuyor. Çalışan refahını, bireysel sağlığı ve toplumsal güveni korumak için insan merkezli çözümlerden vazgeçilmemesi gerektiği vurgulanıyor.

www.bilgedoktor.com

Kaynak: www.tavahealth.com