Yapay zekâ destekli sohbet robotlarının sağlık alanında kullanımı hızla yaygınlaşırken, uzmanlar bu teknolojinin sunduğu bilgilerin güvenilirliği konusunda ciddi uyarılarda bulunuyor. Özellikle ChatGPT, Gemini ve Grok gibi sistemlerin, kullanıcıların sağlık sorunlarına yönelik verdiği yanıtların zaman zaman hatalı ve yanıltıcı olabildiği belirtiliyor.
İngiltere’nin Manchester kentinde yaşayan Abi isimli bir kullanıcı, yaklaşık bir yıldır sağlık sorunlarıyla ilgili olarak yapay zekâdan destek aldığını ifade etti.
Sağlık hizmetlerine erişimin zorlaştığı durumlarda yapay zekânın hızlı ve kolay bir alternatif sunduğunu belirten Abi, bazı durumlarda doğru yönlendirmeler aldığını söyledi. İdrar yolu enfeksiyonu şüphesi yaşadığında bir eczacıya gitmesini öneren yapay zekâ sayesinde doğru tedaviye ulaştığını dile getirdi.
Ancak yapay zekânın her zaman doğru sonuç vermediği de yaşanan örneklerle ortaya kondu. Abi, doğa yürüyüşü sırasında geçirdiği bir kazanın ardından yaşadığı ağrılar için başvurduğu sohbet robotunun, iç organ delinmesi teşhisi koyarak acil servise gitmesini önerdiğini aktardı. Saatler süren hastane bekleyişinin ardından ciddi bir sağlık sorunu olmadığını anlayan Abi, yapay zekânın bu durumda açıkça yanlış yönlendirdiğini ifade etti.
Uzmanlar, bu tür hataların yaygın olabileceği konusunda uyarıyor. İngiltere Baş Tıp Sorumlusu Prof. Sir Chris Whitty, yapay zekâ sistemlerinin verdiği yanıtların yeterince iyi olmadığını ve çoğu zaman kendinden emin ancak yanlış bilgiler içerdiğini söyledi.
Oxford Üniversitesi’nde yapılan bir araştırmada, yapay zekâ sistemlerinin tam ve doğru bilgi verildiğinde yüzde 95 oranında doğru sonuçlar üretebildiği, ancak gerçek kullanıcı etkileşimlerinde bu oranın yüzde 35’e kadar düştüğü tespit edildi. Araştırmacılar, kullanıcıların eksik veya dağınık bilgi vermesinin bu düşüşte etkili olduğunu belirtti.
Öte yandan ABD’de yapılan ayrı bir analizde, yapay zekâ sohbet robotlarının özellikle kanser tedavisi, aşılar ve beslenme gibi konularda yanlış veya yanıltıcı bilgiler verebildiği ortaya kondu. Uzmanlar, bu sistemlerin güvenilir bir kaynak gibi algılanmasının kullanıcılar açısından risk oluşturduğunu vurguladı.
ChatGPT’nin geliştiricisi OpenAI ise yaptığı açıklamada, sistemin sağlık alanında yalnızca bilgilendirme amaçlı kullanılması gerektiğini ve profesyonel tıbbi danışmanlığın yerine geçemeyeceğini belirtti.
Tüm bu gelişmelere rağmen kullanıcılar yapay zekâdan tamamen vazgeçmiş değil. Ancak uzmanlar, bu tür araçlardan alınan bilgilerin mutlaka teyit edilmesi gerektiği konusunda hemfikir.