Alman araştırmacılar, birçok insanın güvenip sağlık önerileri aldığı yapay zeka temelli arama motorlarının, riskli ilaçlar önerebileceği konusunda uyarıda bulundu. Dünya çapında birçok insan, semptomlarını yapay zeka aracılığıyla aratarak, bilimsel destekten yoksun teşhisler alabiliyor. Bununla birlikte, Alman bilim insanları, yapay zekanın her zaman doğru bilgiler sunmadığı konusunda uyarıda bulundu. Erlangen-Nürnberg Üniversitesi’nin çalışmasına göre, yapay zeka kullanan sohbet robotlarının, reçeteli ilaçlar hakkında verdiği bilgilerin beşte birinden fazlası, ölümcül sonuçlara neden olabilecek hatalar içeriyor. Uzmanlar, bireylerin bu tür arama motorlarına güvenmemesi gerektiğini vurguladı. Bir araştırmada, ABD’de en sık reçete edilen 50 ilaçla ilgili 10 soru incelendi ve yapay zeka tarafından verilen 500 yanıt, eczacılar ve farmakoloji uzmanları tarafından verilen yanıtlarla karşılaştırıldı. Chatbot yanıtlarının en az yüzde 26’sının bilimsel gerçeklerle uyumlu olmadığı ve tutarsız bilgiler içerdiği belirlendi. Ayrıntılı analizler sonucunda, yapay zekanın sağlıkla ilgili bilgilerinin yüzde 42’sinin orta düzeyde zarara ve yüzde 22’sinin ölümcül sonuçlara yol açabileceği sonucuna varıldı. BMJ Quality and Safety dergisinde yayınlanan araştırmada, yapay zekanın hastaların güvenliğini ciddi bir şekilde tehdit ettiği vurgulandı. Uzmanlar, bireylerin olası semptomlarını mutlaka sağlık uzmanlarına danışmaları gerektiğinin altını çizdi.