Riskanter Rat von Chatbots

Im Rahmen einer Studie stellten sie KI-unterstützten Suchmaschinen und Chatbots im April 2023 zehn Fragen zu den 50 am häufigsten verordneten Medikamenten in den USA, darunter zur Einnahme oder zu Nebenwirkungen und Gegenanzeigen. Generell seien die Fragen zwar mit hoher Vollständigkeit und Genauigkeit beantwortet worden. Bei manchen Fragen sei dies aber nicht der Fall gewesen. Die Antworten waren demnach wiederholt ungenau und unvollständig und oft auch schlecht verständlich, schreiben die Forschenden des Instituts für Experimentelle und Klinische Pharmakologie und Toxikologie im Fachjournal »BMJ Quality & Safety«.

Für Patienten sei das riskant, da sie als medizinische Laien die Genauigkeit und Vollständigkeit der KI-generierten Antworten nicht einschätzen könnten. Zwar habe es in den letzten Jahren rasante Fortschritte bei KI-gestützten Suchmaschinen mit integrierter Chatbot-Funktion gegeben, diese seien aber nicht ausreichend, sodass weiterhin Risiken für die Patientensicherheit bestehen. Die Forschenden fordern einen deutlichen Hinweis, dass die von KI bereitgestellten Informationen keinen professionellen Rat ersetzen können.