Eine Studie zeigt: Bei Fragen zu Medikamenten liefern KI-Chatbots teilweise ungenaue Antworten. Was raten Forscher?
- In der Studie haben Forscher der Uni Erlangen einem KI-gestützten Chatbot zehn häufig gestellte Patienten-Fragen zu Medikamenten gestellt. Es ging auch um Nebenwirkungen und die Einnahme.
- Das Ergebnis: Die Chatbot-Antworten seien wiederholt ungenau, unvollständig und oft schlecht verständlich gewesen.
- Aus diesen Gründen warnen die Forscher davor, den Antworten zu vertrauen und fordern Warnhinweise für User.
Ein zentrales Ergebnis unserer Untersuchung ist, dass die Qualität der Chatbot-Antworten bislang nicht zur sicheren Anwendung für Nutzer ausreichend ist.
Chatbots haben sich verbessert, aber …
Obwohl sich die Chatbots im vergangenen Jahr stark verbessert hätten, sagt der Forscher: Chatbot-Antworten können keinen professionellen Rat ersetzen!
Schule KI im Unterricht? Bildungsminister sagen JA!
In Zukunft sollen Schülerinnen und Schüler lernen, wie man KI richtig benutzt. Das sei z.B. wichtig fürs Berufsleben.
