Ich glaube einem Chatbot lieber, als zuzugeben, dass ich keine Ahnung habe - und das erschreckt mich an mir selbst
Eine Studie zeigt, dass Menschen sich eher auf falsche KI-Aussagen verlassen, als ihr Unwissen einzugestehen. Ich habe festgestellt, dass ich das Problem selbst bin - und dass es nichts mit Technik zu tun hat.
👁 115 Aufrufe
Wenn Sie schnell eine Antwort wollen: Laut einer Studie sinkt durch KI-Chatbots die Wahrscheinlichkeit, dass Menschen ihr Unwissen zugeben. Selbst wenn die KI falsch liegt, uebernehmen wir ihre Aussage lieber, als zu sagen: Ich weiss es nicht. Das ist weniger ein Technikproblem als ein Charakterproblem.
Mich ueberrascht an dieser Meldung nicht, dass Chatbots Unsinn erzaehlen. Das wissen wir. Mich erschreckt, wie bereitwillig wir diesen Unsinn adoptieren, nur um vor uns selbst nicht dumm dazustehen.
Die Maschine gibt uns eine Ausrede
Ich habe bei mir selbst nachgesehen, und das Ergebnis war unangenehm. Wenn mir jemand eine Frage stellt, die ich nicht beantworten kann, tippe ich sie in einen Chatbot und lese die Antwort vor - oft ohne sie zu pruefen.
Das Perfide daran: Frueher haette ich sagen muessen „keine Ahnung“. Peinlich, aber ehrlich. Heute schiebe ich die Verantwortung an eine Software ab. Wenn die Antwort falsch war, war es ja nicht ich, sondern die KI. Ich behalte mein Gesicht, verliere aber die Wahrheit.
Das ist eine subtile Verschiebung. Unwissen war frueher ein Zustand, den man aushalten musste. Jetzt ist es ein Loch, das sofort mit fremden Worten gestopft wird. Die Pause zwischen Frage und Antwort, in der man frueher nachdachte oder zugab, nichts zu wissen, verschwindet.
Google · Deine QuellenWissnox höher in Ihrem Google - mit einem KlickZu bevorzugten Quellen hinzufügen →Warum das mehr kostet, als es scheint
Ich finde, wir unterschaetzen den Preis. Wer nie mehr „ich weiss es nicht“ sagt, verlernt das Nachfragen, das Zoegern, das ehrliche Ringen um eine Antwort. Das sind genau die Faehigkeiten, die uns von der Maschine unterscheiden sollten.
Im Berufsleben ist das gefaehrlich. Ein Kollege, der lieber eine falsche KI-Antwort weitergibt, als kurz „ich pruefe das“ zu sagen, richtet mehr Schaden an als jeder Halluzinationsbug. In privaten Gespraechen ist es einfach nur traurig.
Das Erstaunliche ist, dass die Loesung so billig waere. Zwei Woerter, die kaum jemandem ueber die Lippen kommen. Ich uebe sie gerade wieder. Es faellt mir schwerer, als ich zugeben moechte - und genau das beweist, dass die Studie recht hat.
More on this from WISSNOX
technik·Eine KI hat einen KI-Angriff auf eine KI-Plattform entdeckt - und ich frage mich, wer hier eigentlich noch Mensch istHugging Face wurde von KI-Agenten angegriffen und von KI verteidigt.