Warum AI Dinge erfindet, anstatt zu sagen: "Ich weiß es nicht"
Ein Sprachmodell sucht keine Antworten in einer Faktendatenbank. Es setzt den text so fort, wie er normalerweise weitergeht, und es tut dies sehr überzeugend. Wenn Sie nach einer bestimmten Nummer oder einem bestimmten Link fragen und das Modell keine zuverlässigen Daten hat, wird es immer noch etwas Plausibles produzieren: das richtige Format, einen selbstbewussten Ton und schöne Details. Deshalb kann man die Wahrheit aus der Erfindung nicht dadurch sagen, wie sie klingt. Eine glatte, detaillierte und ruhige Antwort sagt nichts darüber aus, ob sie richtig ist. Denken Sie daran: Zweifel sollten nicht eingeschaltet werden, wenn eine Antwort seltsam klingt, sondern wenn sie etwas überprüfbares enthält und etwas davon abhängt.
Was KI am häufigsten erfindet
Kleine, überprüfbare Details sind die gefährlichsten. Die am häufigsten erfundenen Elemente sind genaue Zahlen und Prozentsätze, Datum der Ereignisse, Namen von Personen und Organisationen, Gesetz- und Artikelnummern, Zitate "aus einem Buch" oder "aus einem Interview", Webadressen und Titel von Forschungsarbeiten sowie Programmfunktionen oder Einstellungen, die nicht existieren. Ein Link zu einer Quelle ist auch kein Beweis: AI kann diese auch erfinden, komplett mit einem glaubwürdigen Publikationsnamen und Jahr. Allgemeines Denken, Erklärungen von Konzepten und das Umformulieren Ihres eigenen Textes werden viel seltener erfunden, so dass Sie die KI zuerst ansprechen müssen.
Vier Überprüfungen, die fünf Minuten dauern
Erstens: Fragen Sie nach der Quelle und öffnen Sie sie selbst. Wenn die Seite nicht existiert oder etwas anderes sagt, verwenden Sie die Antwort nicht. Zweitens: Finden Sie den ursprünglichen Wert. Überprüfen Sie eine Zahl auf der offiziellen Website der Organisation, suchen Sie ein Zitat nach seinen genauen Worten in Anführungszeichen, überprüfen Sie ein Gesetz auf dem offiziellen Portal Ihres Landes. Drittens: stellen sie die gleiche frage in einem neuen chat in verschiedenen worten. Wenn sich die Antworten merklich unterscheiden, ist das ein Warnzeichen. Viertens: Bitten Sie die KI, ihre Antwort in "zuversichtlich" und "nicht sicher, muss überprüft werden" aufzuteilen. Es ist keine Garantie, aber es zeigt Schwachstellen. Die Hauptregel: Alles, was Sie veröffentlichen, senden oder unterschreiben, wird mit der Primärquelle verglichen.
Wie man eine Aufforderung schreibt, die erfundene Antworten reduziert
Der beste Weg, Erfindungen zu schneiden, besteht nicht darin, die KI zu bitten, sich zu erinnern, sondern ihr Material zu geben. Fügen Sie einen Text, eine Tabelle oder einen Auszug ein und sagen Sie, dass er nur daraus antworten muss. Fügen sie die erlaubnis hinzu, zu sagen "der text sagt nicht" viele modelle müssen explizit gesagt werden, dass nicht wissen erlaubt ist. Fragen Sie nach kurzen Antworten mit einem Zitat aus Ihrem Material, so dass jeder Anspruch leicht zu überprüfen ist. Fordern Sie keine „genauen Zahlen aus dem Gedächtnis und drücken Sie nicht, wenn die KI zögert: Druck erhöht die Chance auf Erfindung. Wenn Sie neue Daten benötigen, verwenden Sie einen Modus mit der Websuche, in dem einer vorhanden ist, und öffnen Sie die Links trotzdem selbst.
Wenn Sie AI nicht vertrauen müssen, ohne zu überprüfen
Einige Themen verursachen hohe Fehlerkosten: Gesundheit und Medikamente, rechtliche Fragen und Fristen, Steuern und Geld, Sicherheit und alles, was Sie unter Ihrem Namen oder Ihrer Hand an einen Kunden veröffentlichen. In diesen Bereichen ist KI in Ordnung als Helfer für die Vorbereitung von Fragen und einen Entwurf, aber nicht als Quelle einer Entscheidung. Für Gesundheit und Recht kommt die endgültige Antwort von einem Spezialisten, und Zahlen und Links werden von offiziellen Quellen bestätigt. Eine nützliche Gewohnheit: Bevor Sie ein Ergebnis verwenden, fragen Sie sich, was passiert, wenn es unwahr ist. Wenn die Antwort "nichts Ernstes" lautet, genügt eine schnelle Überprüfung. Wenn "es Konsequenzen geben wird", überprüfen Sie die primäre Quelle oder konsultieren Sie einen Spezialisten.