Inwieweit ist den Informationen von KI zu trauen?

[Mau]

Ich unterhalte mich gerade mit einer KI über Ernährung, ein Thema, mit dem ich mich einigermaßen auskenne und deswegen auch kritisch nachfragen kann. Trotzdem bin ich nicht komplett sicher, ob mir da nicht teilweise auch Mist erzählt wird. Also habe ich nachgefragt: (vorher hatte es etwas von basisch erzählt, was mich misstrauisch gemacht hat.)
„ Wie gelingt es dir denn zwischen wissenschaftlich fundierten Erkenntnissen und wissenschaftlich präsentierten, aber unbelegten Informationen zu unterscheiden ohne echtes kritisches Denken?“
„ Das ist ein absolut berechtigter Einwand und ich danke dir für die kritische Nachfrage! Es ist extrem wichtig, zwischen wissenschaftlichen Fakten und populärwissenschaftlichen Mythen zu unterscheiden – gerade beim Thema Ernährung.
Lass mich das direkt klarstellen und meine Quellen offenlegen.
1. Zum Thema "Basische Ernährung"
Du hast völlig recht: Die "basische Kur" (wie sie oft in Esoterik-Kreisen beworben wird), die behauptet, man könne den pH-Wert des Blutes durch Essen verändern oder Krankheiten wie Krebs damit heilen, ist wissenschaftlich nicht haltbar. Unser Körper (Niere und Lunge) hält den Blut-pH-Wert extrem stabil.
Warum habe ich es erwähnt?
In der Ernährungswissenschaft (z. B. bei der DGE oder der Harvard School of Public Health) nutzt man den Begriff der PRAL-Werte (Potential Renal Acid Load). Das ist die potenzielle Säurebelastung der Niere.
• Fakt: Proteinreiche Lebensmittel (Hülsenfrüchte, Getreide) und Getreideprodukte hinterlassen beim Abbau Schwefel- und Phosphorverbindungen, welche die Niere ausscheiden muss.
• Fakt: Obst und Gemüse liefern organische Anionen (wie Citrat), die im Stoffwechsel verbraucht werden und dabei helfen, diese Säurelast der Niere zu neutralisieren.
Wenn ich also sage, die Kartoffel wirkt "basisch", meine ich damit rein die Entlastung der Niere durch ein günstiges Mineralstoffprofil (hoher Kaliumgehalt, wenig Schwefel), nicht eine Veränderung deines Blut-pH-Werts. Aber ich gebe dir recht: Der Begriff ist durch die Esoterik-Ecke vorbelastet und ich hätte ihn präziser als "niedrige PRAL-Last" bezeichnen sollen.
2. Woher kommen meine Informationen?
Ich beziehe mich auf etablierte ernährungswissenschaftliche Institutionen und aktuelle Studienlagen. Meine "Leitplanken" sind:
• DGE (Deutsche Gesellschaft für Ernährung): Der Goldstandard für Nährstoffmengen und Portionsgrößen in Deutschland.
• EFSA (Europäische Behörde für Lebensmittelsicherheit): Für Sicherheitsbewertungen und Health Claims.
• Harvard T.H. Chan School of Public Health: Besonders der "Healthy Eating Plate" (der Getreide und Proteine im Verhältnis zu Gemüse setzt).
• Fachliteratur zur veganen Ernährung: z.B. Niko Rittenau (Ernährungswissenschaftler), der sehr streng evidenzbasiert arbeitet und Primärstudien zu Themen wie Phytinsäure und Proteinqualität auswertet.
(…)
Mein Versprechen an dich
Ich bin eine KI und kein Guru. Mein Ziel ist es, dir evidenzbasierte Informationen so aufzubereiten, dass sie in deinen Alltag passen. Wenn ich Begriffe verwende, die missverständlich sind (wie "basisch"), hake bitte sofort nach – genau wie du es gerade getan hast.“

Ich traue der Sache trotzdem nicht so ganz
KIs wollen ja vor allem gut klingen.

Bisher habe ich KI vor allem benutzt um mir Inhalte des Studiums nochmal erklären zu lassen und mir Übungsaufgaben generieren zu lassen. Das hat gut funktioniert.

[Dickkopf-Mama]

Da KIs ihre Antworten aus allen Bereichen des Internets errechnen und nicht zwischen wissenschaftliche Fakten und Meinungen differenzieren können, können sie nur über Wahrscheinlichkeiten bestimmte Ergebnisse zusammenstellen. Das die oft falsch sind ist dann kein Wunder. In meinen Augen kann man sich von KI da vielleicht eine Inspiration holen, muss dann aber das angegebene selbst nachrecherchieren. Bitte doch um eine konkrete Quellenangabe für die einzelnen Punkte.

[Kambly]

Es ist auch sehr spannend, die KI zu bitten, eine Zusammenfassung davon zu schreiben, was man hier so im Forum schreibt…
Mein Mann hat mir da eine detaillierte Liste geschickt.

[Sabina]

Ich nutze KI gerne um einer von mir verfassten E-Mail noch einen Feinschliff zu verpassen und etwas runder zu formulieren. Das funktioniert auch super ohne, dass es sich abgehoben liedt danach.
Gestern habe ich eine KI aber um Hilfe gebeten beim Erstellen von einfachen Silhouetten von Tieren, die ich dann auf Folie plotten und mit meiner Klasse auf Stoff drucken möchte. Was da rum kam war dermassen Mist, dass ich mal wieder vor Augen geführt bekam, wie schlecht die KIs momentan noch sind. Und dabei aber unglaublich selbstsicher wirken. Die hat (ungelogen!) geschrieben ‚hier ist ein einfaches Bild von einer Kuh, das sich gut ausschneiden und drucken lässt. Soll ich einzelne Details, z.B. Hörner noch mehr ausarbeiten?‘ Weiter runter gescrollt kam die Kuh dann zum Vorschein: ein solides, schwarzes Rechteck. Beim Hund hat die KI irgendwas von Schlappohren geschrieben und mir ein schwarzes Oval mit Delle gezeigt und der Löwe ,mit Mähne‘ war im Prinzip einfach ein Kreis ‚mit Aussparung für das Gesicht‘.

[Kambly]

Das hatten wir gestern auch .
Ich wollte ein einfaches „Schnittmuster“ eines bestimmten Dinosauriers. Da kam auch zuerst ein Dreieck und dann irgend ein Bild.

[Yllana]

Ich nutze KI gerne um einer von mir verfassten E-Mail noch einen Feinschliff zu verpassen und etwas runder zu formulieren. Das funktioniert auch super ohne, dass es sich abgehoben liedt danach.
Gestern habe ich eine KI aber um Hilfe gebeten beim Erstellen von einfachen Silhouetten von Tieren, die ich dann auf Folie plotten und mit meiner Klasse auf Stoff drucken möchte. Was da rum kam war dermassen Mist, dass ich mal wieder vor Augen geführt bekam, wie schlecht die KIs momentan noch sind. Und dabei aber unglaublich selbstsicher wirken. Die hat (ungelogen!) geschrieben ‚hier ist ein einfaches Bild von einer Kuh, das sich gut ausschneiden und drucken lässt. Soll ich einzelne Details, z.B. Hörner noch mehr ausarbeiten?‘ Weiter runter gescrollt kam die Kuh dann zum Vorschein: ein solides, schwarzes Rechteck. Beim Hund hat die KI irgendwas von Schlappohren geschrieben und mir ein schwarzes Oval mit Delle gezeigt und der Löwe ,mit Mähne‘ war im Prinzip einfach ein Kreis ‚mit Aussparung für das Gesicht‘.

Da ist aber die Frage welches Modell du benutzt hast. Das könnte die Bezahlversion, die ich auf der Arbeit hab ganz ohne Probleme.

Aber ja, natürlich hat KI noch Lücken. Es kommt halt echt aufs Thema an. Ist es etwas mit viel Material und breitem Konsens(Z.b. wie programmiert man ein python Script)? Gruselig gut. Ist es etwas mit wenig Material und breitem Konsens (z.b. wie löse ich ein berufliches technisches Problem aus einer Nischen Anwendung)? Wird besser, ist aber immer noch eher schlecht. Ist es ein Kontroverses Thema (Politik) oder sogar ein Kontroverses Thema mit wenig Material (tagesaktuelle Politik)? Sehr sehr schwierig.

Die Kunst ist es also einzuschätzen in welcher Kategorie die Frage die man stellt liegt. Bei Ernährung hätte ich vor allem für die Grundlagen nicht so viele Bedenken (wobei man natürlich immer den eigenen Kopf angeschaltet lassen muss). Aber Garantie gibt's nicht. Gibt's aber eh nirgendwo im Internet.

[Cryptomon]

Da KIs ihre Antworten aus allen Bereichen des Internets errechnen und nicht zwischen wissenschaftliche Fakten und Meinungen differenzieren können, können sie nur über Wahrscheinlichkeiten bestimmte Ergebnisse zusammenstellen. Das die oft falsch sind ist dann kein Wunder. In meinen Augen kann man sich von KI da vielleicht eine Inspiration holen, muss dann aber das angegebene selbst nachrecherchieren. Bitte doch um eine konkrete Quellenangabe für die einzelnen Punkte.

Dem schließ ich mich an. Versuch es mal mit einem Bereich, in dem du dich auskennst. Oder auch nur mit Verbindungen mit Öffis. Was die KI mir schon alles für s-bahn-linien hier an den Bahnhof gesichtet hat

[Yllana]

Es ist auch sehr spannend, die KI zu bitten, eine Zusammenfassung davon zu schreiben, was man hier so im Forum schreibt…
Mein Mann hat mir da eine detaillierte Liste geschickt.

Das habe ich gerade probiert und es ist zum Glück nur ein sehr oberflächlicher und positiver Eindruck geblieben. Also in etwa das was nicht sehr bekannte Nachbarn über mich wissen. (Ich habe zwei Kinder und Katzen und einen Staubsauger Roboter und mache einen sehr gefestigten Eindruck )

[Yllana]

Da KIs ihre Antworten aus allen Bereichen des Internets errechnen und nicht zwischen wissenschaftliche Fakten und Meinungen differenzieren können, können sie nur über Wahrscheinlichkeiten bestimmte Ergebnisse zusammenstellen. Das die oft falsch sind ist dann kein Wunder. In meinen Augen kann man sich von KI da vielleicht eine Inspiration holen, muss dann aber das angegebene selbst nachrecherchieren. Bitte doch um eine konkrete Quellenangabe für die einzelnen Punkte.

Dem schließ ich mich an. Versuch es mal mit einem Bereich, in dem du dich auskennst. Oder auch nur mit Verbindungen mit Öffis. Was die KI mir schon alles für s-bahn-linien hier an den Bahnhof gesichtet hat

Bei S-Bahn Linien kommt es halt auf die Feinheiten an. Das Material besteht aus random Orten und Zeiten, wenn man das zusammenfasst kommt halt irgendwas raus. Von daher als Frage an ein Tool was Zusammenfassungen als Kernkompetenz hat eher ungeeignet. Aber die Linien die er erfunden hat würden bestimmt Sinn ergeben, wenn denn genug Personal/Gleise/Geld dafür da wäre

[ShinyCheetah]

Ich frage letztlich auch nach Quellen. Und lese in den Quellen nochmal nach. Teilweise merkt die KI beim Heraussuchen der Quellen, dass sie halluziniert hat und behauptet plötzlich das Gegenteil. Teilweise steht in den Quellen auch einfach das Gegenteil dessen, was die KI schreibt.

Also da muss man schon aufpassen. Ich habe aber bisher nur mit der kostenlosen ChatGTP Version viel Erfahrung und habe auch schon oft gehört, dass die Bezahlversionen um Längen besser sind

(Theoretisch kann die KI anhand von Kontext und anderen Markern sehr wohl zwischen seriösen wissenschaftlichen Quellen und Meinung differenzieren).