>b's weblog

“Zu sagen was ist, bleibt die revolutionärste Tat.” (Rosa Luxemburg)

Der Hindukusch liegt jetzt in LitauenEU: 650 Millionen Euro für Kampagne gegen Meinungsfreiheit

Wenn die KI nicht existierende Studien anführt

Warum macht ein vermeintlich klügeres Modell mehr Fehler? Die Forscher rätseln noch. Eine Theorie: Je ausführlicher die KI ihre Antworten begründet, desto mehr Gelegenheiten hat sie, Fehler einzubauen. „Die Art des Lernverfahrens bei den o‑Modellen verstärkt möglicherweise Probleme, die normalerweise abgemildert werden“, sagt Neil Chowdhury, Forscher bei Transluce. In Tests erfand das System sogar Handlungen – etwa einen Computercode, den es angeblich ausgeführt hatte.

Den Bericht gibt's hier.