Ist das Halluzinationsproblem in der KI gelöst?
Has the hallucination problem in AI been solved?
Ich habe die Überzeugung, dass alle KI-Systeme halluzinieren können und werden. Wenn ich das sage, werde ich oft heruntergevotet, aber niemand widerspricht mir oder liefert Quellen. Vielleicht ist es differenzierter, als ich denke? Ich bitte um Aufklärung.
Ich denke, es ist gelöst, mit dem richtigen Setup und Modell. Ich könnte Ihnen nicht sagen, wann mein Agent zuletzt halluziniert hat. Für mich betrachte ich es als gelöst. Aber wenn jemand massive Dokumente in GPT-Chat füttert und lange Konversationen führt, ist es in diesem Kontext nicht gelöst.
Würden Sie ihm lebenswichtige Entscheidungen anvertrauen? Weil es in diesem Kontext verwendet wird. Drohnen mit KI, bewaffnet und mit Ermessensspielraum, ein Ziel auszuwählen und zu töten.
Ich hoffe auf mehr als Anekdoten. Ich glaube, dass KI nicht bereit ist für das, wofür sie verwendet wird, aber alles, was ich bekomme, sind Downvotes und keine Zitate. Vielleicht habt ihr alle Angst, es laut auszusprechen?