Mistral AI patentiert Code-basierte Tool-Aufrufe für LLMs
Mistral Patent for "Code implemented tool calls"
Mistral AI hat ein Patent für eine Methode erhalten, bei der ein großes Sprachmodell (LLM) Code generiert, der Tool-Aufrufe kapselt. Der Code wird in einer Sandbox ausgeführt, bei ausstehenden Aufrufen pausiert und an den Client zur Ausführung übergeben. Die Ergebnisse werden zurückgespielt und die Ausführung fortgesetzt. Dies ermöglicht eine flexible und sichere Integration externer Tools in LLM-Workflows.
Ein Verfahren, das einen vom LLM generierten Codeblock in einer Sandbox ausführt, bei ausstehenden Tool-Aufrufen pausiert und die Ergebnisse zur Fortsetzung der Ausführung zurückführt.