Bryan Cantrill: Dein intellektueller Hosenstall ist offen – schreib deinen eigenen Content

Ich bin etwas skeptisch gegenüber Argumenten der Form: 'Du solltest LLMs nicht ohne Offenlegung verwenden, weil LLMs schlecht im Schreiben sind.' Meine Begründung ist: Wenn LLMs besser im Schreiben werden – was meiner Meinung nach äußerst wahrscheinlich ist – wirst du dann deine Position ändern und sagen, dass die Nutzung von LLMs ohne Offenlegung jetzt völlig in Ordnung ist? Sicherlich sind einige Leute bereit, diese Konsequenz zu akzeptieren und ja zu sagen. Aber für die meisten Menschen wird die Antwort meiner Vermutung nach nein bleiben. Daher neige ich zu der Annahme, dass der 'eigentliche' Grund, warum die meisten von uns es nicht mögen, wenn Leute LLMs zum Schreiben ohne Offenlegung nutzen, darin besteht, dass es irreführend ist: Es ist eine Art Behauptung, dass bestimmte Gedanken einem Menschen zugeschrieben werden können, obwohl sie das in Wirklichkeit nicht können. (Die Gedankenstriche in dieser Nachricht wurden mit Tastaturkürzeln erzeugt.)

Ich denke, die wichtigste Zeile in diesem Beitrag ist: Aber LLMs sind auch lausige Schreiber und (am wichtigsten!) sie sind nicht du. Als ich das Cloudflare-Blog redigierte, habe ich stilistisch nur sehr wenig vorgegeben, damit der Stil jedes einzelnen Autors durchkommen konnte. Es war fast so wichtig wie der eigentliche Inhalt, dass der Leser spüren konnte, dass eine tatsächliche Person den Text geschrieben hat (mit all ihren persönlichen Eigenheiten intakt).

Wenn ich schriftliche Arbeiten mit Restaurants vergleichen darf: Ein Titel und eine Autorenzeile sind wie die Ladenfront; ich bekomme eine Vorstellung davon, was serviert wird, und wenn ich hungrig bin, gehe ich hinein und bestelle. Manchmal ist das Essen großartig. Meistens ist es ziemlich gut. Gelegentlich ist es langweilig oder sogar schlecht, aber nicht oft genug, um zukünftige Unternehmungen zu entmutigen; natürlich werde ich diesen bestimmten Gastwirt wahrscheinlich nicht erneut besuchen. Mit LLM-Schreiben gibt es ein zusätzliches Ergebnis. Ich gehe hinein und die Wände sind angenehm, wenn auch beige. Ich folge dem Geruch und dem Versprechen von Essen einen Flur entlang. Am Ende ist eine unbeschriftete Tür, die ich öffne und durchspähe. Unzählige Flure führen weg, jeder chaotischer und unordentlicher als der letzte. Angenommen, ich bin sehr hungrig und habe den Mut zu erkunden; ich könnte feststellen, dass ich das Essen nie wirklich erreichen kann, dass es nur eine endlose Spiegelhalle ist, die Struktur präsentiert, aber nichts im Kern hat. Manchmal finde ich doch Essen, aber es ist nie besser als langweilig. Die Fassade dieser Orte sieht auf den ersten Blick immer noch wie von Menschen geführte Restaurants aus, obwohl wir alle die Anzeichen lernen. Heutzutage, wenn ich die erste Tür öffne und mehr Flure sehe, drehe ich mich um und suche woanders.

Ich möchte keine Inhalte lesen, die von KI geschrieben wurden. Eine Funktion, die ich mir auf LinkedIn wünschen würde, wäre eine Flagge für 100% verifizierte menschliche Inhalte für Benutzer. LinkedIn kann dann die Scans durchführen und diese für alle Benutzer, die es beim Posten von KI-gestützten Inhalten erwischt, auf falsch setzen. Lass mich das aus dem Feed herausfiltern. Wenn wir nichts tun, um einen gewissen Standard des Diskurses aufrechtzuerhalten, verlieren wir intellektuell und als Teil unserer Menschlichkeit. LinkedIn ist die einzige soziale Medienplattform, die ich nutze, und sie steht auf der Kippe.

Was mich verblüfft, ist nicht nur, dass die Leute die schlechte Qualität des Schreibens selbst nicht sehen, sondern dass sie auch in der Lage sein müssen, den 'LLM-Mist' anderer zu identifizieren, oder? Und zu erkennen, wie das, was sie veröffentlichen, genau gleich klingt? Oder haben die Leute komplett aufgehört, das zu lesen, was sie 'geschrieben' haben, bevor sie auf diesen magischen Senden-Button klicken?

Wenn ich mich bei LinkedIn einlogge, scheint die überwältigende Mehrheit der Beiträge dazu da zu sein, Glaubwürdigkeit zu ernten und eine persönliche Marke aufzubauen. Vor LLMs fand ich das alles ziemlich widerlich. Nach LLMs empfinde ich meine Reaktion darauf, Empfänger dieser Sache zu sein, als ziemlich intellektuell beleidigend. Es gibt Wege, auf denen die Nutzung eines LLMs Selbstmord für die Marke ist.

Ich habe bei LinkedIn gearbeitet (kurz, vor der Rente) und das Produkt war mir Jahre zuvor nützlich, also habe ich es ziemlich oft genutzt, aber jetzt nicht mehr viel, da es keinen meiner aktuellen Bedürfnisse erfüllt. Es gab immer schreckliche Beiträge mit Millionen Aufrufen, die von Menschen geschrieben wurden, nutzlose Influencer, die vom Algorithmus gefördert wurden. Das war schon immer Müll, aber für ein LLM sehen diese Beiträge wie Erfolg aus, wegen des Engagements, also versucht das LLM, diesen Müll zu replizieren, macht einen mittelmäßigen Job, und das Ergebnis ist diese Art von seltsamem Müll. Im Grunde scheint das LLM von seinem eigenen Nachschub high zu sein. Das Problem ist, dass das Virale schon immer das war, was mich dazu brachte, aus dem Raum zu rennen und die Tür abzuschließen, also selbst wenn die LLMs einen besseren Job beim Replizieren dieses Mülls machen würden, wäre es immer noch Müll, nur ein bisschen weniger seltsam.

> bei LinkedIn wissen wir, dass wir etwas bekommen ... das nicht völlig betrügerisch ist

Ein Beleg wird dringend benötigt.

Ich kann immer erkennen, wenn jemand ein LLM zum Schreiben verwendet und dem LLM nie den richtigen Kontext zum Schreiben gegeben hat (d.h. Schreibproben, Fähigkeitsdateien speziell fürs Schreiben usw.). Das sind auch die Leute, die dazu neigen, sich über den Schreibstil von KI zu beschweren. Du kannst ziemlich gute Ergebnisse erzielen, wenn du dir die Zeit nimmst, es abzustimmen. Tropen und dergleichen schleichen sich immer noch ein, aber wenn du dir die Zeit nimmst, Dinge zu bearbeiten und umzuarbeiten, wird es am Ende ein ziemlich guter Arbeitsablauf (besonders für Dinge, die eher prozedural als künstlerisch sind).