Open-Source-Projekte verbannen KI-generierte Beiträge
OSS projects banning AI-generated contributions
Immer mehr Open-Source-Projekte verbieten Beiträge, die mit LLMs oder generativer KI erstellt wurden. Eine Übersicht listet bekannte Repositories wie immich, meilisearch, Servo, QEMU und Gentoo Linux, die solche Inhalte ablehnen. Die Richtlinien reichen von Verboten für Code und Dokumentation bis hin zu vollständigen Verboten für alle Beiträge, einschließlich Tests, Issues und Übersetzungen. Viele Projekte kennzeichnen KI-generierte Inhalte als „tainted“ und drohen bei Verstößen mit Sperren.
Inhalte, die von großen Sprachmodellen oder ähnlicher Technologie wie Copilot, ChatGPT oder Llama generiert wurden, gelten als belastete Inhalte und dürfen nicht eingereicht werden.
- Arbortheus
Ich habe Sympathie für die OSS-Maintainer, und ich sehe das nicht rein als „Ludditen“-Verhalten.
Ich vermute, das Problem ist nicht unbedingt die KI-Generierung selbst, sondern die Schwierigkeit, jemanden zu unterscheiden, der die Problemdomäne wirklich verstanden hat, von jemandem mit LLM-induziertem „Dutch Courage“.
Das in Kombination mit einem starken Anstieg des Volumens an Community-Interaktionen (Issues, PRs, …) birgt das Risiko, OSS-Maintainer auszubrennen.
Vielleicht ist es das Motiv, ein paar Monate/Jahre zu warten, bis der Ansturm abebbt und die Leute bessere Best Practices für die Nutzung dieser Tools etabliert haben.
- jcfrei
Ich wette, dass diese Projekte KI-Beiträge haben. Die regulären Beitragenden kennen ihre Codebasis einfach viel besser und können die KI anweisen, Änderungen vorzunehmen, die den Richtlinien entsprechen. Die KI-Beiträge, die sie verbieten, brechen wahrscheinlich Code-Stile, Konventionen, sind zu umfangreich usw. und schaffen dadurch mehr Arbeit, als sie Probleme lösen. Ich denke, der ehrlichere Ansatz für viele dieser Projekte wäre, Beiträge auf bestimmte Konten zu beschränken – aber das würde wahrscheinlich ihr egalitäres Verständnis der Codeentwicklung verletzen.
- maxloh
Ich glaube nicht, dass das ein guter Trend ist.
Projekte wie Servo oder Redox OS sind community-getrieben und haben bereits Finanzierungsprobleme. KI-unterstützten Code zu blockieren, wird nur potenzielle Beitragende vertreiben.
Einige Projekte haben starke Communities rund um KI-unterstützte Entwicklung aufgebaut. Die T3 Code Community [0] zum Beispiel ist sehr aktiv, und die meisten PRs werden mit LLM-Unterstützung erstellt.
Die eigentlichen Probleme sind die Offenlegung und die Übernahme von Verantwortung für die eigenen Einreichungen, einschließlich des sorgfältigen Lesens und Testens des eigenen Codes. Von Menschen geschriebener Code ist in keiner Weise inhärent besser.
- koalalorenzo
Das ist super hilfreich, um Projekte auszuwählen. Ich lege wirklich Wert auf von Menschen verfassten Code, Qualität, und ich vermeide es, wenn möglich, Tools zu verwenden, die vibe-coded sind. Open-Source-Projekte drehten sich schon immer um Wissensaustausch und gemeinsames Bauen, und ich bin ein wenig traurig zu sehen, dass KI und LLMs übernehmen.
Kürzlich suchte ich ein selbstgehostetes Tool zur Reiseplanung und löschte es nach einem Tag, weil es extrem vibe-coded war und keines der in GitHub gemeldeten Sicherheitsprobleme jemals behoben wurde. Es kann nur einen Prompt entfernt sein, um sie zu beheben! Ich habe das viel zu oft in OSS bemerkt, das vibe-coded ist: Die Leute konzentrieren sich auf Aussehen und Gefühl, und der Code wird nicht ausreichend überprüft, weil er „mit den CSS-Verläufen gut aussieht“ und „ein LLM immer recht hat“.
Also verstehe ich, warum sie KI-/LLM-Beiträge verbieten und verbannen würden, und ich bin froh, dass sie sie verbannen, ich nehme an, hauptsächlich für den Seelenfrieden der Maintainer und um sicherzustellen, dass Wissensaustausch und etwas bessere PR-Reviews stattfinden. Ich werde immer ein von Menschen gemachtes Projekt einem KI-/LLM-codierten vorziehen.
- staminade
Einige davon sind irreführend. Immich zum Beispiel akzeptiert keine PRs, die mit einem LLM erstellt wurden, aber das Projekt hat eine Agents-Datei und es gibt Claude-mitverfasste Commits in der Historie.
- mik1998
Ich glaube, das wird bedeuten, dass etablierte FOSS-Software sich deutlich verbessern wird, dank der Nutzung von KI zum Finden von Fehlern und von menschenüberprüftem Code, während kommerzielle Programme deutlich unzuverlässiger werden, weil sie zu 100 % KI-generiert sind, mit einem Fokus auf LOC/Token-Quoten statt auf irgendeine Qualitätsmetrik.
- benrutter
Ich denke, es gibt viel Gegenwind dagegen, aber basierend auf meiner Erfahrung mit Open-Source-Projekten scheint es ziemlich vernünftig.
Es ist eine enorme Arbeit, ein Projekt mit einer großen Anzahl von Beiträgen zu pflegen, insbesondere Dinge wie sicherzustellen, dass die PRs nicht vom ursprünglichen Design abdriften.
Eine Menge PRs zu haben, die nicht aus einem vollständigen Verständnis der Codebasis stammen und das Projekt in etwas Inkonsistentes abdriften lassen, ist für die meisten Projekte ein viel größeres Risiko als „nicht schnell genug neue Features auszuliefern“.
Also bitte stellt diese Leute nicht als „einen Haufen Ludditen dar, die KI nicht verstehen“ – sie tun einfach ihr Bestes, um ein erfolgreiches Projekt in einer sich schnell verändernden Welt zu pflegen, die wir alle zu verstehen versuchen.
- jlengrand
Autor hier. Dies ist ein frühes Projekt. Ich habe gesehen, dass Projekte, die KI verbannen, ziemlich oft auf HN auftauchen, und war neugierig zu sehen, wie groß der Trend ist.
Ja, dies ist ein vibe-coded Projekt, ich bin einfach neugierig zu sehen, wie groß der Trend ist, und auch zu untersuchen, wie Leute das Schreiben über KI-Beiträge in ihren Projekten handhaben.
Ich beabsichtige nicht, daraus irgendwelche Schlüsse zu ziehen. Der Domainname ist hauptsächlich ein Wortspiel mit „computer says no“.