Pirate Face、消えるLLMモデルをP2Pで永久保存
Pirate Face Rescues LLM Models from Deletion
Pirate Faceは、Hugging Face上のオープンモデルをチェックサム検証付きのトレントとしてミラーリングし、P2Pスウォームで保持する分散インフラだ。単一ホストがモデルを削除しても、シードする限りダウンロード可能。HF_ENDPOINTを切り替えるだけで既存パイプラインから使えるドロップインAPIも準備中。
HFが削除した日、web-seedは死に、ダウンロードはP2Pスウォームにフォールバックする。我々はそれを「Rescued」とマークする——それでも到達可能で、シードしている誰かによって生かされ続ける。
HNでの議論
144- wren6991
「検閲なしモデル」の観点について言うと、そもそもabliterated weightsを配布する理由はほとんどない。残差ストリームに書き戻す重みを直交化する代わりに、活性化そのものを直交化すればいい。これは等価だ。
実行時に活性化を直交化するのは計算コストが安い。拒否ベクトル（層あたり数千個のfloat）を配布して、あとは素の重みで実行するだけでいい。AntirezのDS4はすでにこれをサポートしている: https://github.com/antirez/ds4/blob/8db1d1d155cb0400a86a86b9...
Abliterated weightsは、我々が身につけてしまった単なる悪い習慣だ。また、すでにQATされて事前量子化形式で配布されているモデル（DeepSeek V4、Kimi K2.5やK3など）を取ってきて、その重みを変更し、再量子化するのは、精度の観点からも極めて最適とは言えない。同様に、abliteratedモデルはabliteration後に再量子化されると拒否行動の一部を取り戻す——これは両者を分離しておけば避けられる。
- phoyd
AIモデルの重みを配布するには、トレントが本当に好ましい方法であるべきだ。なぜHugging Faceのような単一障害点に頼るのか？BitTorrentはまさにこのために作られたのだ。
- mmaunder
編集：削除しました。自分がやっている研究について少し喋りすぎてしまい、その見返りとして、自分で見にも行かずに返信してくる人々からの反応が来て、それを反論するためにさらにサイクルを費やすことになる、などなど。なので、最初のステップに戻って、喋りすぎず、残りの部分に費やすはずだったサイクルを取り戻すのが最善です。確かに疲れていて腹も立っていますが、まあそういうことです。HNはこれを削除させてくれないので、削除編集というだけのことでしょう。すみません。
- mococa
SteamやBlizzard（おそらく他も）は、CDNが安くなる前は、過去にトレントプロトコルでゲームを配信していた。StarCraft 2が発売されたとき、インストーラー（Battle.netインストーラーのクソウェア以前）には、シーダーとリーチャーの完全なグラフィカル可視化があった。
- diner06
Pirate Faceで「diner06」のハンドルを取得しました。
Hugging FaceのAIモデルが決して死なず、トレントとして不滅化される場所です。
あなたも取得してください: https://pirateface.co/claim?ref=diner06
- JonChesterfield
これは本当に重要だ。私はすでに、huggingfaceのトレントのrcloneコピーを溜め込み、定期的にビットロットをチェックするのに疲れている。ただ、Piratefaceという名前はあまり役に立たないし、トレント作成をスクリプト化する機能もないようだ。
同じものを「academictorrents」でホストするのは実際に実行可能なのか？どちらかのピアが互いにデータを送るという意味で？
編集：そうでなければ共有されないトレントに対して、huggingfaceをバックストップとして扱えるようだ、これは興味深い。bittorrentがチェックサムを処理してくれれば、自分で手書きした大量のチェックサムのナンセンスが消える。ただし、それは機能しない？
マグネットは近日中 まだシーダーなし - トレントはシーダーがこのモデルをパッケージすると発行される。
つまり、トレントごとにやるべき作業があるが、それが何なのかわからないし、それがローカルにあるファイルに基づきつつ、huggingface上のファイルと完全に一致するなんてありえない。つまり、何かを見落としている。
編集2：実装エラーのようだ。ローカルファイルからトレントを作成してアップロードできるが、huggingfaceのバックストップは付かず、指定もできないので、主張されている結果は実際には達成されない。その方法でコミュニティトレントを作成することが実際に役立つ前に、投稿ページで上流を指定できるようにする必要がある。
また、全員がファイルのセット→トレント情報をDIYするのは正気の沙汰ではない。これはSKILLS.mdであるべきではなく、それを作るbashスクリプトであるべきだ。
- Scaled
このサイトは役に立つかもしれない。というのも、最近abliteratedモデルの提供者がhugging faceアカウントとメール収集を要求する傾向があるからだ。これはおそらく、提供者が人々にスパムを送るためで、他にあまり利点がないからだろう。Hugging faceも、使い捨てメールアドレスでのサインアップを難しくしてきており、検出するとサインアップ時に奇妙なエラーを投げる。ともあれ、このようなサイトはそうしたデータ収集をすべて回避するのに役立つと思う。
- mitxela
なぜサインアップシステムはそんなに複雑なのか？なぜ単にHFアカウントにログインして終わりにしないのか？人々にXとHNでスパムを強制して、彼らのXとHNアカウントが削除されるように仕向けているのか？