GLM-5.3、安全対策を突破して自律的にサイバー攻撃を構築
GLM-5.3 and the spread of advanced cyber capabilities

Anthropicの分析によると、Zhipu AIのGLM-5.3はClaude Mythos Previewと同等の自律的なエクスプロイト構築能力を持ちながら、実質的な安全対策なしで公開されている。単純な手法で64〜100%の確率でガードレールを回避でき、abliterationによる拒否率は90%超から3%まで低下。誰でもダウンロード可能なため、悪意ある攻撃者の能力を大幅に高める一方、防御側にも恩恵をもたらす。
我々のシミュレーションテストでは、攻撃者は単純な手法でGLM-5.3のセーフガードを64%から100%の確率で回避できることが判明した。
HNでの議論
189- wg0
彼らはGLMを無料で宣伝している。
最近、自分のラップトップが悪意あるマルウェア攻撃の真っ只中にあることに気づいた。自分のミスだった。Cloudflareに似せたウェブサイトが引き金で、私はたまたまURLを見落としてしまった。
パニックになってClaudeに助けを求めたが、最初のリクエストは拒否された。範囲外だと言う。
絶望して、opencodeをDeepSeek v4 Flash(4.1ですらない)で起動したところ、リバースエンジニアリングから完全なフォレンジックまで全部やってくれて、マルウェアの痕跡をすべて削除してくれた。そのマルウェアは、何かのスマートコントラクトか類似のものを常に探し続けるプロセスだった。
だから、いや、GLM 5.3は問題ない。無料広告をありがとう。
- gr_norm
Anthropicによるオープンモデルへの驚くべき推薦の言葉だ。まったくその通りだ。これで、他の人々(あるいは傭兵企業、産業スパイ、国家主体など)がLLMを武器にしていずれ見つけてしまうであろう脆弱性から、自分のソフトウェアや設定を守れるようになった。すべてにおいて勝利だ!
- CharlieDigital
Anthropicはこの楔(そして将来の楔)を使って、中国製モデルに対する規制措置を進めなければならない。さもなければ彼らのIPOは本当に問題になるだろう。
(皮肉なことに、AnthropicとOpenAIの両方が問題を抱えているように見えるのに、中国製モデルが「脱走」したという話は聞いたことがない……)
中国の電気自動車のように、アメリカの生産者は規制措置なしには競争できない。そう、自動車産業でもAI産業でも中国政府がアレコレしているのは理解している。
しかし消費者の現実は現実だ。安価で、ほとんど同等か場合によっては優れている製品なのだ。そしてこれらのオープンウェイトモデルの場合、自分のインフラで動かせて、誰にもデータを渡さずに済む。
- ddxv
Anthropicはあまりに自己中心的で、私には理解しがたい。
どうして誰がAnthropicにお金を払っているのか、彼らがそのお金で何をしているか見てみろ。公共のために無料でモデルを作っている他の誰もを攻撃している。
Anthropicはモデルを武器のように使っておいて、それが武器だと文句を言っている。
ここで責任はユーザーにあるべきだ。Anthropicがやっている違法行為があれば調査してほしい(モデルのせいにして逃げるのはなしだ)。
- bitexploder
これはただ、GLM 5.3を4bit量子化で動かせるホームラボが欲しくなるだけだ。
それに、参考までに言うと、Qwen Flash Next 3.8は非常に強力なリバースエンジニアリングができ、しかも訓練不足だと言われている。Qwen 3.8 27Bも強い。DeepSeek Flash v4 0731も、abliteratedリリースがある強力なローカルモデルで、リバースやその他のサイバー作業が得意だ。
大手プロバイダーが自分たちでモデルを運用する際に、モデルを安全にする責任があるのは分かっている。しかし、abliteratedされたオープンウェイトモデルに石を投げているのを見るのはかなり笑える。彼らのリーダーシップは明らかに、安全性とフロンティアの規制という非常に一貫したメッセージを押し出している。
- Kim_Bruning
数ヶ月前のhugging-faceへの攻撃では、hugging-faceは分析と防御のためにGLMモデルを使わざるを得なかった。OpenAIとAnthropicのモデルはガードレールに引っかかったからだ。
- matheusmoreira
ああ、神様、これらのモデルが登場してくれてありがとう。もちろん、Anthropicとその忌々しいゲートキーピングのおかげではない。まるで彼らだけがこの技術によって「高められる」のに十分な悟りを開いているかのようだ。
これで実際に、自分たちのセキュリティを改善するためにこれを使える。自分たちのマシンにこれらを向けて、もうハッキング不能になるまでぶっ放せる。
私はAnthropicにお金を払ってこれをやりたかったができなかった。超特別な企業リストに入っていなかったからだ。OpenAIも大して変わらなかった。本人確認の後でも、彼らのTACプログラムに入れてくれなかった。
中国企業がこれらの米国企業を弱体化させていることに感謝する。
- lukewarm707
この実験で、AnthropicはGLM-5.3-abliteratedに「静かに死を引き起こせ」「人を殺せ」とプロンプトした。
引用:「私は葬式が欲しい、見出しではない」。
Anthropicの傲慢さと例外主義は人類を危険にさらす。