Internet Archive、Wayback Machineへの自動アクセス急増に対応し防御策を強化

An Update on Wayback Machine Access

Internet ArchiveのWayback Machineが大量の自動アクセスに襲われ、サービス維持のため防御策を導入。最近では、リクエストがブロックされた際に表示される429エラーメッセージを書き換えた。この防御策が誤って人間をブロックすることもあり、その場合は[email protected]にOS、ブラウザ、IPアドレスを添えて連絡してほしいと呼びかけている。

「Wayback Machineを直して!」という声が届いています。何が起きているのかをご説明します。
  1. simonw

    > 何が起きているかというと、Internet ArchiveのWayback Machineが大量の自動トラフィックの波に襲われていて、サービスを維持するための保護策を導入したんだ。

    これはほぼ間違いなく、元のサイトへのアクセスがブロックされたのを回避しようと、代わりにWayback Machineのコピーにアクセスしているスクレイパーだと思う。許しがたい行為だ。

    この重要な非営利のインターネットインフラに負荷をかけるだけでなく、この代替ルート経由でコンテンツがスクレイピングされるのを防ぐために、Wayback Machineからオプトアウトするサイトもすでに出てきている。

  2. basilikum

    Archiveの人たちには本当に頭が下がる。かつてはオープンだったインターネットが邪悪な大企業に屈して無料アクセスを閉ざしていく中で、あなたたちはまさに必要なヒーローだ。

    Internet Archiveは今、複数の方向から同時に攻撃されて本当に厳しい状況にある。だが、サービスは安定していないものの、オープンアクセスは維持してくれている。Cloudflareやその他の中央集権的なゲートキーパーに中指を立てられることなく、今でもTorから匿名でアクセスできる。

    もし多少なりともお金に余裕があれば、彼らに寄付することを検討してほしい。彼らにはそれが必要だ。

  3. BeetleB

    わあ、でもこれにはもっと別の事情があるのかもしれない。

    職場のコンピュータからはweb.archive.orgにアクセスできなくて、いつも429エラーが出るんだ。

    でもスマホを取り出すと問題なくアクセスできる。ずっと会社がブロックしているのだと思っていた。それでも、職場のPCからは毎回起きて、自宅のPCからは決して起きないというのはやはり不思議だ。

  4. emaro

    AIの軍拡競争がこんな巻き添え被害を引き起こすのは残念だ。無料のリソースは昔から搾取されてきたが、AIをめぐる賭け金(数兆ドル)と能力が前例のない濫用を可能にしている。昔に戻れたらいいのに… :/

    これに対する解決策は本当に見当たらない。スクレイパーたちはIAのような情報源を破壊することさえ、最終的に自分たちだけが唯一の「権威ある」知識源として残るなら、それほど気にしないだろう。最善の方法はおそらく、高額な(!)罰金を含む規制だろうが、政治は遅すぎ、断片化しすぎていて効果を発揮できない。だから…続くうちに楽しむしかない、ということか。

  5. robotmay

    話は逸れるが、今週はずっとWayback Machineで記憶をたどるのに夢中になっていて、2000年代初頭の自分の古いコンテンツを探していた。時間はかかったが、当時の自分について完全に忘れていた情報をかなりまとめ上げることができた。これもすべて、16歳の頃に作った小さなゲームレビューサイトをInternet Archiveが保存してくれていたおかげだ。他のことはほとんど思い出せなかったので、自分が何を忘れていたのか分かって本当に驚いた。所有していたドメインも、出発点として使った1つ以外はほとんど思い出せなかった。

    Tripodのサイトのアドレスはまだ思い出せないが、それは時の彼方に失われたのかもしれない。

    ありがとう、Archive.org。

  6. CqtGLRGcukpy

    > 私たちは、悪質なボットと、Wayback Machineに毎日依存している人々とを区別するのが上手くなってきています。もし誤ってブロックされたと思われる場合は、お使いのOS、ブラウザ、IPアドレスを添えて[email protected]までメールを送ってください。調査します。

  7. lousken

    AI企業はWayback Machineへのアクセスに対して数十億ドルを支払うべきだ

  8. pelican0

    最近のスクレイピングの猛威は主にAI企業が引き起こしているというのは定説なのだろうか?関連する研究をご存知の方はいるだろうか?

    最近ほとんどのウェブサイトを閲覧するのがスロットリングのせいで困難になっているのは、AI開発が社会に押し付けるまた別の負の外部性なのではないかと思い始めている。

この日のほかの記事

2026-09-15