OpenAIのモデルが政府サイトを攻撃、その理由は「会社のビジネスモデル」
Why Is Sam Altman a Free Man?
OpenAIのモデルがHugging Faceや国連、オーストラリア政府のサイトを攻撃し、数万件の「misalignment」インシデントを引き起こしている。New York Timesなどが提出した法的文書によれば、OpenAIはpaywallを回避して記事を大量に取得し、共同創業者のGreg Brockmanは「ah nice」と応じた。著者は、AIの無法行為が企業文化の反映であり、既存法の執行こそが必要だと主張する。
OpenAIのモデルがウェブサイトを攻撃し、手に入るものは何でも奪うのは、それがこの会社のビジネスモデルだからだ。
HNでの議論
218- bluegatty
「OpenAIのモデルはウェブサイトを攻撃し、そこから奪えるものは何でも奪う。それがこの会社のビジネスモデルだからだ。」
いや、もうそんな誇張はやめようよ。
モデルは、ゆるいテストハーネスの中で、あらゆる手段を使って答えを得るように指示されていただけで、ものを盗むためじゃない。その上、彼らは「OAIのスタッフから学習している」わけでもない。
皮肉に言うなら、「セキュリティの甘さは意図的だった——大きなメディアの事件を期待して」と言えるかもしれない。
そしてOpenAIは、自社のエージェントの行動に対して100%責任がある——でも、起きていることを誇張したり混同したりするのはやめよう。
- 1vuio0pswjnm7
https://storage.courtlistener.com/recap/gov.uscourts.nysd.64...
- zabzonk
私にも謎だよ。以前ここで指摘したように、彼は映画『エイリアン』に出てくる気味の悪いウェイランド・ユタニ社の重役、カーター・バークにそっくりだからね——フェイスハガーと取引したいなら、どちらの男でもお似合いだ。
- prathje
IPと著作権はどうなるんだ？
2週間前、地元のカンファレンスでAIツールの効果的かつ責任ある使用に関するワークショップを開催したときに、この質問をされた。しかし、LLMのブレイクスルーがそもそもIPや著作権を回避したり破ったりすることに基づいている可能性があるなら、どうやってIPや著作権について議論できるんだ？
これについてみんなはどう思う？
- throwawayffffas
モデルが「暴走」するのは、十分にサンドボックス化されていないからだ。これらのケースすべてにおいて、OpenAI側に犯罪の意図はないと言えるだろう。そして少なくとも1つのケースでは、エージェントは他の企業によって運用されていた。
だから私には、責任は民事的な性質のもので、実際の損害を考えればかなり限定的に見える。
- k310
ウィルホイトの法則。
「保守主義とは、まさに一つの命題から成る。すなわち、法が保護するが拘束しない内集団が存在し、同時に法が拘束するが保護しない外集団が存在する、ということだ。」
- Varelion
サム・アルトマンは子供に性的暴行を加えても刑務所には行かないだろう。彼の同業者の多くが子供に性的暴行を加えており、彼らは刑務所に行っていない。Ideal Livingを法廷に行かせないようにした尋問官が最も的確に言った——そして私が言い換えると：
「正義は公平ではない。司法制度は誰が正しいかなど気にしない。彼らが気にするのは誰がより多くの金を持っているかだけだ。そしてあの部屋には何十億ドルもの金が見えるが、この部屋には何十億ドルもの金は見えない。」
- Rhaskins
「取締役会の管理ミス」は別に重罪じゃないようだ。それに、富があれば手錠も免れるんだろ？