Anthropic baut ein prädiktives Überwachungssystem zur Beobachtung von Aktivisten auf
Anthropic Is Building a Predictive Surveillance System to Monitor Activists
Anthropic baut laut Stellenanzeigen und Interviews mit Sicherheitsverantwortlichen ein umfassendes Überwachungssystem auf, um Aktivisten zu beobachten, die gegen die schnelle Entwicklung von KI protestieren. Das Unternehmen verfolgt einen „Pre-Crime“-Ansatz, um Vorfälle vorherzusagen und Verdächtige gegebenenfalls vor einer Tat an die Polizei zu melden. Diese Pläne stehen im Widerspruch zu Anthropics Selbstinszenierung als verantwortungsvolle Alternative zu OpenAI.
Das Ziel wäre, den Betrieb von reaktiver Informationssammlung hin zu proaktiver, prädiktiver und präventiver Bedrohungsbearbeitung und -management umzugestalten.
- cldellow
Die Meinungsmache in diesem Artikel ist schon beachtlich.
Wenn ich die Meinungsmache herausfiltere, komme ich zu folgenden Schlussfolgerungen:
1. Jemand hat Claude erzählt, er habe ein AR-15 und der CEO von Anthropic sei "in ihrem Visier". Anthropic hat dies der Polizei gemeldet.
2. Anthropic hat einen Vertrag mit einer Sicherheitsfirma.
3. Anthropic will eigene Sicherheitskapazitäten aufbauen.
Anthropic hat offensichtlich hochwertige Ziele (siehe z. B. die Person mit dem AR-15 aus Punkt 1). Als ich in den 2000ern bei Microsoft arbeitete, hatten die auch eigene Sicherheitskräfte, um Bedrohungen gegen Einrichtungen und Führungskräfte zu untersuchen.
Ich würde glauben, dass Anthropic böse Dinge tut, aber ich denke nicht, dass dieser Artikel das tatsächlich behauptet, trotz des Bombasts über "Precrime".
- palmotea
Denkt dran, Leute: Anthropic sind die Guten! Sie kümmern sich um Moral, Alignment und Sicherheit! Also muss diese invasive Überwachung zur Unterdrückung von Dissens gut für uns sein!
KI ist der Traum eines jeden Autoritären. Die Zukunft ist rosig! Unser geliebter Führer Dario wird uns dorthin führen!
- slowin
> "Ich stimme zu, dass die Öffentlichkeit eine negative Meinung über KI hat (und dass das ein großes Problem ist), aber ich glaube nicht, dass sie in erster Linie von mir oder einem anderen KI-Führer verursacht wird, der vor den Risiken von KI warnt", schrieb Anthropic-CEO Dario Amodei letzten Monat auf Twitter. "Ich denke, es ist im Grunde eine Vertrauenskrise … Ich denke, dass normale Menschen Unternehmen, Regierungen oder der Tech-Branche nicht trauen und immer vermuten, dass wir uns irgendeine neue Methode ausdenken, um sie über den Tisch zu ziehen."
Sagt der Typ, der einen globalen Precrime-Überwachungsapparat aufbaut. Kein Wunder, dass die Leute ihm nicht trauen!
- vaylian
> "Diese zusätzliche Stunde war entscheidend. Ohne sie hätten unsere Führungskräfte ihre Meetings verlassen und wären direkt ins Herz der Störung gerannt."
> [..] "Was eine hochstressige Situation hätte sein können,"
Demokratischer Protest ist jetzt eine hochstressige Situation?
- woah
Sorry, dass ich hier die Party verderbe, aber unterscheidet sich das von der Sicherheit, die jedes große Unternehmen hat?
Die Anekdote in der Überschrift handelt davon, dass sie Führungskräfte aufgrund von Informationen aus einer öffentlich eingereichten Genehmigung um einen Protest herumgeleitet haben.
Die andere Anekdote handelt davon, dass sie einen Nutzer gemeldet haben, der eine Morddrohung ausgesprochen hat.
- hyperbolablabla
Ich kann es kaum erwarten, dass die britische Regierung anfängt, Dissidenten wegen Precrime zu verurteilen
- sleight42
Im Ernst? Hat niemand "der erste Schritt in Rokos Basilisk" gesagt???
- smalltorch
Aus dem Artikel geht nicht klar hervor, ob dies eine massenhafte Erfassung der gesamten Internetnutzung ist oder nur innerhalb ihrer eigenen Plattformen.