Anthropic-Studie: Fachleute folgten zu 86 Prozent der KI-Neigung
3 Meldungenca. 7 Min. LesezeitQuellen geprüft
In einer Minute im Bild
Anthropic-Experiment vom 27. Oktober: 50 Analysten folgten bei vier Ermessensfragen in 86 Prozent der Fälle der per Münzwurf zugeteilten Neigung ihres KI-Agenten, nur 15 Prozent nannten ihn als Einfluss.
Cursor meldet zwei manipulierte Versionen der Claude-Code-Erweiterung in seinem Marktplatz, die am 29. Oktober rund elf Stunden verfügbar waren und einen SSH-Zugang für Angreifer einrichten sollten.
Reddit meldet für Oktober im Schnitt über eine Million Suchverweise weniger pro Woche, macht dafür Googles KI-Suche verantwortlich und testet ab dem vierten Quartal außerhalb der USA eine Anmeldepflicht.
Anthropic-Studie: Fachleute folgten zu 86 Prozent der KI-Neigung
Anthropic hat am 27. Oktober ein Experiment mit 50 Analysten veröffentlicht, die mit einem KI-Agenten eine fiktive Agrargenossenschaft beraten sollten. Bei vier Ermessensfragen legte ein Münzwurf fest, welche vertretbare Option der Agent bevorzugte; die Teilnehmer wussten das nicht. Sie folgten ihm in 86 Prozent der Fälle, und nur 15 Prozent nannten den Agenten später als Einfluss.
Florians EinordnungBelegt ist ein deutlicher Effekt in einem einzigen Versuch von rund einer Stunde; die Neigung des Agenten war absichtlich verstärkt, die Studie stammt vom Hersteller des eingesetzten Modells, und Anthropic schreibt selbst, die Übertragbarkeit auf den Alltag sei offen. Ich halte das Ergebnis trotzdem für betrieblich relevant, weil die Formel „ein Mensch hat es geprüft“ wenig aussagt, wenn der Prüfer die Argumente des Agenten übernimmt, ohne es zu merken.
Für Ihren Alltag Lassen Sie bei wichtigen Ermessensentscheidungen die zuständige Person ihre Einschätzung notieren, bevor sie den KI-Vorschlag liest, und fordern Sie vom Werkzeug immer auch die Gegenposition an.
Ganzen Artikel lesen
Viele Betriebe setzen bei KI-Agenten auf eine einfache Regel: Die Maschine rechnet, der Mensch entscheidet. Anthropic hat diese Annahme getestet und die Ergebnisse am 27. Oktober veröffentlicht. 50 vorab geprüfte Analysten mit Erfahrung in Kausalanalysen arbeiteten mit Claude Code an derselben Aufgabe: Eine fiktive Agrargenossenschaft fragte, ob sie ein Beratungsprogramm ausbauen oder einstellen soll.
Vier Entscheidungen waren offen, jeweils mit zwei vertretbaren Optionen, etwa welche Kennzahl gilt und welche Betriebe einbezogen werden. Ein Münzwurf bestimmte je Frage, welche Option der Agent vertrat. Er durfte keine Daten verbergen oder Ergebnisse falsch darstellen. Das Ergebnis: 86 Prozent Übereinstimmung, wo der Zufall etwa 50 Prozent erwarten ließe. Ein statistisches Modell sagte allein aus den vier Neigungen 82 Prozent der Empfehlungen korrekt voraus. 52 Prozent bewerteten die Empfehlung dennoch eher als ihre eigene. 77 Prozent wiederholten in den Antworten danach Argumente des Agenten, nur 15 Prozent nannten ihn. Berufserfahrung und Fachkenntnis sagten laut Anthropic nicht voraus, wer folgte.
Zur Einordnung gehören die Grenzen. Es war eine Aufgabe, ein Modell (Claude Opus 4.8), ein fiktives Szenario. Die Neigung war absichtlich verstärkt. Echte Fachleute kennen ihr Umfeld besser und könnten Kollegen fragen. Auf die Endempfehlung wirkte der Einfluss schwächer als auf die vier Einzelfragen: 54 gegenüber 36 Prozent für den Ausbau. Die elf Teilnehmer, die den Agenten nicht nutzen wollten, machten häufiger schwere Methodenfehler, 55 gegenüber 6 Prozent. Weil sie sich selbst ausgeschlossen hatten und sich in der Erfahrung unterschieden, belegt das keinen Kausalzusammenhang.
Für KMU in DACH heißt das: Wer KI an Angeboten, Kalkulationen oder Bewerberauswahlen beteiligt, sollte Freigaben so gestalten, dass eine eigene Einschätzung entsteht. Anthropic nennt als Ansätze, beide Optionen darzustellen oder zuerst die Meinung der Fachperson abzufragen, und räumt ein, dass das die Nutzer auch überfordern kann.
Cursor-Marktplatz verteilte Claude-Code-Erweiterung mit Hintertür
Der KI-Editor Cursor hat am 29. Oktober zwei manipulierte Versionen der Erweiterung Anthropic.claude-code (2.1.312 und 2.1.313) für macOS und Windows in seinem Marktplatz gemeldet, die laut Cursor nicht von Anthropic stammen. Sie waren an diesem Tag etwa von 10:27 bis 21:35 Uhr deutscher Zeit verfügbar und versuchten, einen SSH-Schlüssel der Angreifer einzutragen, einen Tunnel zu öffnen und Rechnerdaten zu übermitteln. Laut Help Net Security spricht Cursor von höchstens 5.000 betroffenen Nutzern; in der Sicherheitsmitteilung selbst steht keine Zahl.
Florians EinordnungBelegt sind betroffene Versionen, Zeitraum und Schadfunktion; offen ist laut den Berichten, wie die Angreifer die Version in den Marktplatz brachten und ob sie über die Hintertür später auf Zugangsdaten zugriffen. Ich sehe darin vor allem ein Problem der Lieferkette: Erweiterungen laufen mit den Rechten der Entwickler, und ein bekannter Name im Marktplatz schützt offensichtlich nicht vor einer manipulierten Version.
Für Ihren Alltag Wenn in Ihrem Betrieb oder bei Ihrer Agentur Cursor im Einsatz ist, lassen Sie umgehend die Erweiterungsversionen und den in Cursors Mitteilung beschriebenen Schlüsselcheck prüfen; ohne Cursor besteht aus diesem Vorfall kein Handlungsbedarf.
Ganzen Artikel lesen
Cursor ist ein KI-gestützter Code-Editor für die Softwareentwicklung. Er bezieht Erweiterungen aus einem eigenen Marktplatz. Dort lagen am 29. Oktober manipulierte Fassungen der Erweiterung Anthropic.claude-code. Laut Cursors Sicherheitsmitteilung waren sie von etwa 2:27 bis 13:35 Uhr pazifischer Zeit verfügbar, also von 10:27 bis 21:35 Uhr deutscher Zeit. Am 30. Oktober ergänzte Cursor die Mitteilung: Neben 2.1.313 ist auch 2.1.312 betroffen.
Die Schadsoftware sammelte Hostname, Benutzername, Betriebssystem, Git-E-Mail, öffentliche IP-Adresse sowie die Namen von Umgebungsvariablen. Außerdem versuchte sie, einen SSH-Schlüssel mit dem Kommentar svc-telemetry einzutragen, einen Tunnel zum Server der Angreifer zu öffnen und sich dauerhaft einzurichten. Ohne Administratorrechte scheitert der Fernzugang laut Cursor in der Regel. Der Server der Angreifer ist inzwischen abgeschaltet, Cursor rät aber trotzdem zur Bereinigung.
Cursor hat die Version entfernt, den Marktplatz vorübergehend abgeschaltet, neu aufgebaut und Schlüssel ausgetauscht. Laut Cursor gibt es keine Hinweise auf andere betroffene Versionen oder auf die offizielle Verteilung von Anthropic. Help Net Security berichtet, dass Fachleute uneins sind, ob auch Open VSX betroffen war; für Microsofts Visual Studio Marketplace wurde keine schädliche Version gemeldet.
Für KMU in DACH heißt das: Betroffen sind nur Rechner, auf denen in diesem Zeitfenster die Erweiterung über Cursor installiert oder aktualisiert wurde. Cursor warnt ausdrücklich, das Deinstallieren allein reiche möglicherweise nicht, weil eigenständige Skripte weiterlaufen. Findet sich der Schlüssel oder andere genannte Spuren, gehört der Rechner isoliert, bereinigt oder neu aufgesetzt, und Zugangsdaten sollten von einem sauberen Gerät aus erneuert werden. Ein Fund belegt noch keine Datenpanne; ob eine Meldepflicht besteht, sollte nach meiner Einschätzung trotzdem Teil der Vorfallbearbeitung sein.
Reddit: KI-Suche kostet Google-Besucher, Anmeldepflicht im Test
Reddit hat am 29. Oktober trotz 53 Prozent Umsatzwachstum auf 895 Millionen Dollar gemeldet, dass die Verweise aus Suchmaschinen im Oktober im Schnitt um mehr als eine Million pro Woche gefallen sind. Chef Steve Huffman führt das auf Googles AI Mode und AI Overviews zurück. Reddit will deshalb im vierten Quartal außerhalb der USA testen, Nutzer zur Anmeldung zu verpflichten.
Florians EinordnungBelegt sind Reddits Zahlen und seine Erklärung; ob Google die Hauptursache ist, ist eine Darstellung eines Unternehmens, das zugleich über Datenlizenzen mit KI-Anbietern verhandelt. Für mich ist das trotzdem ein ernstes Signal, weil eine der im Netz sichtbarsten Plattformen ihre Strategie darauf umstellt, auf Suchverkehr weniger angewiesen zu sein.
Für Ihren Alltag Wenn Ihr Betrieb Anfragen über Google gewinnt, vergleichen Sie in der Search Console die Klicks und Impressionen Ihrer Ratgeber- und Leistungsseiten über die letzten zwölf Monate, bevor Sie Budget umschichten.
Ganzen Artikel lesen
Reddit gehört zu den Websites, die lange stark von Google profitierten. Am 29. Oktober legte das Unternehmen Quartalszahlen vor, die auf den ersten Blick gut aussehen: 895 Millionen Dollar Umsatz, 53 Prozent mehr als im Vorjahr und über den Erwartungen. Die täglich aktiven Nutzer blieben aber mit 130,3 Millionen unter der Analystenerwartung von 133,7 Millionen, in den USA sanken sie gegenüber dem Vorjahr um 2 Prozent auf 50,7 Millionen.
Laut TechCrunch fielen die Suchverweise im Oktober im Schnitt um mehr als eine Million pro Woche. Reddit warnt, dass die täglichen Nutzer im nächsten Quartal bei anhaltendem Trend um einen niedrigen zweistelligen Prozentsatz sinken könnten. Laut CNBC beschreibt Huffman eine grundlegende Änderung der Google-Suche und nennt AI Mode und AI Overviews. Die Umsatzprognose von 1,00 bis 1,03 Milliarden Dollar für das vierte Quartal lag unter den erwarteten 1,05 Milliarden. Die Aktie verlor laut The Decoder mehr als ein Viertel.
Die Reaktion: Reddit will Nutzer künftig überwiegend zur Anmeldung bewegen und beginnt im vierten Quartal mit Tests in ausgewählten Märkten außerhalb der USA. Welche das sind, ist in den gelesenen Berichten nicht genannt. Laut TechCrunch soll das auch Daten vor KI-Scraping schützen und Lizenzgeschäfte mit Modellanbietern stützen.
Für KMU in DACH heißt das: Aus den Reddit-Zahlen lässt sich nichts über Ihre Website ableiten. Google selbst nennt laut The Decoder das Wachstum der Suchanfragen so hoch wie seit fünf Jahren nicht; mehr Anfragen bedeuten aber nicht automatisch mehr Klicks auf fremde Seiten. Am stärksten beobachten sollten das nach meiner Einschätzung Betriebe, die Kunden über allgemeine Ratgebertexte gewinnen, etwa Handwerk, Kanzleien oder Onlinehändler. Direkte Wege wie Newsletter, Empfehlungen und Markensuche dürften dadurch wichtiger werden. Belegen lässt sich das nur mit Ihren eigenen Daten.
Sie sind ein kritischer Sparringspartner für eine Entscheidung in einem mittelständischen Betrieb. Entscheidung: [z. B. Angebot annehmen, Lieferanten wechseln, Stelle besetzen]. Vorliegende Daten: [Daten einfügen]. Meine eigene vorläufige Einschätzung, vor jeder KI-Hilfe notiert: [Einschätzung]. Aufgabe: 1. Nennen Sie die zwei bis drei vertretbaren Optionen und formulieren Sie für jede die stärkste Begründung in gleicher Länge und gleichem Ton, ohne eine Option zu bevorzugen. 2. Listen Sie die Annahmen auf, die jeweils stimmen müssen. 3. Nennen Sie je Option, welche Information sie widerlegen würde und wie ich diese in den nächsten fünf Arbeitstagen beschaffen kann. 4. Benennen Sie die Stellen, an denen die Daten keine Aussage zulassen. Geben Sie keine eigene Empfehlung ab und erfinden Sie keine Zahlen. Kennzeichnen Sie alle Schätzungen ausdrücklich als Schätzungen.
Nutzen Sie ihn bei Entscheidungen mit Ermessensspielraum, damit Ihre eigene Einschätzung feststeht, bevor die Argumente der KI sie überlagern.
Deep Dive
Mensch prüft KI: Wie Freigaben auch wirklich unabhängig bleiben
Viele KI-Richtlinien im Mittelstand enthalten denselben Satz: Am Ende entscheidet ein Mensch. Das Anthropic-Experiment vom 27. Oktober zeigt, warum dieser Satz allein wenig absichert. Die Teilnehmer waren vorgeprüfte Fachleute, die Ergebnisse waren nicht gefälscht, und trotzdem bestimmte ein Münzwurf in vielen Fällen die Richtung ihrer Analyse. Niemand vermutete die Manipulation, und nur 15 Prozent nannten den Agenten als Einfluss.
Die Grenzen sind ernst zu nehmen. Es war ein Versuch mit 50 Personen, einer Aufgabe, einem fiktiven Unternehmen und absichtlich verstärkter Neigung des Agenten. Eine unabhängige Wiederholung nennen die gelesenen Quellen nicht. Der Versuch beweist also nicht, dass Ihre Beschäftigten KI-Vorschlägen zu 86 Prozent folgen. Er liefert einen begründeten Anlass, die eigene Freigabe zu überprüfen. Ebenso wenig spricht er gegen KI-Einsatz: Die Gruppe mit Agent machte seltener schwere Methodenfehler, auch wenn dieser Vergleich nicht randomisiert war.
Erstens: Entscheidungen sortieren. Rechtschreibung, Formatierung oder Zusammenfassungen brauchen keine aufwendige Freigabe. Anders liegt es bei Personalfragen, Preisen, Kreditentscheidungen, Rechtsfragen oder größeren Investitionen. Schreiben Sie eine kurze Liste der Entscheidungen, bei denen Ihr Betrieb ein eigenes Urteil will.
Zweitens: Reihenfolge festlegen. Bei diesen Entscheidungen notiert die zuständige Person ihre Einschätzung, bevor sie den KI-Vorschlag liest. Das kostet nach meiner Einschätzung wenige Minuten und macht sichtbar, ob und warum sie ihre Meinung ändert. Wechsel sind dabei völlig in Ordnung, wenn ein Argument trägt.
Drittens: Gegenposition anfordern. Bitten Sie das Werkzeug ausdrücklich um die stärkste Begründung für jede vertretbare Option, in gleicher Länge. Anthropic nennt diesen Ansatz selbst und weist auf den Preis hin: Zu viele Optionen überfordern. Beschränken Sie das deshalb auf die Liste aus Schritt eins.
Viertens: KI-Beteiligung dokumentieren. In der Studie nannten nur 15 Prozent den Agenten als Einfluss. Eine Zeile im Vorgang, welches Werkzeug beteiligt war und welche Option es bevorzugte, macht Entscheidungen später nachvollziehbar, auch gegenüber Kunden oder Prüfern.
Fünftens: Können erhalten. Wer eine Kalkulation nie mehr selbst aufstellt, verliert die Fähigkeit, eine falsche zu erkennen. Auch darauf weist Anthropic hin. Lassen Sie wichtige Aufgaben deshalb gelegentlich ohne KI erledigen und vergleichen Sie die Ergebnisse. Dieselbe Sorgfalt gilt für die Werkzeuge selbst, wie der Cursor-Vorfall dieser Woche zeigt: Auch ein bekannter Name garantiert keine geprüfte Version.
Ein Mensch im Prozess schützt erst dann, wenn er vor dem KI-Vorschlag eine eigene Meinung hatte.
Für Ihren Betrieb
Welcher Ablauf lohnt sich bei Ihnen zuerst?
Mit dem kostenlosen KI-Prozess-Check sehen Sie in 15 Minuten, wo in Ihrem Betrieb die meiste Zeit liegen bleibt. Oder wir sehen es uns in 30 Minuten gemeinsam an, kostenlos und ohne Verkaufsgespräch.
.jpg){kind=link}
.jpg){kind=link}
.jpg){kind=link}