{"id":1242,"date":"2026-10-14T06:30:00","date_gmt":"2026-10-14T04:30:00","guid":{"rendered":"https:\/\/sascha.wiki\/?p=1242"},"modified":"2026-10-01T09:38:12","modified_gmt":"2026-10-01T07:38:12","slug":"wer-denkt-wenn-die-maschine-denkt","status":"publish","type":"post","link":"https:\/\/sascha.wiki\/de\/wer-denkt-wenn-die-maschine-denkt\/","title":{"rendered":"Wer denkt, wenn die Maschine denkt?"},"content":{"rendered":"\n<figure class=\"wp-block-image alignwide size-full s27-hero-art\"><img decoding=\"async\" src=\"https:\/\/sascha.wiki\/wp-content\/uploads\/2026\/10\/who-thinks-when-the-machine-thinks-illustration-sascha-schulz-1.webp\" alt=\"Collage-Illustration: Ein maschinenhafter Trainer mit Klemmbrett steht am Spielfeldrand, w\u00e4hrend ein menschlicher Spieler in Rostrot mit dem Ball \u00fcber das Feld l\u00e4uft.\" class=\"wp-image-1240\" width=\"2400\" height=\"1350\" fetchpriority=\"high\" srcset=\"https:\/\/sascha.wiki\/wp-content\/uploads\/2026\/10\/who-thinks-when-the-machine-thinks-illustration-sascha-schulz-1.webp 2400w, https:\/\/sascha.wiki\/wp-content\/uploads\/2026\/10\/who-thinks-when-the-machine-thinks-illustration-sascha-schulz-1-300x169.webp 300w, https:\/\/sascha.wiki\/wp-content\/uploads\/2026\/10\/who-thinks-when-the-machine-thinks-illustration-sascha-schulz-1-1024x576.webp 1024w, https:\/\/sascha.wiki\/wp-content\/uploads\/2026\/10\/who-thinks-when-the-machine-thinks-illustration-sascha-schulz-1-768x432.webp 768w, https:\/\/sascha.wiki\/wp-content\/uploads\/2026\/10\/who-thinks-when-the-machine-thinks-illustration-sascha-schulz-1-1536x864.webp 1536w, https:\/\/sascha.wiki\/wp-content\/uploads\/2026\/10\/who-thinks-when-the-machine-thinks-illustration-sascha-schulz-1-2048x1152.webp 2048w\" sizes=\"(max-width: 2400px) 100vw, 2400px\" \/><\/figure>\n\n\n\n<div class=\"wp-block-group s27-listen has-global-padding is-layout-constrained wp-block-group-is-layout-constrained\">\n<p class=\"s27-kicker wp-block-paragraph\">Anh\u00f6ren<\/p>\n\n\n\n<figure class=\"wp-block-audio\"><audio controls src=\"https:\/\/sascha.wiki\/wp-content\/uploads\/2026\/10\/sascha-schulz-audio-wer-denkt-wenn-die-maschine-denkt.mp3\" preload=\"none\"><\/audio><figcaption class=\"wp-element-caption\">H\u00f6rfassung \u00b7 gelesen von einer synthetischen Stimme<\/figcaption><\/figure>\n<\/div>\n\n\n<p class=\"wp-block-paragraph\">Ein K\u00fcchentisch am Sonntagabend, ausgedacht, aber nicht unwahrscheinlich. Eine F\u00fcnfzehnj\u00e4hrige hat zw\u00f6lf Algebra-Aufgaben f\u00fcr Montag auf und im Nachbartab einen Chatbot ge\u00f6ffnet. Zwanzig Minuten sp\u00e4ter ist alles gel\u00f6st, jeder Rechenschritt notiert. Die Sorge kommt drei Wochen sp\u00e4ter, im Klassenzimmer, die Laptops zugeklappt, als dieselbe Art Aufgabe auf dem Klausurbogen steht und die Rechenschritte nirgends zu finden sind. Zwischen beiden Szenen liegt, im Kleinen, die Frage, ob KI kritisches Denken st\u00fctzt oder still ersetzt.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Die These dieses Essays passt in einen Satz: <strong>Wer sein Denken an die Maschine abgibt, verliert genau die F\u00e4higkeit, die er braucht, um sie zu pr\u00fcfen.<\/strong> Die Maschine ist ein guter Trainer und ein schlechter Spieler.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Der Muskel, der erschlafft<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Forschende von Microsoft und der Carnegie Mellon University haben 319 Wissensarbeiterinnen und Wissensarbeiter nach 936 Situationen aus ihrem Berufsalltag befragt, in denen sie generative KI einsetzten. Das Muster war eindeutig: Je mehr die Befragten dem Werkzeug vertrauten, desto weniger kritisches Denken gaben sie an. Je mehr sie sich selbst zutrauten, desto mehr<sup>1<\/sup>. Das sind Selbstausk\u00fcnfte, keine Messungen, aber im B\u00fcro erkennt man sie wieder.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Am MIT Media Lab legte man Elektroden an. \u00dcber vier Monate schrieben 54 Teilnehmende Aufs\u00e4tze, manche mit einem Sprachmodell, manche ohne. Wer das Modell nutzte, zeigte die schw\u00e4chste Vernetzung im Gehirn, empfand am wenigsten Urheberschaft am eigenen Text und konnte kaum korrekt zitieren, was er gerade geschrieben hatte<sup>2<\/sup>. Ein kleiner Preprint, er beweist nichts. Aber er zeigt in eine unbequeme Richtung.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">H\u00e4rter sind die Befunde aus der Medizin. An vier Endoskopiezentren in Polen hatten sich \u00c4rztinnen und \u00c4rzte an KI-Unterst\u00fctzung bei der Darmspiegelung gew\u00f6hnt. Als sie wieder ohne sie arbeiteten, sank ihre Adenom-Detektionsrate von 28,4 % auf 22,4 %; die Studie umfasst 1.443 Patientinnen und Patienten<sup>3<\/sup>. Die Maschine hatte geholfen. Als sie den Raum verlie\u00df, zeigte sich, dass sie ein wenig zu gut geholfen hatte.<\/p>\n\n\n\n<figure class=\"wp-block-image size-full s27-infographic\"><a href=\"https:\/\/sascha.wiki\/wp-content\/uploads\/2026\/10\/infografik-wer-denkt-wenn-die-maschine-denkt.webp\"><img loading=\"lazy\" decoding=\"async\" width=\"1600\" height=\"1002\" src=\"https:\/\/sascha.wiki\/wp-content\/uploads\/2026\/10\/infografik-wer-denkt-wenn-die-maschine-denkt.webp\" alt=\"Wenn die Maschine fehlt oder irrt. Detektionsrate und Befundgenauigkeit, in %: vor und nach der Gew\u00f6hnung an KI sowie mit richtigem und falschem KI-Vorschlag. Endoskopie in Polen, Adenom-Detektion ohne KI: vor vs. nach der Gew\u00f6hnung an KI, von 28,4 % auf 22,4 %; Sehr erfahrene Radiologen: richtiger vs. falscher KI-Vorschlag, von 82 % auf 45,5 %; Unerfahrene Radiologen: richtiger vs. falscher KI-Vorschlag, von 80 % auf unter 20 %.\" class=\"wp-image-1241\" srcset=\"https:\/\/sascha.wiki\/wp-content\/uploads\/2026\/10\/infografik-wer-denkt-wenn-die-maschine-denkt.webp 1600w, https:\/\/sascha.wiki\/wp-content\/uploads\/2026\/10\/infografik-wer-denkt-wenn-die-maschine-denkt-300x188.webp 300w, https:\/\/sascha.wiki\/wp-content\/uploads\/2026\/10\/infografik-wer-denkt-wenn-die-maschine-denkt-1024x641.webp 1024w, https:\/\/sascha.wiki\/wp-content\/uploads\/2026\/10\/infografik-wer-denkt-wenn-die-maschine-denkt-768x481.webp 768w, https:\/\/sascha.wiki\/wp-content\/uploads\/2026\/10\/infografik-wer-denkt-wenn-die-maschine-denkt-1536x962.webp 1536w\" sizes=\"auto, (max-width: 1600px) 100vw, 1600px\" \/><\/a><\/figure>\n\n\n\n<h2 class=\"wp-block-heading\">Vertrauen ohne zweiten Blick<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Das zweite Risiko ist leiser: nicht mehr hinzusehen. In einer Studie unter Leitung der Uniklinik K\u00f6ln, erschienen in der Fachzeitschrift <em>Radiology<\/em>, befundeten 27 Radiologinnen und Radiologen aus Deutschland und den Niederlanden Mammografien mit Hilfe eines angeblichen KI-Systems. Schlug es die falsche BI-RADS-Kategorie vor, fiel die Trefferquote der Unerfahrenen von rund 80 % auf unter 20 %. Selbst die sehr Erfahrenen rutschten von 82 % auf 45,5 %<sup>4<\/sup>. Erfahrung sch\u00fctzt vor vielem. Vor einem selbstbewussten Kollegen, der zuf\u00e4llig aus Software besteht, sch\u00fctzt sie nicht.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">In einer Studie der University of Melbourne und von KPMG mit mehr als 48.000 Menschen in 47 L\u00e4ndern gaben 66 % der Besch\u00e4ftigten an, sich auf KI-Ergebnisse zu verlassen, ohne deren Richtigkeit zu pr\u00fcfen, und 56 % sagten, ihnen seien wegen KI Fehler bei der Arbeit unterlaufen<sup>5<\/sup>. Eine Metaanalyse von 106 Experimenten, im Oktober 2024 in <em>Nature Human Behaviour<\/em> erschienen, kam zu dem Ergebnis, dass Mensch und Maschine gemeinsam zwar besser abschneiden als der Mensch allein, im Schnitt aber schlechter als der jeweils St\u00e4rkere von beiden f\u00fcr sich<sup>6<\/sup>. Wer je in einem Ausschuss gesessen hat, braucht daf\u00fcr keine Metaanalyse.<\/p>\n\n\n\n<figure class=\"wp-block-pullquote\"><blockquote><p>Die Maschine ist ein guter Trainer und ein schlechter Spieler.<\/p><\/blockquote><\/figure>\n\n\n\n<h2 class=\"wp-block-heading\">Trainer, nicht Spieler<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Das lehrreichste Experiment stammt aus der T\u00fcrkei. Forschende der Wharton School gaben knapp 1.000 Sch\u00fclerinnen und Sch\u00fclern der Oberstufe Zugang zu GPT-4, um Mathematik zu \u00fcben. Eine Gruppe bekam eine offene Version, eine andere eine Tutor-Version, die Hinweise gab und L\u00f6sungen zur\u00fcckhielt. Beim \u00dcben stiegen die Ergebnisse um 48 % mit der offenen Version und um 127 % mit dem Tutor. Dann kam die Pr\u00fcfung ohne KI. Wer mit der offenen Version ge\u00fcbt hatte, schnitt um 17 % schlechter ab als eine Kontrollgruppe, die nie Zugang hatte. Die Tutor-Version vermied diesen Schaden weitgehend<sup>7<\/sup>.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Dasselbe Modell schw\u00e4chte die Jugendlichen, solange es selbst auf dem Platz stand. Am Spielfeldrand, mit Hinweisen statt eigener Tore, lie\u00df es ihr K\u00f6nnen unangetastet.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Japan hat diesen Gedanken in Amtssprache gefasst. Die Leitlinie des Bildungsministeriums zu generativer KI an Schulen, als Version 2.0 am 26. Dezember 2024 ver\u00f6ffentlicht, stellt den \u201emenschenzentrierten\u201c Einsatz an den Anfang. Den aktiven Gebrauch durch Lehrkr\u00e4fte h\u00e4lt sie f\u00fcr n\u00fctzlich, unter einer Bedingung: dass sie die Werkzeuge nur in dem Rahmen nutzen, in dem sie die Angemessenheit der Ergebnisse selbst beurteilen k\u00f6nnen<sup>8<\/sup>. Kurz gesagt: Die Erlaubnis, die Maschine zu nutzen, h\u00e4ngt an der F\u00e4higkeit, sie zu pr\u00fcfen.<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">Deutschland ist von dieser Bedingung noch ein St\u00fcck entfernt. Nach einer KPMG-Umfrage von 2025 hatten erst 20 % der Deutschen \u00fcberhaupt eine KI-Schulung absolviert, weltweit waren es 39 %; und 43 % nutzen KI-Werkzeuge, ohne die Ergebnisse zu hinterfragen<sup>9<\/sup>. Wer vor dem Abitur ein eigenes Stadtmagazin herausgebracht hat, wie der Autor, wei\u00df: Das Auge f\u00fcr eine falsche Zahl schult man, indem man Zahlen pr\u00fcft, nicht, indem man sie pr\u00fcfen l\u00e4sst.<\/p>\n\n\n\n<h2 class=\"wp-block-heading\">Ein wenig Zukunft<\/h2>\n\n\n\n<p class=\"wp-block-paragraph\">Man denke sich denselben K\u00fcchentisch im Jahr 2030. Der Chatbot, dann erheblich kl\u00fcger, ist so gebaut, dass er erst eine Gegenfrage stellt, bevor er antwortet. Ob sich diese Version durchsetzt, entscheiden weniger Ingenieure als Schulen, Arbeitgeber und wir alle, mit der Frage, was wir weiterhin selbst k\u00f6nnen wollen. Die Maschine darf am Spielfeldrand stehen, mit Klemmbrett, sie darf Muster sehen, die uns entgehen, und den n\u00e4chsten Spielzug hereinrufen. <strong>Auf den Platz geh\u00f6rt sie nicht.<\/strong> Das Spiel und die F\u00e4higkeit, es zu spielen, geh\u00f6ren dem, der noch denkt, wenn die Maschine fertig ist.<\/p>\n\n\n<!-- s27-lyrics-slot -->\n\n\n<h2 class=\"wp-block-heading s27-sources-title\">Quellen<\/h2>\n\n\n<ol class=\"wp-block-list s27-sources\">\n<li>Microsoft Research and Carnegie Mellon University (Lee, Sarkar, Tankelevitch, Drosos, Rintel, Banks, Wilson): <a href=\"https:\/\/www.microsoft.com\/en-us\/research\/publication\/the-impact-of-generative-ai-on-critical-thinking-self-reported-reductions-in-cognitive-effort-and-confidence-effects-from-a-survey-of-knowledge-workers\/\" rel=\"noopener\" target=\"_blank\">The Impact of Generative AI on Critical Thinking: Self-Reported Reductions in Cognitive Effort and Confidence Effects From a Survey of Knowledge Workers (CHI 2025)<\/a>, April 2025<\/li>\n\n<li>MIT Media Lab (Kosmyna et al.): <a href=\"https:\/\/www.media.mit.edu\/publications\/your-brain-on-chatgpt\/\" rel=\"noopener\" target=\"_blank\">Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task (preprint)<\/a>, 2025-06-10<\/li>\n\n<li>The Lancet Gastroenterology &amp; Hepatology (record via University of Warwick repository): <a href=\"https:\/\/wrap.warwick.ac.uk\/id\/eprint\/191005\" rel=\"noopener\" target=\"_blank\">Endoscopist deskilling after exposure to artificial intelligence in colonoscopy: a multicenter observational study (vol. 10, issue 10, pp. 896 to 903)<\/a>, October 2025<\/li>\n\n<li>Radiological Society of North America (study by Dratsch et al., Radiology): <a href=\"https:\/\/www.rsna.org\/media\/press\/i\/2432\" rel=\"noopener\" target=\"_blank\">AI Bias May Impair Radiologist Accuracy on Mammogram<\/a>, 2023-05-02<\/li>\n\n<li>University of Melbourne and KPMG: <a href=\"https:\/\/fbe.unimelb.edu.au\/newsroom\/media-release-global-study-reveals-trust-of-ai-remains-a-critical-challenge-reflecting-tension-between-benefits-and-risks\" rel=\"noopener\" target=\"_blank\">Trust, attitudes and use of Artificial Intelligence: A global study 2025 (media release)<\/a>, 2025-05-23<\/li>\n\n<li>Nature Human Behaviour (Vaccaro, Almaatouq, Malone, MIT Center for Collective Intelligence): <a href=\"https:\/\/www.nature.com\/articles\/s41562-024-02024-1\" rel=\"noopener\" target=\"_blank\">When combinations of humans and AI are useful: A systematic review and meta-analysis (vol. 8, pp. 2293 to 2303)<\/a>, 2024-10-28<\/li>\n\n<li>Proceedings of the National Academy of Sciences (Bastani, Bastani, Sungu, Ge, Kabakc\u0131, Mariman): <a href=\"https:\/\/ideas.repec.org\/a\/nas\/journl\/v122y2025pe2422633122.html\" rel=\"noopener\" target=\"_blank\">Generative AI without guardrails can harm learning: Evidence from high school mathematics (vol. 122, issue 26)<\/a>, July 2025<\/li>\n\n<li>Ministry of Education, Culture, Sports, Science and Technology (MEXT), Japan: <a href=\"https:\/\/www.mext.go.jp\/zyoukatsu\/ai\/about.html\" rel=\"noopener\" target=\"_blank\">\u751f\u6210AI\u306e\u5229\u7528\u306b\u3042\u305f\u3063\u3066: \u521d\u7b49\u4e2d\u7b49\u6559\u80b2\u6bb5\u968e\u306b\u304a\u3051\u308b\u751f\u6210AI\u306e\u5229\u6d3b\u7528\u306b\u95a2\u3059\u308b\u30ac\u30a4\u30c9\u30e9\u30a4\u30f3 Ver.2.0 (Guideline on the use of generative AI in primary and secondary education, Version 2.0)<\/a>, 2024-12-26<\/li>\n\n<li>KPMG Deutschland and University of Melbourne: <a href=\"https:\/\/kpmg.com\/de\/de\/medien\/pressemitteilungen\/2025\/05\/zwischen-alltag-und-sorge-zwei-drittel-der-deutschen-nutzen-ki-doch-nur-wenige-vertrauen-der-technologie.html\" rel=\"noopener\" target=\"_blank\">Zwischen Alltag und Sorge: Zwei Drittel der Deutschen nutzen KI, doch nur wenige vertrauen der Technologie<\/a>, 2025-05-12<\/li>\n<\/ol>\n","protected":false},"excerpt":{"rendered":"<p>KI hebt fast jede Arbeit auf ein h\u00f6heres Niveau. Der Haken: Wer aufh\u00f6rt, selbst zu denken, verliert genau die F\u00e4higkeit, mit der er die Maschine pr\u00fcfen k\u00f6nnte.<\/p>\n","protected":false},"author":1,"featured_media":1240,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[145],"tags":[],"class_list":["post-1242","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ki"],"_links":{"self":[{"href":"https:\/\/sascha.wiki\/de\/wp-json\/wp\/v2\/posts\/1242","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/sascha.wiki\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/sascha.wiki\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/sascha.wiki\/de\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/sascha.wiki\/de\/wp-json\/wp\/v2\/comments?post=1242"}],"version-history":[{"count":1,"href":"https:\/\/sascha.wiki\/de\/wp-json\/wp\/v2\/posts\/1242\/revisions"}],"predecessor-version":[{"id":1326,"href":"https:\/\/sascha.wiki\/de\/wp-json\/wp\/v2\/posts\/1242\/revisions\/1326"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/sascha.wiki\/de\/wp-json\/wp\/v2\/media\/1240"}],"wp:attachment":[{"href":"https:\/\/sascha.wiki\/de\/wp-json\/wp\/v2\/media?parent=1242"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/sascha.wiki\/de\/wp-json\/wp\/v2\/categories?post=1242"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/sascha.wiki\/de\/wp-json\/wp\/v2\/tags?post=1242"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}