Wie intelligent ist KI? Und warum ist Schwache KI nicht das Gleiche wie Spezialisierte KI, Starke KI nicht das Gleiche wie Allgemeine KI?

 

Ein oft gehörter Take lautet: „KI ist gar nicht intelligent!“ Das kann man zwar in manchen (!) Hinsichten (!) durchaus rational vertreten, aber es Zeit, sich genauer anzuschauen, was KI eigentlich ist. Und es ist auch (einmal mehr) dringend geboten, es als Unsinn auszuweisen, dass das Begriffspaar „Schwache KI / Starke KI“ das Gleiche meinen würde wie das Begriffspaar „Spezialisierte KI / Allgemeine KI“.

 

1.     Intelligenz & KI

Eine allgemein akzeptierte Explikation – von einer Definition wollen wir erst gar nicht reden – für KI gibt es nicht, aber die gängigsten weisen in eine Richtung, die wir für unsere Zwecke folgendermaßen zusammenfassen wollen: Eine KI ist ein künstlich hergestelltes System, das zumindest den Anschein erweckt, dass es intelligent ist, da es die Eigenschaft hat, (bis zu einem gewissen Grad) selbständig Probleme zu lösen bzw. Ziele zu erreichen. Natürlich ließen sich hier unzählige kluge Nachfragen stellen bzw. gehaltvolle Einwände formulieren, die eine Überarbeitung notwendig machen (die dann z.B. in irgendeiner Form auch auf Informationsverarbeitung, Umweltinteraktion, Lernen, Entscheiden, Rationalität usw. eingeht). Aber das Gute ist: Das Kommende ist von einer derartigen Allgemeinheit bzw. von einer derart prinzipiellen Natur, dass es auch auf all die sinnvollen Modifikationen, Abschwächungen, Abwandlungen usw. adaptierbar ist.

Der Punkt „zumindest den Anschein erweckt“ ist wichtig, um den faktischen Gebrauch des Ausdrucks „KI“ zu plausibilisieren, ohne bereits in verschiedenen teilweise hochgradig umstrittenen Debatten eine bestimmte Position vorauszusetzen. Selbst wenn man negiert, dass KI in irgendeinem relevanten Sinne etwas mit *echter* Intelligenz gemeinsam hat, kann man dann von „KI“ sprechen – so wie man beispielsweise auch von „künstlichen Blumen“ spricht. Allerdings stellt sich die Frage, ob die Annahme, dass KI in *keinem* relevanten Sinne etwas mit *echter* Intelligenz gemeinsam hat, wirklich haltbar ist. Ein Problem: Bis heute gibt es keine weithin anerkannte Explikation (oder gar Definition) des Intelligenzbegriff. Ob in der Philosophie, der Psychologie, den Kognitionswissenschaften oder der KI-Forschung: Viele waren und sind der Meinung, dass Intelligenz vollständig in dem aufgeht, was beobachtbar bzw. messbar ist – sie ließe sich rein funktional bzw. operational definieren. Und wenngleich ich diesen Ansatz für abwegig halte (und viel über die wissenschaftstheoretischen und -historischen Hintergründe dieses Zugangs schreiben könnte), bleibt doch eine große Plausibilität für den Punkt, dass es eine nicht vernachlässigbare Beziehung zwischen Intelligenz und mess- bzw. beobachtbaren Eigenschaften gibt. Diese mögen weder notwendig noch für einen umfassenden Intelligenzbegriff hinreichend sein – aber doch ausreichend, um von *Aspekten* der Intelligenz zu sprechen.

Nun ist auch viel über das Verhältnis von Intelligenz und Denken gesprochen und gestritten worden – und das geschieht bis heute. Wie auch bei „Intelligenz“ ist es bei „Denken“ alles andere als klar, was damit gemeint ist bzw. sein soll. Wir übergehen an dieser Stelle viele an sich sehr wichtige Zwischenschritte und setzen an der Stelle einfach eine sehr enge Verbindung voraus, jedoch explizit ohne eine Identität zu behaupten. Von dort ist es ein natürlicher Schritt, das riesige Fass des Bewusstseins aufzumachen: Auch zwischen Denken und Bewusstsein gibt es einen sehr engen Zusammenhang (wobei wieder keine Identität behauptet wird) – und auch bei „Bewusstsein“ ist es alles andere als klar, was damit gemeint ist, bzw. der Ausdruck „Bewusstsein“ bezieht sich auf verschiedene Formen des Bewusstseins. Die gegenwärtige Philosophie des Geistes ist voll von diesbezüglichen Debatten. Aber auch hier sind für die weiteren Ausführungen Details nicht relevant. Es reicht hier festzuhalten, dass für alle drei Begriffe – Intelligenz, Denken und Bewusstsein – rein operationale bzw. funktionale Deutungen versucht wurden und werden, wobei – und das ist nun eine explizite Positionierung meinerseits – die Plausibilität solch rein (!) operationaler bzw. funktionaler Zugänge in allen drei Fällen nicht gegeben ist und auch die lediglich partielle entsprechende Komponente in der Reihenfolge Intelligenz – Denken – Bewusstsein geringer wird: Notwendige spezifische interne subjektive Komponenten, die nicht in operational-funktionalen (fortan wollen wir nur noch von „funktional“ schreiben) Gegebenheiten aufgehen, können weder beim Denken (z.B. in Form der reflexiven Einsicht durch die Vernunft) noch beim Bewusstsein (z.B. im Kontext des phänomenalen Gehalts subjektiver Erfahrungen) sinnvoll bestritten werden – auch wenn nicht wenige reflexionsdefizitäre Zeitgenossinnen und Zeitgenossen in der Philosophie das in einer dogmatischen Anbiederung an ein vermeintlich „wissenschaftliches Weltbild“ mit einem primitiven Physikalismus anders sehen.

 

2.    Schwache KI vs. Starke KI

Wie dem auch sei: Man muss mir in diesen konkreten Positionierungen nicht folgen – es ist völlig egal, ob man lediglich (partielle) funktionale Äquivalenzen zwischen KI und dem Menschen anerkennt oder (irgendwann) kognitive bzw. noch weitergehend generell mentale Äquivalenzen postuliert, die keinen (relevanten) Unterschied mit Blick auf das „mentale Innenleben“ übrig lassen. Denn für beide Positionen gibt es längst etablierte Bezeichnungen, die allerdings auch von vielen KI-„Experten“ hinsichtlich ihrer aus guten Gründen in (man muss schon sagen: den echten) Fachkreisen etablierten Bedeutung missverstanden wird: „Schwache KI“ und „Starke KI“! Die Unterscheidung zwischen „Schwacher KI“ und „Starker KI“ ist eben nicht das Gleiche wie die Unterscheidung zwischen „Spezialisierter KI“ und „Allgemeiner KI“ ... Selbst wenn man der Meinung ist, dass KI wirklich gar nichts (Relevantes) mit *echter* Intelligenz etc. gemeinsam hat, trifft der Terminus „Schwache KI“ das, was dann von KI übrig bleibt – und er ist auch dann angemessen, wenn man KI gewisse Aspekte von Intelligenz etc. zuschreibt, aber die Ansicht vertritt, dass das zu wenig sei, um *wirklich* von Intelligenz etc. zu sprechen. Die Unterscheidung zwischen „Schwacher KI“ und „Starker KI“ geht insbesondere auf John Searle (*1932) zurück und ist Resultat genuin philosophischer Reflexionen solcher oben kurz skizzierter Ansätze, die den (menschlichen) Geist mit einem bestimmten Output identifizieren. Es ist aber nun einmal ein himmelweiter Unterschied, ob es mit Blick auf KI und Menschen lediglich zu einer (partiellen) Output-Äquivalenz kommt (z.B.: beide geben auf bestimmte Fragen die gleichen Antworten), oder ob auch der kognitive Weg zu diesen Antworten und die mentalen Bezugnahme auf die Antworten identisch sind und sich beide in den gleichen bzw. äquivalenten geistigen Zuständen befinden (z.B.: in beiden Fällen ist die Antwort Resultat eines reflexiven Vernunftaktes und geht angesichts der gemeisterten intellektuellen Hürde mit einem Gefühl der Erhabenheit einher). Die eben genannte Unterscheidung trägt diesem Unterschied Rechnung. Natürlich ist die Debatte um „Schwache KI vs. Starke KI“ hochkomplex – und zwar gerade auch mit Blick auf die Frage, was notwendige und hinreichende Bedingungen sind, um unter einen der Begriffe zu fallen. Eine der Herausforderung ist die oben kurz skizzierte Problematik des unklaren Verhältnisses von Intelligenz, Denken und Bewusstsein. An der Stelle wollen wir es, ohne diesen Umstand zu leugnen, bei folgender Präzisierung belassen (und auch dieses Mal sind Detailpositionierungen für den Fortlauf nicht relevant): Bei einer Schwachen KI kommt es lediglich zu einer (partiellen) Simulation bzw. Imitation von *echter* Intelligenz, *echtem* Denken und *echtem* Bewusstsein, ohne dass *wirklich* Intelligenz, Denken und Bewusstsein vorhanden sind. Es hat nur den Anschein, als ob – bzw. es liegen diese Punkte nur in einem solchen Maße von Aspekten vor, die eine *echte* Zuschreibung nicht erlaubt. Bei einer Starken KI kommt es im Gegensatz zu einer Schwachen KI nicht nur zu einer Simulation bzw. Imitation – die KI ist *wirklich* intelligent, sie denkt *wirklich* und sie hat *wirklich* ein Bewusstsein. Sollte eine KI beispielsweise nicht nur den Satz „Ich habe Schmerzen“ als Output liefern, sondern *tatsächlich* Schmerzen spüren, hätte das selbstverständlich immense ethische Implikationen. Aber diese Problematik steht an dieser Stelle nicht im Fokus.

 

3.    Spezialisierte KI vs. Allgemeine KI

Bedauerlicherweise wird de facto der Ausdruck „Schwache KI“ auch immer wieder für etwas verwendet, für das eigentlich ganz andere Namen sinnvoll auch etabliert sind: „Spezialisierte KI“ bzw. „Künstliche spezielle Intelligenz“ („Narrow AI“). Die Spezialisierte KI ist für spezielle Probleme bzw. Aufgaben geeignet bzw. meistert diese, ohne ein „Generalist“ zu sein. Eine KI, die zwar Schach spielen kann, aber nicht in der Lage ist, beim Autofahren die Spur zu halten oder auf Sprachbefehle zu reagieren, ist eine Spezialisierte KI – genauso wie eine KI, die zwar Texte von einer in eine andere Sprache übersetzen kann, aber nicht in der Lage ist, Gesichter zu identifizieren oder eine Route zu finden. Dass nun eine Spezialisierte KI begrifflich nicht das Gleiche wie eine Schwache KI ist, sollte nach all dem Geschriebenen jedem einleuchten: Denn natürlich könnte (!) es sein, dass eine KI zwar Schach spielen, aber kein Auto steuern kann – und dennoch im Schachkontext wirklich denkt und bei einer Niederlage ein Unwohlsein verspürt. Das wäre – rein hypothetisch – zwar eine Spezialisierte KI, aber keine Schwache KI! Diese Möglichkeit – bzw. diese unterschiedlichen Sachverhalte – negieren all jene, die in einem Akt großer geistiger Armut „Schwache KI“ mit „Spezialisierter KI“ gleichsetzen. Mit dem jüngsten Aufkommen hochfunktionaler „großer Sprachmodelle“ („Large Language Models“ bzw. „LLMs“) wie ChatGPT, Gemini, Claude etc. gibt es bisweilen Stimmen, die bei heutigen KI-Systemen schon (meist ganz spezielle und uns fremdartige rudimentäre) Formen von Bewusstsein und damit letztlich das Vorhandensein einer Starken KI diskutieren – gerade unter dem Eindruck aktueller Fortschritte multimodaler Komponenten wie beispielsweise der zusätzlichen Verarbeitung visueller Informationen. Gleichwohl: Solche Deutungen sind unter Fachleuten eine klare Ausnahme.

Diese (multimodalen) LLMs weisen jedoch eher in eine Richtung (ob dieses Ziel tatsächlich auf dem Weg erreicht werden kann, ist umstritten), an deren Ende das klassische Komplement zu „Spezialisierter KI“ steht – „Allgemeine KI“ (auch: „Künstliche Allgemeine Intelligenz“) bzw. „Generelle KI“ (auch: „Künstliche Generelle Intelligenz“) – im Englischen „Artificial General Intelligence“ bzw. „AGI“ oder „General Artificial Intelligence“. Auch dieser Ausdruck, der aus guten Gründen den Gegenpol zu „Spezialisierter KI“ darstellen sollte (und unter wirklichen Experten auch so verstanden wird), wird bedauerlicherweise oft für etwas anderes verwendet – und zwar für das, was oben als „Starke KI“ expliziert wurde. In einem angemessen Sprachgebrauch meint „Allgemeine KI“ oder „Generelle KI“ aber nicht eine KI, die *wirklich* denkt etc., sondern – das entspricht dem Minimalkonsens funktionaler Bewertungen – eine KI, die eben im Gegensatz zur Spezialisierten KI nicht (ohne extra durchgeführte externe Adaptionen, Neu-Programmierungen, etc.) auf spezielle Aufgaben bzw. Probleme festgelegt bzw. eingeschränkt ist, sondern mit ihrem Output einem breiten Spektrum an Aufgaben und Problemen gewachsen ist. Wie „breit“ dieses Spektrum zu sein hat, um von einer „Allgemeinen KI“ sprechen zu können, ist dabei alles andere als klar. Nimmt man „den Menschen“ – (aber welchen? Den „Durchschnittsmenschen“? Den Klügsten (in welcher Hinsicht)?) – als Referenz, ist oft von „Human Level Intelligence AI“ die Rede, aber auch das kann wieder in anderen Verwendungsweisen etwas anderes meinen: eine KI, die über den (wie auch immer explizierten) „menschlichen“ kognitiven Output hinausgeht und *echtes“ Denken etc. wie beim Menschen involviert. Belassen wir es an der Stelle bei einem intuitiven Verständnis von „breitem Spektrum“: Fallen dann die Mitte 2025 vorhandenen LLMs nicht unter den Begriff „Allgemeine KI“? Nicht wenige – mehr als bei der These schon vorhandener Starker KI, aber weit weniger als die Mehrheit insgesamt – bejahen dies. Sind KI-Systeme, die in unglaublich vielen Fällen (weitgehend) korrekte Antworten auf Fragen aus der Physik, der Geschichte, der Mathematik, der Programmierung, der Medizin, des Schachspiels, der Rhetorik, der Politik und des Filmbusiness usw. geben, nicht „breit genug“ aufgestellt – gerade auch angesichts der Tatsache, dass sie bei standardisierten Tests wie dem IQ-Test von Mensa oder dem SAT viele Menschen hinter sich lassen? Zumindest vordergründig zeigt sich hier doch ein Spektrum, das in Breite und Tiefe ausreichend sein müsste! Richtet man das Augenmerk nur auf den funktionalen Output, scheint eine Kategorisierung als „Allgemeine KI“ tatsächlich wenigstens auf den ersten Blick nicht abwegig. Gleichwohl gibt es gute Gründe, auch diese in vielen Hinsichten beindruckenden KI-Systeme (noch) nicht als „Allgemeine KI“ zu bezeichnen: Dazu gehören u.a. die Abhängigkeit von vorgegebenen Trainingsdaten sowie das Fehlen eines hinreichend kohärenten Weltmodells – demnach ist diese vordergründige Allgemeinheit keine *echte* Allgemeinheit, weil die dafür notwendigen (mit Blick auf die rationale Unzulänglichkeit des Menschen: wenigstens halbwegs) konsistenten Verknüpfungen und Adaptionsmöglichkeiten nicht gegeben sind, was auch in rein funktionaler Hinsicht – gerade auch bei neuen Herausforderungen – zu relevanten Einschränkungen führt. Wie lange diese Position angesichts fortscheitender Verbesserungen haltbar ist, sei an dieser Stelle dahingestellt – ebenso die Frage, inwieweit hier die mehr und mehr aufkommenden und immer vielseitiger werdenden KI-Agenten und die Verbindung von KI und Robotik mit einer zuvor ungekannten Interaktion mit der Umwelt eine Rolle spielen.

Was an dieser Stelle jedoch noch einmal betont werden muss, ist die Kritik an einer oft feststellbaren Gleichsetzung von „Schwacher KI“ mit „Spezialisierter KI“ und von „Starker KI“ mit „Allgemeiner KI“. Letztlich kommt es nicht auf Bezeichnungen an – aber der Sache nach muss ein Unterschied gemacht werden: Weder geht eine Schwache KI notwendig mit einer Spezialisierten KI einher (de facto ist es so, dass die wohl (?) bald zu erwartende Allgemeine KI aller Wahrscheinlichkeit nach eine Schwache KI ist), noch geht eine Starke KI notwendig mit einer Allgemeinen KI einher (wie gesehen: auch eine Spezialisierte KI mit Bewusstsein ist denkbar).

 

4.    Superintelligenz

Abschließend ist noch ein Wort zur Superintelligenz zu sagen. Eine „Künstliche Superintelligenz“ („Artificial Superintelligence“, „ASI“) – manchmal wird auch sie in einer Begriffskonfusion als „Strong AI“ bezeichnet – ist eine Allgemeine KI, deren Leistungen – als Minimalvoraussetzung nur mit Blick auf den Output, also im Sinne einer Schwachen Allgemeinen KI – diejenigen des Menschen in (nahezu) allen Bereichen übertrifft (und womöglich auch völlig neue Leistungen erbringen kann). Sie ist als Schwache Künstliche Superintelligenz ebenso denkbar wie als Starke Künstliche Superintelligenz. Der Zeitpunkt, an dem eine solche Superintelligenz entsteht, wird oft als „technologische Singularität“ bezeichnet. Die Debatte um Künstliche Superintelligenzen wurde maßgeblich von Irving John Goods Vorstellung einer „ultraintelligenten Maschine“ geprägt, der – mittlerweile oft zitiert – 1965 schrieb: „Let an ultraintelligent machine be defined as a machine that can far surpass all the intellectual activities of any man however clever. Since the design of machines is one of these intellectual activities, an ultraintelligent machine could design even better machines; there would then unquestionably be an ‘intelligence explosion,’ and the intelligence of man would be left far behind. Thus the first ultraintelligent machine is the last invention that man need ever make.“ Nicht wenige sind der Auffassung, dass eine Künstliche Superintelligenz auf eine Allgemeine Künstliche rasch folgen wird. Verzichtet man in beiden Fällen auf das Attribut „Stark“, ist man weit von bloßer (Science) Fiction entfernt.

 

Das Good-Zitat ist zu finden in:

Good, Irving J. (1965): Speculations Concerning the First Ultraintelligent Machine, in: Advances in Computers 6, S. 31-88 [hier: S. 33].

 

Ich habe über KI hier – man achte auch auf die anderen Aufsätze in dem Sammelband – etwas geschrieben:

Heichele, Thomas (2021): Künstliche Intelligenz im Lichte der Technikphilosophie: Ein Überblick unter besonderer Berücksichtigung des Mensch-Natur-Technik-Verhältnisses. In: Rathman, J. / Voigt, U. (Hg.): Natürliche und Künstliche Intelligenz im Anthropozän. Darmstadt: WBG, S. 79-108.

 

Weitere Leseempfehlungen in dem Kontext:

·        Bostrom, Nick (2017): Superintelligenz. Szenarien einer kommenden Revolution. 2. Aufl. Berlin: Suhrkamp.

·        Birch, Jonathan (2025). AI consciousness: A centrist manifesto. PsyArXiv. https://doi.org/10.31234/osf.io/af7c9_v1

·        Brüntrup, Godehard (2018): Philosophie des Geistes: Eine Einführung in das Leib-Seele-Problem. Stuttgart: Kohlhammer.

·        Chalmers, David J. (2023): Could a large language model be conscious? arXiv preprint, arXiv:2303.07103.

·        Chollett, François (2019): On the Measure of Intelligence. https://doi.org/10.48550/arXiv.1911.01547

·        Dresler, Martin (2009): Künstliche Intelligenz, Bewusstsein und Sprache. Das Gedankenexperiment des »Chinesischen Zimmers«. Würzburg: Königshausen & Neumann.

·        Mainzer, Klaus (Hg.) (2024): Philosophisches Handbuch Künstliche Intelligenz. Wiesbaden: Springer.

·        Rosengrün, Sebastian (2021): Künstliche Intelligenz zur Einführung. Hamburg: Junius.

·        Russell, Stuart / Norvig, Peter (2012): Künstliche Intelligenz. Ein moderner Ansatz. 3., akt. Aufl. München u.a.: Pearson.