KI – intelligent ist sie nicht!

Heute investieren Firmen, Verwaltungen und Bildungseinrichtungen viel Geld und Ressourcen in aktuelle Computertechnologien, die durch Künstliche Intelligenz (KI) möglich gemacht werden. Sie sollen Routinearbeiten übernehmen, Texte schreiben, programmieren, Krankheiten diagnostizieren, Probleme analysieren und Entwicklungen prognostizieren. In Schulen und Universitäten sollen KI-Programme personalisierte Lernprozesse möglich machen. Während manche Menschen diese Entwicklung euphorisch stimmt, schauen andere besorgt in die Zukunft, haben Befürchtungen wegen ihrer Arbeitsplätze, (und nicht wenige wittern leicht verdientes Geld durch neue Betrugsmöglichkeiten mittels noch nicht entdeckter Sicherheitslücken). Ein Grund, sich den aktuellen Problemstellungen anzunähern.¹

Künstlich? Schon – aber nicht intelligent

Der Begriff Künstliche Intelligenz trifft eigentlich den Kern der Sache nicht mit der nötigen Sorgfalt, denn von Intelligenz kann in diesem Zusammenhang keine Rede sein. Geprägt wurde der Begriff 1955 von vier US-amerikanischen Computerwissenschaftlern, die ihn für einen Antrag zur Finanzierung einer Studie verwendeten.² Treffender wäre es, von Simulierter Intelligenz (SI) zu sprechen, denn KI simuliert oder täuscht menschliches Lernen vor. Bei Künstlicher Intelligenz geht es aber lediglich um die technische Verarbeitung bereits vorhandener Daten, um Antworten auf von Benutzern eingegebene Fragen (Prompts) zu erstellen. KI verwendet dazu ein sogenanntes Large Language Model (LLM), das bei jedem Schritt – nicht nach festen Regeln, sondern nach Wahrscheinlichkeiten – entscheidet, welches Wort als nächstes kommen sollte. Also nichts von eigenständigen Überlegungen und Ideen! Deshalb kann KI lediglich als Werkzeug(!) in einem sorgfältig gestalteten, überprüf- und überwachbaren Kontext sinnvoll und verlässlich eingesetzt werden. Sie kann sich wiederholende Routinearbeiten übernehmen und plan- und automatisierbare Abläufe erleichtern und beschleunigen. Vorausgesetzt ist immer eine hohe Qualität von Menschen eingegebener Eingangsdaten (z.B. durch präzise Fragen), so dass KI mit ebenfalls von Menschen exakt definierten Parametern reagieren kann. Da mag uns KI durch Effizienz verblüffen. Doch schöpft sie stets als «statistischer Papagei» aus Vergangenem, wie der Autor und Medienwissenschaftler Matthias Zehnder treffend anmerkt. 

Eine glattgebürstete Oberfläche

KI funktioniert also auf einer rein mathematischen Ebene, auf die auch Satzbau, Grammatik, Deklination und Konjugation umgeformt werden. Sie wertet riesige Datenmengen und Muster statistisch aus. Dazu steht ihr die Hardware des Computers zur Verfügung, mit einem Prozessor, der rechnet, einer Festplatte, die Daten speichert, und einigen speziellen Chips, die das Herumschieben von Daten und das Steuern des Bildschirms bewerkstelligen. Programme «sagen» den Bauteilen der Hardware, was sie zu tun haben. Doch bleibt KI stets auf der Zeichenebene, das heisst, an der Oberfläche von Sprache. Vor diesem Hintergrund kann sie mögliche Wortverbindungen und die Fortsetzung einer Wortreihe erstellen. So erzeugte Texte mögen auf den ersten Blick beeindrucken – auch wenn der Inhalt unsinnig und falsch sein kann. Es braucht den Menschen, der ihn auf Bedeutung und Wahrheitsgehalt überprüft und verantwortet. Vielleicht hat KI geschrieben: «Er hat seiner Freundin einen Strauss rosaroter Rosen gebracht». Richtig – aber KI weiss nicht, was sie schreibt, denn die Bedeutungsebene von Sprache bleibt ihr verschlossen. Sie hat keine Vorstellung davon und kann sprachlich nicht in Worte fassen, wie es ist, die schönsten Rosen auszusuchen, ihren Duft zu riechen, die samtenen Blütenblätter zwischen den Fingern zu spüren und sich an der zarten Farbe zu freuen. Sie hat noch nie erlebt, wie das Herz höherschlägt, weil die Augen des geliebten Menschen leuchten, wenn er die Blumen in den Händen hält. Das in Worten ausdrücken kann nur der Mensch. Er ist Meister darin, Gedanken, Wünsche und Erfahrungen in Worte zu fassen, ihnen Sinn zu geben und mit Erlebtem und Erfahrenem – mit unserem Leben und der Welt – in Verbindung zu bringen. Deshalb bleibt KI eine «mit Algorithmen hantierende Maschine aus Blech und Silizium».³

Stopp – falsch gedacht

In Zusammenhang mit dem Thema der Künstlichen Intelligenz sind heute verschiedene Fehlschlüsse üblich. Gerade die Fähigkeit von KI, schnell und sprachlich eloquent auf Eingaben (Prompts) zu reagieren, kann Nutzer dazu verleiten, den Erzeugnissen von KI zu vertrauen und ihr sogar menschliche Eigenschaften zuzuschreiben. Vergessen wird dabei, dass sie einfach ein künstliches Netzwerk mit Millionen künstlicher Synapsen ist. Sie ist auch kein Computerprogramm, das einem klaren Code folgt, der sich, falls nötig, korrigieren lässt. Die Entscheidungslogik bleibt oft auch für Fachleute undurchsichtig. Das leuchtet jedem KI-Nutzer ein, wenn er realisiert, dass KI selbst bei identischen Eingaben unterschiedliche Ergebnisse ausspuckt oder sich devot entschuldigt, wenn sie die Frage nach den zugrundeliegenden Quellen nicht beantworten kann. 

Unendlich viel Strom und drängende ethische Fragen

Die Daten, die KI braucht, werden ohne Beachtung von Urheberrechten aus dem Internet gezogen. Sie müssen mittels GPUs (Graphic Processing Units)⁴ über mehrere Monate nachbearbeitet, das heisst, zur Verwendbarkeit «trainiert» werden. Dann erst sind die Voraussetzungen für ihren Einsatz in KI-Modellen geschaffen. Bei dieser Nachbearbeitung kommen gleichzeitig Tausende, teilweise sogar Zehntausende von GPUs zum Einsatz. Das ist mit einem unglaublich grossen Bedarf an Elektrizität verbunden – und dem Risiko, dass Elektrizität zunehmend zur knappen Ressource wird. Es erstaunt deshalb nicht, dass die grossen Technologiefirmen bereits heute in Energiequellen investieren – und auch den Bau von Kernkraftwerken fordern –, um sich den Strom für den eigenen Bedarf zu sichern. Mit viel Lobbying verleihen sie ihren Interessen Nachdruck und versuchen, geplante Regulierungen zu verhindern. Es geht um viel Macht und Geld! Diese politische und wirtschaftliche Ebene bleibt heutigen KI-Nutzern oft verborgen. Viele von ihnen sind begeistert von den neuen technischen Möglichkeiten und beeindruckt von der Schnelligkeit und dem (scheinbar) unendlich grossen Wissen von KI. Die Entwicklung immer neuerer Möglichkeiten von KI geht in den letzten Jahren sehr schnell voran. Seit längerem wird zum Beispiel erforscht und getestet, wie KI ihre Abläufe verselbständigen und eigenaktiv Prozesse steuern kann. Wohin wird das führen? Mit solchen Forschungen und Projekten sind viele sehr ernste ethische Fragen verbunden. Nicht nur ist KI heute sehr leicht zugänglich und wird in Firmen, Universitäten und von Schulen genutzt. Auch die Waffenindustrie nutzt sie für die Entwicklung unbemannter Tötungsmaschinen, die in den heutigen Kriegen zum Einsatz kommen. Das muss uns zu denken geben. 

Mut zur Lösung ungelöster Fragen

Genau das wird in der heutigen Euphorie oft «übersehen» – Ideologie und Propaganda vernebeln den Blick. Um so mehr bedarf es des Menschen, der als soziales Wesen mit menschlicher Klugheit, Empathie, Intuition und Kreativität Verantwortung übernimmt und beurteilen kann, ob und wie die neuen technischen Errungenschaften der Menschheit dienen können. Das braucht die Offenheit, bei ungelösten Fragen und überraschend auftauchenden Problemen in die Breite zu denken. Es erfordert den menschlichen Dialog, die gleichwertige Auseinandersetzung, Begeisterung, die aus dem Interesse für eine gemeinsame Sache entsteht, und den Mut, entstandenen Ideen Raum zur Umsetzung zu geben. Diese Notwendigkeit einer dem menschlichen Wohl verpflichteten Grundlage von KI kommt auch in einem Interview⁵ mit Frau Dr. rer. nat. Ladan Pooyan-Weihs, Professorin und Dozentin an der Hochschule Luzern (Informatik), zum Ausdruck, als sie gefragt wird: «Wenn so viele Fachleute vor Gefahren warnen, muss was Wahres dran sein, oder nicht?» Ihre Antwort: «Technische Fortschritte sind erfreulich, aber oft missverstanden, wie etwa die Behauptung, KI könne Krankheiten heilen. Vielmehr werden KI gezielt auf eine bestimmte Problemstellung hin programmiert. Sie sind präziser, schneller, unermüdlicher als Menschen. Doch haben sie kein Bewusstsein, keine Moralfähigkeit und vieles mehr, das uns Menschen ausmacht.» Und als sie weiter gefragt wird, ob es quasi einen Hippokratischen Eid für Informatikerinnen und Informatiker – ein Gelöbnis für digitale Ethik – brauchen würde, meint sie: «Den gibt es bereits, nur ist er nicht bindend: Der ‹Holberton-Turing-Eid› [siehe Kasten] für Entwicklerinnen und Entwickler von Algorithmen stellt die Menschlichkeit über die Technik. Wir sind noch weit davon entfernt, dass ein derartiger Eid zum Beispiel bei einem Staatsexamen abgelegt würde. Es gibt nur Einzelinitiativen, aber keine umfassenden, weltweit verbindlichen Richtlinien. In Frankreich kenne ich zum Beispiel die Initiative ‹Data for Good›.»⁶ Damit spricht sie entscheidende ethische Fragen an, die sich in Zusammenhang mit der Entwicklung von Künstlicher Intelligenz ergeben. Eine Aufgabe, die heute nicht einmal im Ansatz gelöst ist und dringend angegangen werden muss! Dazu gehört auch die Rückbesinnung auf die Grundlagen und Errungenschaften unserer Kultur. Das wäre auch eine Antwort auf die Frage des ungarischen Pianisten, Dirigenten und Musikpädagogen András Schiff im Programmheft der Tonhalle: «Was die Kunst ausmacht, sind die nicht messbaren Elemente – Inspiration, Stimmungen, alles, was nicht analysierbar ist. Die ‹Künstliche Intelligenz› saugt alle Informationen auf wie ein Superschwamm, aber es gibt nicht ein Atom von Originalität, nur Imitation. … Da hat der Mensch keinen Wert mehr. Dazu kann ich nicht applaudieren. Wozu macht man das?»⁷ •

Quellen: 
    Eine wichtige Quelle für diesen Artikel war die Webseite https://www.matthiaszehnder.ch/ und das 2019 erschienene Buch «Die digitale Kränkung» des Medienwissenschaftlers und Autors Matthias Zehnder. Sie sind eine Fundgrube für alle Interessierten. 

¹ Im folgenden wird es vor allem um von KI erstellte Texte gehen und die damit verbundenen Grundfragen. Sie betreffen aber in gleicher Weise die
Bilderstellung durch KI-Tools.

² Salathé, Marcel. Kompass Künstliche Intelligenz. Ein Reiseführer durch eine Welt in verrückten Zeiten. Lachen: Wörterseh, 2025, S. 27

³ Zehnder, Matthias. 2019. S. 113

⁴ GPUs sind spezialisierte Computerchips, die ursprünglich für Computer-Grafik entwickelt wurden. Die US-Firma Nvidia besitzt nahezu das Monopol auf GPUs und gehört zu den wichtigsten Firmen der Welt.

⁵ Bonin, Gabriela. Künstliche Intelligenz gibt es eigentlich nicht. hub.hslu.ch/informatik/kunstliche-intelligenz-gibt-es-nicht-wichtig-ist-digitale-ethik/

⁶dataforgood.fr

⁷Programmheft Tonhalle Zürich. Konzert vom 17. Januar 2026. Interview mit dem Künstler Sir András Schiff

ep. Der Holberton-Turing-Eid wurde 2018 von der französischen Digitalwissenschaftlerin und Unternehmerin Aurélie Jean (*1982) und dem belgisch-amerikanischen Informatiker und Unternehmer Grégory Renard (*1975) verfasst. Sie entwickelten diesen ethischen Kodex, inspiriert vom Hippokratischen Eid, um ein gemeinsames ethisches Fundament für Fachleute für Künstlichen Intelligenz zu schaffen. Er wurde nach den beiden Informatik-Pionieren Frances Elizabeth «Betty» Holberton (1917–2001) und Alan Mathison Turing (1912–1954) benannt, denen ethische Prinzipien für ihren Fachbereich wichtig waren. Das Dokument kann laufend ergänzt werden durch Beiträge von KI-Experten, Philosophen, Ökonomen, Führungskräften und Bürgern.

Holberton-Turing-Eid

Als Mitglied der Berufe der Datenwissenschaft und Künstlichen Intelligenz gelobe ich feierlich, mein Leben in den Dienst der Menschheit zu stellen:

Menschlichkeit&Ethik:

• Ich werde stets grössten Respekt vor dem menschlichen Leben wahren.
• Ich werde nicht zulassen, dass Erwägungen wie Alter, Krankheit oder Behinderung, Glaubensbekenntnis, ethnische Herkunft, Geschlecht, Nationalität, politische Zugehörigkeit, religiöse Überzeugungen, Rasse, sexuelle Orientierung, sozialer Status oder irgendein anderer Faktor meine Pflicht beeinträchtigen.
• Ich werde mein Wissen nicht dazu nutzen, Menschenrechte und bürgerliche Freiheiten zu verletzen, auch nicht unter Androhung von Gewalt.

Datenwissenschaft, Kunst der Künstlichen Intelligenz,
Datenschutz und personenbezogene Daten:

• Ich werde die hart erkämpften wissenschaftlichen Errungenschaften derjenigen Wissenschaftler und Ingenieure respektieren, in deren Fussstapfen ich trete, und mein Wissen gerne mit denen teilen, die nach mir kommen werden.
• Ich werde daran denken, dass Künstliche Intelligenz sowohl eine Kunst als auch eine Wissenschaft ist und dass menschliche Belange wichtiger sind als technologische.
• Ich werde die Privatsphäre der Menschen respektieren, denn ihre persönlichen Daten werden nicht an Systeme der Künstlichen Intelligenz weitergegeben, damit die Welt davon erfährt.
• Ich werde mir stets vor Augen halten, dass ich es nicht mit trockenen Daten, blossen Nullen und Einsen zu tun habe, sondern mit Menschen, deren Interaktion mit meiner Software für Künstliche Intelligenz die Freiheit, die Familie oder die wirtschaftliche Stabilität des Einzelnen beeinflussen kann.
• Ich werde die mir anvertrauten Geheimnisse respektieren.

Tägliche Arbeit&Etikette:

• Ich werde meinen Beruf mit Gewissen und Würde ausüben.
• Ich werde die Ehre und die edlen Traditionen des Berufsstands der Datenwissenschaft und Künstlichen Intelligenz fördern.
• Ich werde meinen Lehrern, Kollegen und Schülern den ihnen gebührenden Respekt und die ihnen gebührende Dankbarkeit entgegenbringen.
• Ich werde mein Wissen zum Wohle der Menschen und zur Weiterentwicklung von Data Science und Künstlicher Intelligenz teilen.
• Ich werde die Auswirkungen meiner Arbeit auf die Gerechtigkeit berücksichtigen, sowohl in bezug auf die Aufrechterhaltung historischer Verzerrungen, die durch die blinde Extrapolation von Vergangenheitsdaten auf zukünftige Vorhersagen verursacht werden, als auch in bezug auf die Schaffung neuer Bedingungen, die die wirtschaftliche oder andere Ungleichheit erhöhen.
• Ich gebe diese Versprechen zur Entwicklung Künstlicher Intelligenz, um mit den Menschen zum Wohle aller zusammenzuarbeiten, anstatt die Rolle des Menschen an sich zu reissen und ihn zu ersetzen.

Ich gebe diese Versprechen feierlich, freiwillig und auf meine Ehre ab.

Quelle: The Holberton-Turing Oath. https://www.holbertonturingoath.org/

(Übersetzung Zeit-Fragen)