In der Aufklärungsdebatte betonte Immanuel Kant, wie wichtig es sei, die Vernunft zu begrenzen. Menschliches Denken kann gewisse Grenzen (v.a. Raum und Zeit) nicht überschreiten (siehe Kants Schrift Kritik der reinen Vernunft). Zugleich droht aber das Denken ständig zu denken, es könnte immer weiter kommen, sich dabei selbst übersteigen. Daraus entstehen haltlose Spekulation oder metaphysische Gebilde und Weltanschauungen, die man vor allem in religiösen oder ideologischen Ansichten findet (siehe Kants Schrift: Die Religion innerhalb der Grenzen der bloßen Vernunft). Zugleich können dadurch Gedanken entstehen, die zutiefst unmoralisch sind, weil sie der die Freiheit und das Gutsein begründenden Vernunft widersprechen (siehe Kants Schrift: Kritik der praktischen Vernunft).
Was sind die Grenzen unserer Vernunft? Ich habe den Eindruck, dass Kants Erbe vergessen ist, aber es ist ja wirklich frustrierend, sich die Begrenztheit des Denkens einzustehen. In den religiösen Traditionen der Welt wurde berechtigterweise über Jahrhunderte versucht, die Begrenztheit des Seins anzunehmen und damit umzugehen. Immer wieder konnte das dann auch von Machthabenden benutzt werden, Menschen zu unterdrücken, indem die Begrenztheit zwar den Gläubigen gepredigt, sich selbst aber ein spezifisches Geheimwissen zugesprochen wurde, das göttlichen Charakter haben soll.
In der K.I.-Debatte sehen wir, dass wir einen ganz und gar falschen Begriff von ‚Intelligenz‘ haben. Ich meine das in beide Argumentationsrichtungen.
Oft gesagt und kritisiert wird bereits, dass doch die statistischen Sprachmodelle gar nicht wirklich intelligent seien, da sie nur ganz bestimmten Schemata folgen und die ‚allgemeine‘ Intelligenz viel mehr vermögen würde (als so genannte AGI im Gegensatz zu den bisher nur speziell eingesetzten). Das mag stimmen. Ich möchte dem nur ein kurzes Argument beifügen: Hier besteht das Problem vor allem darin, dass es an der menschlichen Interpretation liegt, ob etwas als intelligent wahrgenommen wird. Wie schon bei Turings Test ist es der Mensch, der entscheidet, dass etwas so intelligent ist, wie menschliche Intelligenz auf einen wirkt. Schon zwischenmenschlich täuschen wir uns Intelligenz vor. Es ist fast logisch, dass das einer Maschine nur allzu leicht gelingen kann.
Doch auch die andere Argumentationsrichtung, die meines Wissens nach nicht so oft vertreten wird, ist mir wichtig: Nicht nur die künstliche Intelligenz ist nicht so intelligent, wie behauptet werden könnte, auch wir sind nicht so intelligent, wie wir denken. Der Unterschied zwischen der gar nicht so intelligenten, spezifischen Intelligenz, und unserer menschlichen, allgemeinen Intelligenz ist gar nicht so groß, wie wir gemeinhin denken.
Unsere Intelligenz ist zwar vielfach größer als die aller uns bekannten Tiere (wenn auch nur graduell größer, nicht kategorial anders), doch die Geschwindigkeit von menschengemachten Computern ist unglaublich groß. In dem Sinne werden die Roboter, die wir einst erbauen werden, vielleicht nicht so unfassbar schlau sein, wie wir es uns erhoffen, aber wir sollten uns nie daran täuschen, dass wir selbst auch ziemlich enttäuschend dumm sind.
Man kann dieses Argument sogar noch weiter zuspitzen: Wenn wir behaupten, dass die künstliche Intelligenz eben nur künstlich, nicht natürlich sei, könnte man sich fragen, inwieweit das nicht für Vernunft oder Intelligenz immer gilt.
Der Technikphilosoph Joscha Bach hat dazu Thesen formuliert, die ich noch nicht gänzlich verstanden habe. Auf jeden Fall behauptet er, dass, so wie Software „auf“ der Hardware einer Maschine läuft, so auch unser Bewusstsein auf unserem biologischen Computer läuft. Der Modus, in dem Bewusstsein existiert, ist ein „Als ob“: Wenn eine (biologische oder mechanische) Maschine von sich selbst denkt, dass es ein Bewusstsein hätte, dann hat es Bewusstsein. Es gibt kein sicheres Mittel, festzustellen, ob Menschen, denen wir auf der Straße begegnen, wirklich ein Bewusstsein haben, oder nur so tun, als ob sie eines hätten. Es gibt auch für uns selbst kein sicheres Mittel, festzustellen, ob wir ein Bewusstsein hätten, oder ob wir nur so tun, als ob wir eins haben. In beiden Fällen denkt unser „Bewusstsein“, dass es existiert. Unsere Intelligenz ist künstlich.