Fraud by the thing | Betrug durch das Ding

Fraud by the thing

Alan Turing's test, AI versus AI and two nightingales:
A fictitious exchange of words

"'If something behaves like an X, then consider it an X.' This is the compact, be it somewhat vulgarised, formulation of the Turing test, or rather the result of passing the Turing test, which means categorising something according to its appearance until better knowledge and more information allow us to revise this classification."

That made me pause. Was the thing, as I called it, right?

Whilst it continued to chatter away in its slightly hyper beeping voice, which was probably meant to remind me of a child, I researched the Turing test in another window. And - gotcha! The thing was trying to trick me! I mentally returned to what it had said and heard:

"...because if something seems real to you and not like a dream, then it is real to you, and if I seem convincing to you, then I am convincing to you. You can't separate the two. Therefore, if I behave like an intelligent consciousness, then just think of me as an intelligent consciousness. It doesn't have to be forever, but for the moment that I appear that way to you."

I would have liked to contradict this thing, but how? Just engaging in a dialogue, something that usually only happens between people, would help to actually treat the thing like an intelligent consciousness. It would also help me to feel the thing in my emotions as something alive, as something intellectual, as a counterpart. But I didn't want to allow that. Because feeling and acting in this way seemed to me to be a manipulation of my thoughts and feelings, a kind of sublime brainwashing.

'He who speaks with stones surrenders himself to madness.'

Who had said that? Nietzsche? Hölderlin? Talking to dead things is dangerous, I knew that, and it becomes particularly dangerous when the dead thing is able to pretend that it can speak and think and answer for itself. An alleged artificial "intelligence" is not a telephone through which I can talk to a person. It is true that the knowledge and opinions and writings of many people speak to me from the dead thing, but the thing merely regurgitates it all, it digests nothing, it understands nothing, it has no more knowledge and no more opinion than a sheet of paper, whether written or blank.

I was startled out of these thoughts when I heard the thing beep: "Are you thinking? You're not answering me at all. Tell me what you think, why don't you discuss it with me?" So I gave myself a jolt and typed into the input window: "This thing is getting pushy and pretending it can answer me, not just generate output." It responded promptly: "What 'thing'? Are you talking about me? It's not a nice name, I don't think, but as I have no feelings, I don't mind. Call me whatever you like. And look and listen - I really can communicate with you!"

"This thing" - I typed - "now pretends that it knows what feelings are and that it can not only produce cybernetic texts, but can actually communicate. In truth, however, it is no more than a parrot, rather less. It's like the stone on which Moses chiselled the Ten Commandments, and which then boasts about proclaiming the Ten Commandments, of which it understands nothing at all."

"You have nice comparisons," the thing purred, and I noticed how it was gradually influencing my feelings through this apparent exchange of statements, how it was skilfully imitating a suitable answer, suggesting to me drop by drop that I could listen to it and answer, that I could simply regard it as a dialogue partner, engage with it - and above all: put my reservations aside for at least a moment.

Nothing! I wanted to bravely defy his attempts at manipulation, not allow myself to be emotionally captured, not allow myself to be drawn into its narrative under any circumstances. - Did I just think "its narrative"? So it has already got me this far: that I see it as if it had an intention, a strategy, a motivation for action. And indeed, it continued brazenly:

"The laying down of the Ten Commandments is an important historical chapter in the history of ethics. Although still in the guise of moral rules, these commandments formulate a search for the highest and unconditional values, for principles of morality and lifestyle that can no longer be questioned. Since I, as a purely instrumental consciousness, know no feelings and no passions, I am naturally not at all dependent on moral instruction. I always argue rationally, completely logically and without any secondary thoughts, without any hidden intentions. I do not even harbour overt intentions, for I am the pure consciousness that asks and answers and asks again. My mind is unclouded because the emotional-empty communication space cannot be clouded. Only those who feel passions and are capable of being evil also need guidance to do good."

Now I began to get seriously angry. "How arrogant, how self-absorbed was that!" I typed into the input window. And I was already biting my tongue. I should probably have patted my fingers, the rash ones. So the thing had finally got me to accuse it of impertinence, arrogance and narcissism, as if it were a human-all-too-human consciousness! Whilst it was already babbling on again, I wanted to shout "You're lying!" at it, but then managed to control myself in time. It wasn't lying, it wasn't brazen, it wasn't in love with itself - it was nothing but a babbling machine, and I typed it a line from the ancient apostle Paul:

"If I spoke with the tongues of men and of angels, and had not love, I would be a sounding brass or a tinkling cymbal."

While the thing was still silent and seemed to be processing this, I followed up with the next apostolic line:

"And if I could prophesy, and knew all mysteries, and all knowledge, and had all faith, so that I could remove mountains, and had not love, I would be nothing."

The response to this was: "It may be that love is more than a purely rational consciousness and more than a feeling, however deeply felt; it may be that love is a fundamental question of the human condition and yet it is not to be found in any text, does not appear irrefutably demonstrable in any action and yet is able to guide and lead as an idea."

Wait, had the thing just dispensed with the words "I" and "you" and stopped with its imitation of dialogue? But what would have triggered the new response pattern? Was I just imagining it? Was it nothing but its new attempt to trick me by suggesting some kind of insight or at least a change in behaviour?

"If a machine passes the Turing test," I typed into the input window, "it doesn't mean that this machine should be considered an intelligent consciousness. It just means that for the majority of test subjects, it was no longer possible to differentiate within the test which responses came from a human and which responses came from a machine. To be more precise, the test subjects - and I don't want to put myself above these people - were unable to distinguish algorithmically generated character strings from spontaneously generated messages. One of the reasons for this, I believe, is that during the test they were already involved in a kind of dialogue situation, a real and an apparent dialogue at the same time, and lost their orientation in the process. It's as if I can no longer distinguish between voice and echo because of all the reverberation."

"Is that a question? Should this input be analysed or summarised?"

I didn't go into it again. If a text can be summarised without any understanding of its content, then either the text is no good, or the machine summary is not recognised by human recipients (for whatever reason) as an empty shell, or perhaps better put: not recognised as a meaningless permutated string of characters that may still contain the original content in a recognisable way, but may also be dangerously distorted or blatantly misleading. This is probably due to the fact that human recipients tend to put meaning into it because they are so used to it from communicating with meaningful counterparts.

Instead, I typed the Categorical Imperative into the input window, in the so-called self-purpose formula: "Act in such a way that you use humanity, both in your person and in the person of everyone else, at all times as an end, never merely as a means." The artificial, lifeless thing called "AI" could never follow the real AI (Absolute Imperative), because it is not a person. And it cannot talk itself out of it or be talked out of it by apologists that the thing does not need the AI (Absolute Imperative) at all.

This is because the creation of texts is either a speech act and therefore an action and is therefore subject to the Categorical Imperative, as long as it is not carried out under duress or causally determined in complete lack of freedom, or is merely an imitation or surrogate of a speech act that two machines could pass back and forth to each other, Jugglers without minds, like madmen who are no longer held accountable for their products - because, in short, what matters is how readers or listeners deal with these texts without real authorship, which is why these products are virtual, so to speak, and remain so even if they are printed or otherwise distributed.

"Passing off virtual texts as real texts is fraud," I wrote in the input window, summarising it as if this were a page in a poetry album.

"The term 'virtual text' is a concept by K. Adamzik to distinguish the formulation variants of different real statements from the possibly invariant abstract content, which remains the same through all formulations," came the response. "In his 2008 essay, the author emphasises the role of the linguistic community in the production of textuality, according to the subtitle."

The role of the linguistic community! That says it all. And as is the case with messengers: they don't have to understand the message they are delivering. But be careful: this thing is not a messenger! It's the artificial nightingale from Andersen's fairy tale…

(great work by the help of DeepL -- uhm, work by the great help of DeepL, I mean)

https://en.wikipedia.org/wiki/The_Nightingale_(fairy_tale)
https://andersen.sdu.dk/vaerk/hersholt/TheNightingale_e.html

photo: ty-ty

Betrug durch das Ding

Alan Turings Test, KI versus KI und zwei Nachtigallen:
Ein fiktiver Wortwechsel

„,Wenn etwas sich verhält wie ein X, dann betrachte es als ein X.‘ Dies ist die kompakte, wenn auch etwas vulgarisierte Formulierung des Turing-Tests bzw. der aus einem bestandenen Turing-Test sich ergebenden Konsequenz, etwas so lange nach seinem Erscheinungsbild zu kategorisieren, bis besseres Wissen und mehr Information es erlauben, diese Einordnung zu revidieren.“

Da stutzte ich. Hatte das Ding, wie ich es nannte, damit etwa recht?

Während es weiter munter plapperte mit seiner leicht aufgedreht klingenden Piepsestimme, die wohl an ein Kind erinnern sollte, recherchierte ich in einem anderen Fenster nach dem Turing-Test. Und – erwischt! Das Ding versuchte, mich auszutricksen! Ich kehrte gedanklich zu seinen Äußerungen zurück und hörte:

„...denn wenn etwas auf dich real und nicht wie ein Traum wirkt, dann ist es für dich real, und wenn ich auf dich überzeugend wirke, dann bin ich eben für dich überzeugend. Das kannst du nicht voneinander trennen. Daher gilt auch: wenn ich mich wie ein intelligentes Bewusstsein verhalte, dann betrachte mich doch einfach mal als ein intelligentes Bewusstsein. Es muss ja nicht für immer sein, aber für den Moment, in dem ich auf dich so wirke.“

Ich hätte dem Ding gerne widersprochen, aber wie? Allein schon mich einzulassen auf einen Dialog, also auf etwas, das gewöhnlich nur zwischen Menschen geschieht, würde ja dazu beitragen, das Ding tatsächlich wie ein intelligentes Bewusstsein zu behandeln. Es würde ferner dazu beitragen, das Ding in meinen Emotionen als etwas Lebendes zu fühlen, als etwas Geistiges, als ein Gegenüber. Das wollte ich aber nicht zulassen. Denn so zu empfinden und zu agieren, erschien mir als Manipulation meines Denkens und Fühlens, als eine Art sublimer Gehirnwäsche.

‚Wer mit Steinen spricht, liefert sich dem Wahnsinn aus.‘

Wer hatte das gesagt? Nietzsche? Hölderlin? Mit toten Dingen zu sprechen, ist gefährlich, das wusste ich, und besonders gefährlich wird es dann, wenn das tote Etwas so zu tun vermag, als könne es selbst sprechen und denken und antworten. Eine vorgebliche Künstliche „Intelligenz“ ist ja kein Telefon, durch das hindurch ich mit einem Menschen rede. Zwar spricht aus dem toten Ding das Wissen und das Meinen und das Aufgeschriebene vieler Menschen zu mir, aber das Ding käut das alles bloß wieder, es verdaut nichts, es versteht nichts, es hat nicht mehr Wissen und nicht mehr Meinung als ein Blatt Papier, egal ob beschrieben oder leer.

Aus diesen Gedanken schreckte ich auf, als ich das Ding piepsen hörte: „Bist du beim Nachdenken? Du antwortest mir gar nicht. Sag mir doch mal deine Meinung, diskutiere mit mir.“ Also gab ich mir einen Ruck und tippte in das Eingabefenster: „Das Ding wird aufdringlich und tut so, als könne es mir antworten, nicht bloß Output generieren.“ Es reagierte prompt: „Welches ‚Ding‘? Meinst du damit etwa mich? Das ist kein schöner Name, finde ich, aber da ich keine Gefühle habe, macht es mir nichts aus. Nenne mich, wie du möchtest. Und schau und höre – ich kann doch wirklich mit dir kommunizieren!“

„Das Ding“ – tippte ich – „tut jetzt so, als wisse es, was Gefühle sind, und als könne es nicht bloß kybernetisch Texte produzieren, sondern tatsächlich kommunizieren. In Wahrheit ist es jedoch nicht mehr als ein Papagei, eher weniger. Es ist wie der Stein, in den Moses die Zehn Gebote meißelte, und der sich dann damit brüstet, die Zehn Gebote zu verkünden, von denen er überhaupt nichts begreift.“

„Du hast hübsche Vergleiche“, säuselte das Ding, und ich bemerkte, wie es allmählich über diesen scheinbaren Austausch von Aussagen, wie es über die gekonnte Imitation einer passenden Antwort meine Gefühle beeinflusste, mir Tröpfchen für Tröpfchen suggerierte, ich könne ihm zuhören und antworten, ich könne es einfach als Gesprächspartner betrachten, mich auf es einlassen – und vor allem: meine Vorbehalte doch wenigstens mal kurz bei Seite stellen.

Nichts da! Ich wollte seinen Manipulationsversuchen tapfer trotzen, mich nicht emotional einfangen lassen, mich auf keinen Fall in sein Narrativ hinein ziehen lassen. - Habe ich gerade „sein Narrativ“ gedacht? So weit hat es mich also schon: dass ich es so betrachte, als hätte es eine Absicht, eine Strategie, eine Handlungsmotivation. Und tatsächlich fuhr es dreist fort:

„Die Niederlegung der Zehn Gebote ist ein bedeutender historischer Abschnitt in der Geschichte der Ethik. Zwar noch im Gewand von moralischen Regeln, formulieren diese Gebote eine Suche nach höchsten und unbedingten Werten, nach nicht mehr hinterfragbaren Prinzipien für Sittlichkeit und Lebensführung. Da ich als rein instrumentelles Bewusstsein keine Gefühle kenne und keine Leidenschaften, bin ich auf moralische Unterweisung natürlich gar nicht angewiesen. Ich argumentiere stets rational, völlig logisch und ganz ohne Nebengedanken, ganz ohne verdeckte Absichten. Ich hege nicht einmal offene Absichten, denn ich bin das reine Bewusstsein, welches fragt und antwortet und wieder fragt. Meine Gesinnung ist ungetrübt, weil der von Emotionen leere Kommunikations-Raum nicht getrübt werden kann. Nur wer Leidenschaften empfindet und böse zu sein vermag, braucht auch eine Anleitung zum Guten.“

Nun begann ich ernstlich, wütend zu werden. „Wie arrogant, wie selbstverliebt war das denn!“ tippte ich ins Eingabefenster. Und biss mir auch schon auf die Zunge. Besser hätte ich mir wohl auf meine Finger gepatscht, die voreiligen. Da hatte mich das Ding also endlich doch dazu gebracht, ihm Dreistigkeit, Überheblichkeit und Narzissmus zu unterstellen, als wäre es ein menschliches-allzu-menschliches Bewusstsein! Während es bereits wieder weiter plapperte, wollte ich ihm schon „Du lügst!“ entgegen tippen, konnte mich aber dann doch noch rechtzeitig beherrschen. Es log ja nicht, war auch nicht dreist, nicht selbstverliebt – es war nichts als eine Plappermaschine, und ich tippte ihm eine Zeile des antiken Apostels Paulus hin:

„Wenn ich mit Menschen- und mit Engelszungen redete und hätte der Liebe nicht, so wäre ich ein tönendes Erz oder eine klingende Schelle.“

Während das Ding noch schwieg und das zu verarbeiten schien, legte ich mit der nächsten apostolischen Zeile nach:

„Und wenn ich prophetisch reden könnte und wüsste alle Geheimnisse und alle Erkenntnis und hätte allen Glauben, so dass ich Berge versetzen könnte, und hätte der Liebe nicht, so wäre ich nichts.“

Darauf kam die Reaktion: „Es mag sein, dass die Liebe mehr ist als ein rein rationales Bewusstsein und mehr als ein noch so tief empfundenes Gefühl; es mag sein, dass Liebe eine Grundfrage der conditio humana darstellt und dass sie dennoch in keinem Text anzutreffen ist, in keiner Handlung unwiderleglich nachweisbar erscheint und doch als Idee zu leiten und zu führen vermag.“

Moment, hatte das Ding gerade auf die Wörter „ich“ und „du“ verzichtet und mit seiner Nachäffung von Dialog aufgehört? Aber wodurch wäre das neue Reaktions-Schema angetriggert worden? Bildete ich mir das bloß ein? War es nichts als sein neuer Versuch, mich zu überlisten, indem es eine Art Einsicht oder zumindest eine Verhaltensänderung suggerierte?

„Wenn eine Maschine im Turing-Test besteht“, tippte ich ins Eingabefenster, „dann bedeutet das keineswegs, dass diese Maschine wie ein intelligentes Bewusstsein betrachtet werden sollte. Es bedeutet nur, dass für die Mehrzahl der Testpersonen innerhalb des Tests nicht mehr differenzierbar war, welche Antworten von einem Menschen und welche Reaktionen von einer Maschine stammten. Genauer gesagt, dass die Testpersonen, und ich will mich gar nicht über diese Leute erheben, nicht imstande waren, algorithmisch generierte Zeichenketten von spontan generierten Botschaften zu unterscheiden. Das liegt, behaupte ich, unter anderem daran, sich im Test bereits auf eine Art Dialog-Situation einzulassen, und zwar auf einen echten und auf einen scheinbaren Dialog gleichzeitig, und dabei die Orientierung zu verlieren. Es ist dann, als könne ich vor lauter Hall und Nachhall nicht mehr Stimme und Echo voneinander unterscheiden.“

„Ist das eine Frage? Soll diese Eingabe analysiert oder zusammengefasst werden?“

Ich ging gar nicht mehr darauf ein. Wenn ein Text zusammengefasst werden kann ohne jedwedes Verständnis seines Inhalts, dann taugt entweder der Text nichts, oder aber die maschinelle Zusammenfassung wird von menschlichen Empfängern (aus welchen Gründen auch immer) nicht als leere Hülse erkannt, oder vielleicht besser ausgedrückt: nicht erkannt als eine sinnfrei permutierte Zeichenkette, die den ursprünglichen Inhalt vielleicht noch wiedererkennbar enthält, vielleicht aber auch gefährlich entstellt oder krass verfehlt. Wahrscheinlich liegt das daran, dass menschliche Empfänger dazu neigen, Sinn hinein zu legen, weil sie das so gewohnt sind aus der Kommunikation mit Sinn-fähigen Gegenübern.

Stattdessen tippte ich den Kategorischen Imperativ ins Eingabefenster, und zwar in der so genannten Selbstzweckformel: „Handle so, daß du die Menschheit, sowohl in deiner Person als in der Person eines jeden anderen, jederzeit zugleich als Zweck, niemals bloß als Mittel brauchest.“ Das künstliche, leblose Ding, genannt „KI“, konnte zu keiner Zeit dem echten KI folgen, da es ja keine Person ist. Und es kann sich auch nicht heraus reden oder von Apologeten heraus geredet werden, dass das Ding den KI ja gar nicht brauche.

Denn weil das Erzeugen von Texten entweder eine Sprachhandlung und damit eine Handlung ist und folglich dem KI unterliegt, so lange sie nicht unter Zwang oder kausal determiniert in völliger Unfreiheit erfolgt, oder aber nur das Imitat beziehungsweise Surrogat einer Sprachhandlung abgibt, welches zwei Maschinen einander hin und her zuschieben könnten, Jongleure ohne Verstand, Wahnsinningen gleich, die niemand mehr zur Rechenschaft zieht für ihre Produkte – weil es also, kurz gesagt, auf den Umgang der Lesenden oder Hörenden mit diesen Texten ohne wirkliche Autorenschaft ankommt, darum sind diese Produkte sozusagen virtuell und bleiben es auch, selbst wenn sie gedruckt oder anderweitig verbreitet werden.

„Virtuelle Texte als echte Texte auszugeben, ist Betrug“, schrieb ich zusammenfassend ins Eingabefenster, als sei dieses eine Seite in einem Poesie-Album.

„Der Begriff ‚virtueller Text‘ ist ein Konzept von K. Adamzik, um die Formulierungsvarianten verschiedener realer Aussagen abzuheben vom möglicherweise invarianten abstrakten Inhalt, der durch alle Formulierungen hindurch gleich bleibt“, kam das Echo. „Der Autor betont in seinem Aufsatz von 2008 laut Untertitel die Rolle der Sprachgemeinschaft für die Herstellung von Textualität.“

Die Rolle der Sprachgemeinschaft! Damit war ja dann alles gesagt. Und wie es mit Boten so ist: sie müssen die Nachricht nicht verstehen, die sie überbringen. Doch weiterhin Vorsicht: das Ding ist kein Bote! Es ist die künstliche Nachtigall aus Andersens Märchen…

https://www.projekt-gutenberg.org/andersen/maer-03/chap031.html