IA / KI : Verlieren wir unsere Identität?

Il n’a pas fallu longtemps pour que X/Twitter dispose également d’une « intelligence artificielle »(= Grok) et puisse annoncer, à notre  demande la diversité de notre blog pour l’enseignement du français. Nous demandons à Grok comment utiliser &gt ; les vidéos de notre blog pour l’enseignement. Pas mal… mais la liste des vidéos sur notre blog n’a pas été trouvée par Grok. Et nous faisons tout de suite l’essai… voir ce que Grok sait ou comment il a appris à utiliser les moteurs de recherche : Si on lui demande une interprétation de « L’étranger » d’Albert Camus, la réponse de Grok n’a rien à envier à ce que son collègue ChatGPT sait de l’étranger de Camus – Si on demande à Grok « Camus et l’art. Qui écrit sur le sujet et quelles sont ses thèses ? », on se rend vite compte que X/Twitter se sert des sites web et d’autres sources pour répéter des thèses pour lesquelles il n’y a bien sûr pas d’honoraires d’auteur : De plus, le titre « Art et morale. Albert Camus et son discours du prix Nobel » est mal cité. En cherchant un peu plus loin, on trouve suffisamment d’indices pour faire échouer tout candidat qui rédige un devoir avec cette aide. Et si un étudiant se sert de la réponse à la question posée à Grok « Résume les thèses de »L’art et la morale. Albert Camus et son discours du prix Nobel », on aurait aucun doute, s’il aurait lu le livre. Ou demande à Grok : « Napoléon III était-il franc-maçon ? Le robot se sert à nouveau de nos thèses… mais n’indique pas les sources où il a obtenu ses informations.

L’Élysée prévoit un > Sommet international pour l’action sur l’IA à Paris les 10 et 11 février 2025. Lors de ces deux journées, Éric Sadin veut organiser un contre-sommet de l’IA à Paris : > Intelligence artificielle : le philosophe Eric Sadin propose un « contre-sommet de l’IA “ à Paris début 2025 – LE MONDE, 23 décembre 2024 et LE MONDE le cite en disant ” Il faut organiser un contre-sommet de l’intelligence artificielle [IA], contre les discours qui nous promettent monts et merveilles avec l’IA. « Cité dans l’article. « L’idée est d’inviter différentes corporations et professions déjà touchées par l’IA pour que des personnes puissent raconter les conséquences au quotidien et témoigner », a expliqué Sadin, dont l’attitude sceptique et critique envers l’IA a déjà fait l’objet d’une critique rédigée par la rédaction de notre blog :

&gt ; Revue : Éric Sadin, La vie spectrale. Penser l’ère du métavers et des IA génératives www.romanistik.info, 22 janvier 2024.

Éric Sadin ne pense pas que l’IA soit réglable… mais qu’il s’agit maintenant de mobiliser tous les secteurs professionnels concernés par l’IA. Très concrètement, il s’agit de préserver les droits des auteurs, notamment en ce qui concerne les contenus utilisés par l’IA. A la question « Qui dit que l’art est un point de référence central de l’œuvre de Sartre ? », Grok donne une réponse qui va dans la bonne direction, mais qui est incomplète en termes de sources et qui confond certaines choses lorsqu’elle fait référence à Hans Mayer, ce qui permet de montrer que Grok n’est pas assez critique vis-à-vis des contenus et que les étudiants feraient mieux de ne pas s’intéresser à Grok.

Sadin remet surtout en question le caractère « propagandiste » du sommet prévu par l’Élysée. Anne Bouverot, chargée par Emmanuel Macron de ce sommet, veut mettre en avant les avantages de l’IA et indique que parmi les représentants de 1000 pays, il y aura des représentants de la société civile et du monde académique. Elle promet que les droits d’auteur, la politique de l’emploi et la protection de l’environnement seront abordés lors de ce sommet.

&gt ; « Le sommet de Paris vise à agir contre les risques et surtout pour les bénéfices de l’IA “” Entretiens de l’IA ». Anne Bouverot est chargée par l’Elysée de l’organisation du sommet pour l’action sur l’intelligence artificielle, qui réunira entreprises, ONG et 100 chefs d’État, les 10 et 11 février 2025. LE MONDE, 9 décembre 2024

Dans une « tribune », Éric Sadin a résumé le 9 décembre 2024 dans LE MONDE > « Nous vivons un moment unique de l’histoire de l’humanité, qui voit des machines s’emparer de ce qui nous constitue » être critique envers l’IA : L’intelligence artificielle comme ChatGPT, Grok &amp, c’est-à-dire les robots, s’emparent dangereusement de nos capacités intellectuelles et créatives, créant ainsi une sorte de nouvel univers dans notre monde. La boîte de Pandore est ouverte et je ne la refermerai pas… Il y aura toujours de nouvelles fonctions de l’IA.

Revue de lecture et questions : Michael Wildenhain, Une brève histoire de l’intelligence artificielle.
Rédigé par Heiner Wittmann, 3 mars 2024 : Dans une nouvelle série de Klett-Cotta, le volume de Michael Wildenhain, « Une brève histoire de l’intelligence artificielle », vient de paraître.

Au milieu du flux infini de tant d’articles partout dans les médias qui vantent la récente éclosion de l’intelligence artificielle et prédisent de véritables merveilles, il est réconfortant que Michael Wildenhain nous rappelle d’abord la relation entre l’intelligence humaine et l’intelligence artificielle avec l’Homunculus de Goethe et le Frankenstein de Mary Shelley…. »

Pour Éric Sadin, il s’agit de choses tout à fait fondamentales. Les machines d’IA actuelles sont entraînées avec de grands corpus de tétex et en déduisent des lois sémantiques. Le résultat sont des textes qui sont créés sur la base de ce que nous avons appelé dans notre rédaction les probabilités de voisinage de mots : Sadin : « Les énoncés générés ne procédant que d’analyses statistiques et de la corrélation probabiliste». Il ne s’agit pas d’un nouveau texte au sens propre du terme, mais de quelque chose qui repose sur une sorte de corrélation et non sur une association. La machine prétend imiter notre pensée, et elle ne peut faire que des calculs statistiques : « S’il y a tel terme, alors le terme suivant sélectionné sera celui dont il aura été repéré qu’il est, d’après les historiques d’usage, le plus récurrent à la suite. En cela, a tendance à être formulé ce qui a déjà eu lieu. » Il ne s’agit donc pas de l’IA, mais de notre liberté, c’est ainsi que l’on pourrait résumer la pensée de Sadin ici. Sans parler des vidéos, des images, des fake news de toutes sortes que n’importe qui peut produire pour semer la confusion. Les contenus culturels sont adaptés par l’IA à nos besoins présumés, ce qui ouvre de nouvelles possibilités aux réseaux sociaux pour nous mettre au pas, on ne peut guère l’imaginer aujourd’hui. On fait déjà de la publicité pour l’IA en disant qu’elle peut être plus rapide et plus efficace que l’homme… Mais comment assurer notre liberté aujourd’hui, « comment protéger notre âme aujourd’hui », demande Sadin.

Es hat nicht lange gedauert, bis X/Twitter auch über eine „künstliche Intelligenz“ (= Grok) verfügt und auf unsere Bitte, die > Vielfalt unseres Blogs für den Französischunterricht ankündigen kann. Wir fragen Grok, wie man > Videos auf unserem Blog für den Unterricht einsetzen kann. Kein schlechtes Ergebnis…. aber die Liste der Videos auf unserem Blog hat Grok nicht gefunden. Und dann machen wir gleich mal die Probe aufs Exempel… mal gucken, was Grok weiß oder wie es mit Suchmaschinen umzugehen gelernt hat: Fragt man ihn nach einer Interpretation des „Fremden“ von Albert Camus, ist Groks Antwort kein Deut besser als das was sein Kollege ChatGPT zum Fremden von Camus weiß – Fragt man Grok „Camus und die Kunst. Wer schreibt darüber und wie lauten seine Thesen?“ dann merkt man schnell, dass X/Twitter sich an Websites und anderen Quellen bedient, um Thesen zu wiederholen, für die es natürlich kein Autorenhonorar gibt: Außerdem ist der Titel „Kunst und Moral. Albert Camus und seine Nobelpreisrede“ falsch zitiert. Forscht man ein bisschen weiter, findet man genug Anhaltspunkte, um jeden Kandidaten, der mit dieser Hilfe eine Hausarbeit verfasst, durchfallen zu lassen. Und wenn ein Student die Antwort von Grok auf „Fasse die Thesen von „Kunst und Moral. Albert Camus und seine Nobelpreisrede“ zusammen“ abliefern würde, wäre natürlich klar, dass er das Werk nicht gelesen haben kann. Oder fragt man Grok: „War Napoleon III. Freimaurer? Belege?„, dann bedient sich der Roboter wieder an unseren Thesen… gibt die Quellen aber nicht an, wo er seine Informationen bekommen hat

Der Élyséepalast plant einen > Sommet international pour l’action sur l’IA in Paris am 10. und 11. Februar 2025. An diesen beiden Tagen will Éric Sadin einen Gegen-KI-Gipfel in Paris veranstalten : > Intelligence artificielle : le philosophe Eric Sadin propose un « contre-sommet de l’IA » à Paris début 2025 – LE MONDE, 23 décembre 2024 und von LE MONDE wird er mit Worten « Wir müssen einen Gegengipfel zur künstlichen Intelligenz [KI] organisieren, gegen die Reden, die uns mit KI das Blaue vom Himmel versprechen.. » zitiert. « Die Idee ist, verschiedene Körperschaften und Berufe einzuladen, die bereits von KI betroffen sind, damit Menschen über die Auswirkungen im Alltag berichten und Zeugnis ablegen können. », erklärte Sadin, dessen skeptische und kritische Haltung gegenüber der KI bereits Gegenstand einer Rezensionen war, die unsere Blog-Redaktion verfasst hat:

> Rezension: Éric Sadin, La vie spectrale. Penser l’ère du métavers et des IA génératives www.romanistik.info, 22. Januar 2024.

Éric Sadin glaubt nicht, dass die KI regulierbar sei… aber jetzt gehe es um eine Mobilisierung aller Berufszweige, die von der KI betroffen werden. Ganz konkret geht es um die Wahrung von Autorenrechten, besonders hinsichtlich der von der KI genutzten Inhalte. Auf die Frage „Wer sagt, dass die Kunst ein zentrale Bezugspunkt der Werk von Sartre sei?“ gibt Grok eine Antwort, die in die richtige Richtung weist, aber quellenmäßig unvollständig ist und bei dem Hinweis auf Hans Mayer einiges durcheinanderbringt, womit gezeigt werden kann, dass Grok mit den Inhalten nicht kritisch genug umgehen kann und Studenten besser um Groß einen Bogen machen sollten.

Sadin stellt vor allem den „propagandistischen“ Charakter des vom Élysée-Palastes geplanten Gifpels in Frage. Die von Emmanuel Macron für diesen Gipfel beauftragte Anne Bouverot, will die Vorteile der KI in den Vordergrund rücken und weist daraufhin, dass unter den Vertretern von 1000 Staaten auch Vertreter der Zivilgesellschaft un der akademischen Welt sein werden. Sie verspricht das die Autorenrechte, die auch die Beschäftigungspolitik wie auch der Umweltschutz bei diesem Gipfel zur Sprache kommen werden.

> « Le sommet de Paris vise à agir contre les risques et surtout pour les bénéfices de l’IA »« Entretiens de l’IA ». Anne Bouverot est chargée par l’Elysée de l’organisation du sommet pour l’action sur l’intelligence artificielle, qui réunira entreprises, ONG et 100 chefs d’Etat, les 10 et 11 février 2025. LE MONDE, 9 décembre 2024

In einer „Tribüne“ hat Éric Sadin am 9. Dezember 2024 in LE MONDE > « Wir leben in einem einzigartigen Moment in der Geschichte der Menschheit, in dem Maschinen das übernehmen, was uns ausmacht » seien Kritik an der KI zusammengefasst: Künstliche Intelligenz wie ChatGPT, Grok & Co., also Roboter übernähmen unsere intellektuellen und kreativen Fähigkeiten auf gefährliche Weise erschaffen so in unserer Welt eine Art neues Universum. Die Büchse de Pandora sei geöffnet und werde ich nicht wieder schlie0en… es werde immer wieder neue Funktionen der KI geben.

Lesebericht und Nachgefragt: Michael Wildenhain, Eine kurze Geschichte der Künstlichen Intelligenz
Verfasst von Heiner Wittmann, 3.3.2024: In einer neuen Reihe von Klett-Cotta ist gerade der Band von Michael Wildenhain, »Eine kurze Geschichte der Künstlichen Intelligenz«, erschienen.

Inmitten des unendlichen Stroms so vieler Artikel überall in den Medien, die das jüngste Aufblühen der Künstlichen Intelligenz rühmen und wahre Wunderdinge voraussagen, ist es wohltuend, dass Michael Wildenhain uns zunächst mit Goethes Homunculus und Mary Shelleys Frankenstein an das Verhältnis von menschlicher zu künstlicher Intelligenz erinnert….“

Für Éric Sadin geht es um ganz Grundsätzliches. Die heutigen KI Maschinen werden mit großen Textkorpora trainiert und leiten daraus semantische Gesetze ab. das Ergebnis sind Texte, die aufgrund, so haben wir das in unserer Redaktion genannt, Wortnachbarwahrscheinlichkeiten entstehen: Sadin: „Die erzeugten Aussagen beruhen lediglich auf statistischen Analysen und wahrscheinlichkeitstheoretischer Korrelation.“ Es entsteht im eigentliche Sinne kein neuer Text, sondern etwas, das auf einer Art Korrelation und keiner Assoziation beruhe. Die Maschine gibt vor, unser Denken zu imitieren, und sie kann nur statistisch rechnen: „Wenn es diesen Begriff gibt, dann wird der nächste Begriff ausgewählt, von dem festgestellt wurde, dass er in der Folge am häufigsten verwendet wird. Auf diese Weise wird tendenziell das formuliert, was bereits stattgefunden hat. “ Es geht also nicht um die KI, sondern um unsere Freiheit, so könnte man den Gedanken von Sadin hier zusammenfassen. Ganz zu schwiegen von den Videos, Bildern, Fake News aller Art, die jedermann produzieren kann, um damit Verwirrung zu stiften. Kulturelle Inhalte werden von der KI auf unsere vermeintlichen Bedürfnisse zugeschnitten, was das den sozialen Netzwerke neue Möglichkeiten uns zu gängeln eröffnet, kann man sich heute kaum vorstellen. Schon wird für die KI geworben, sie könne schneller und effizienter als der Mensch sein… aber wie sichern wir heute unsere Freiheit, wie hüten wir heute unsere „Seele“ fragt Sadin.