Wikipedia:WikiProjekt KI und Wikipedia/Handbuch
Intro |
Diskussion |
KI allgemein |
KI+Texte |
KI+Übersetzung |
KI+Medien |
KI+QS |
KI+Hilfen |
Team |
|
Es sollte Wikipedia:Umgang mit KI am Ende als Empfehlung des Projektes erstellt werden. Keine Hilfeseiten. s.u. |
Erste Empfehlungen (DRAFT und umabgestimmt):--Wortulo (Disk. * KI-Projekt) 15:44, 14. Nov. 2024 (CET)
Vollständig KI-erstellte Artikel, die ungeprüft eingestellt werden, werden auf lange Sicht ein Regelverstoss bleiben. Zu reden ist darüber, ob eine Überprüfung/Überarbeitung daran etwas ändert, wie mit "KI als Hilfsmittel" erstellten Teilen zu verfahren ist (Nutzung für Recherchen und deren Einarbeitung), was mit Übersetzungen im Rahmen des Posteditings geschehen muss und welche Rolle Verbesserungen/Vereinfachungen vorhandener Texte mittels KI spielen.
- Wegen der Fehlerhaftigkeit (v.a. sogenannte Halluzinationen bzw. Konfabulationen) müssen alle Inhalte vom Autor nachgeprüft werden ("Post-Editing" wie bei KI-Übersetzungen in der professionellen Übersetzungsszene üblich). Auch wenn sich die sogenannte Halluzinationsrate bzw. Fehlerrate weiter verringert, kann jedes einzelne Faktum fehlerhaft sein oder eine angegebene Quelle gar nicht existieren. Dabei wird die Formulierungsgüte immer besser.
- Menschlich kuratiertes Wissen ist auf lange Sicht unabdingbar, auch Gefahr des Zirkelschlusses: solche Fehler landen in der Wikipedia und werden dann für das Training der KI verwendet, also quasi legitimiert.
- Autoren, die KI zur Erstellung als Hilfsmittel verwenden (wogegen nichts spricht), tragen die Verantwortung für diese Prüfung. Auch bei Recherchen kann halluziniert werden. "Etwas in Wikipedia eingestellt = es wird erwartet, dass alles überprüft wurde". Eine stichprobenartige Prüfung ist nicht ausreichend. Die Gefahr ist, dass man allzumenschlich davon ausgeht: Es klingt logisch und wird schon richtig sein, also publiziere ich es. Es sind auch destruktivere Benutzungen von KI auf Autorenseite nicht auszuschliessen.
- Im Idealfall geben KI heute die Quellen an (man kann auch danach fragen) und man muss prüfen, ob es jede Quelle gibt, ob sie reputabel ist und AUCH ob das wirklich dort steht, was damit bequellt wurde. Es liegt am System selber, dass da noch halluziniert wird - auch wenn daran gearbeitet wird, das in den Griff zu bekommen.
- Wikipedia, auch in anderen Sprachen, wird oft als Quelle durch die KI angegeben (weil sie oft für das Training verwendet wurde). Zu beachten ist, dass Wikipedia keine verwendbare Quelle ist, weil die Gefahr eines Zirkelschlusses besteht.
- Eine Verwendung von Bots zum direkten Einstellen von KI-generierten Artikeln ist in der deutschsprachigen WP weiter nicht regelentsprechend.
- Die prinzipielle Erkennbarkeit solcher KI-generierten Artikel ist auch eine Voraussetzung für die Prüfung.
- Indem man als Autor selbst erklärt, dass man KI eingesetzt und die Dinge überprüft hat, wird dies zumindest einfacher (dies ist aber keine Pflicht) und wird dann eine Frage des Vertrauens.
- Es muss trotzdem Kapazität für eine Prüfung vorhanden sein (Benutzer, die sich darauf spezialisieren und/oder auch der Einsatz aktueller geeigneter Erkennungssoftware). Das wird für undeklarierte Verdachtsfälle mindestens gelten.
- Moderne Erkennungssoftware nutzt auch KI, wobei falschpositive Befunde auch dadurch zustande kommen können, dass KI zur Übersetzung oder Verbesserung/Vereinfachung eingesetzt wird und dann "KI-typische" Formulierungen verwenden kann.
to be continued...
Diskussion
Bearbeiten- Nur kurz meta: Würde vorschlagen, dass wir nicht den Begriff "Halluzinationen" verwenden. Das ist eine Vermenschlichung der Technik. Es sind schlicht Fehler im Hauptprodukt dieser Technik. --Jensbest (Diskussion) 16:03, 2. Jul. 2024 (CEST)
- Das heisst aber "offiziell" und überall so (siehe Haupseite) und es braucht einen spezifischen Namen dafür, den man auf Halluzination (Künstliche Intelligenz) sogar verlinken kann (ist also definiert). Es ist natürlich "Bullshit", aber das ist nicht definiert :-) Wortulo (Diskussion) 17:13, 2. Jul. 2024 (CEST)
- Ja, aber wir müssen hier in einem Projekt nicht ki-Propaganda-Sprech verwenden, die dem vermenschlichenden Framing dient. Das ist hier ja kein Artikel, ergo können wir es auch schlicht Fehler oder gerne Bullshit nennen. Diese beiden Begriffe treffen zu, während der Propaganda-Marketing-Begriff nur der Vernebelung durch Vermenschlichung dient. Wie gesagt, ist nur eine Meta-Anmerkung, aber dient dazu, dass wir hier nicht in ein ki-Fieber verfallen, sondern eine sachliche Distanz zu diesem Hype bewahren, während wir klären, wie wir mit den direkten und indirekten Auswirkung proaktiv umgehen. --Jensbest (Diskussion) 17:39, 2. Jul. 2024 (CEST)
- Habe es auf der Vorderseite und hier nochmal präzisiert und relativiert (Es gibt Halluzinationen und Konfabulationen - letzteres nehmen einige synonym, einige sehen eine Untergruppe) und auch die Einwände vorn erwähnt. Bei Fehler oder Bullshit müsstest Du immer fragen: Welcher? KI-Fieber wollen wir ansonsten doch genau vermeiden im und durch das Projekt. --Wortulo (Diskussion) 17:50, 2. Jul. 2024 (CEST)
- Weil du insistierst, insistiere ich mal zurück: Eine Technik kann keine Halluzinationen und auch keine Konfabulationen haben. Eine Technik träumt nicht und hat keine Sinne und keine Erinnerungen. Ergo ist es eine ggf. mit fragwürdiger oder naiver Absicht etablierte Wortschöpfung, die sich den Worten innewohnenden Aussagen bedient, um die betreffende Technik zu vermenschlichen. Das ist modernes, manipulatives Marketing - Klar ist auch, dass wir empfänglich für solches Framing sind. Viele denken an Träumen Androiden von elektrischen Schafen? oder auch Wem gehört Data?. Aber noch gibt es keine Androiden, noch ist es nur eine Technik ohne eigenes Bewusstsein und damit ohne Halluzinationen und Konfabulationen. --Jensbest (Diskussion) 18:50, 2. Jul. 2024 (CEST)
- Wenn wir über KI schreiben, müssen wir die in diesem Zusammenhang übliche Terminologie verwenden, sonst versteht am Ende kein Mensch mehr, was wir meinen. Man kann natürlich persönlich der Ansicht sein, "Halluzination" sei ein unpassender Ausdruck für den Sachverhalt, wenn es aber der übliche ist, sollten wir nicht versuchen, eine "bessere" Terminologie zu erfinden. Gestumblindi 20:20, 24. Jul. 2024 (CEST)
- Weil du insistierst, insistiere ich mal zurück: Eine Technik kann keine Halluzinationen und auch keine Konfabulationen haben. Eine Technik träumt nicht und hat keine Sinne und keine Erinnerungen. Ergo ist es eine ggf. mit fragwürdiger oder naiver Absicht etablierte Wortschöpfung, die sich den Worten innewohnenden Aussagen bedient, um die betreffende Technik zu vermenschlichen. Das ist modernes, manipulatives Marketing - Klar ist auch, dass wir empfänglich für solches Framing sind. Viele denken an Träumen Androiden von elektrischen Schafen? oder auch Wem gehört Data?. Aber noch gibt es keine Androiden, noch ist es nur eine Technik ohne eigenes Bewusstsein und damit ohne Halluzinationen und Konfabulationen. --Jensbest (Diskussion) 18:50, 2. Jul. 2024 (CEST)
- Habe es auf der Vorderseite und hier nochmal präzisiert und relativiert (Es gibt Halluzinationen und Konfabulationen - letzteres nehmen einige synonym, einige sehen eine Untergruppe) und auch die Einwände vorn erwähnt. Bei Fehler oder Bullshit müsstest Du immer fragen: Welcher? KI-Fieber wollen wir ansonsten doch genau vermeiden im und durch das Projekt. --Wortulo (Diskussion) 17:50, 2. Jul. 2024 (CEST)
- Ja, aber wir müssen hier in einem Projekt nicht ki-Propaganda-Sprech verwenden, die dem vermenschlichenden Framing dient. Das ist hier ja kein Artikel, ergo können wir es auch schlicht Fehler oder gerne Bullshit nennen. Diese beiden Begriffe treffen zu, während der Propaganda-Marketing-Begriff nur der Vernebelung durch Vermenschlichung dient. Wie gesagt, ist nur eine Meta-Anmerkung, aber dient dazu, dass wir hier nicht in ein ki-Fieber verfallen, sondern eine sachliche Distanz zu diesem Hype bewahren, während wir klären, wie wir mit den direkten und indirekten Auswirkung proaktiv umgehen. --Jensbest (Diskussion) 17:39, 2. Jul. 2024 (CEST)
- Das heisst aber "offiziell" und überall so (siehe Haupseite) und es braucht einen spezifischen Namen dafür, den man auf Halluzination (Künstliche Intelligenz) sogar verlinken kann (ist also definiert). Es ist natürlich "Bullshit", aber das ist nicht definiert :-) Wortulo (Diskussion) 17:13, 2. Jul. 2024 (CEST)