#KI schlägt bei #Wissenschaft in eine gesellschaftliche Schwachstelle:
https://www.draketo.de/politik/ki-wissenschaft-schwachstelle
@Thomaskirchner7 Das hoffe ich sehr!
Ich bin darauf gekommen, weil ich mich gefragt habe, warum KI sich in Wissenschaft so stark verbreitet, und gehe davon aus, dass es gerade schon länger bekannte Probleme in Wissenschaftskommunikation sind, die bisher durch Idealismus und Eintrittshürden und Strafen für Fehlverhalten (mit persönlichen Kosten in Höhe der Eintrittshürden) halbwegs geflickt waren.
Die Eintrittshürden wurden allerdings durch Ehrenamtliche gesichert. Teils aus Arbeitslosigkeit.
@ArneBab Dieser Idealismus darf eben nicht zu oft eine einseitige Angelegenheit bleiben. Wer aus Überzeugung herausgibt, redigiert, rezensiert, organisiert, wirbt etc., muss irgendwann spüren, dass Andere mitziehen (damit meine ich nicht die unbezahlte Arbeit). Bleibt das aus, schlägt Idealismus in Frust um. So habe ich von Kolleg:innen, die es eigentlich besseres wissen, schon gehört, dass Rezensionen ja auch die KI schreiben könne, und Aufsätze gleich mit – es lese ja eh niemand.
@Thomaskirchner7 Das halte ich bereits für ein Symptom des Problems, dass Veröffentlichen nur Kommunikation sein sollte, aber als Qualifikationsnachweis benutzt wird.
Wenn es nicht darum geht, dass die Texte gelesen werden, braucht es sie ja wirklich nicht – aber dann braucht es auch keine KI-Versionen davon. Schließlich ist der Wert von Veröffentlichungen, dass andere darauf aufbauen können und so der Horizont der Wissenschaft als Ganze erweitert wird.
KI-Versionen braucht man schon, damit KI-Agenten auf der Arbeit anderer KI-Agenten aufbauen können.
Und evtl. könnten die KI - Agenten dann noch eine tldr-Zusammenfassungen für die menschliche Beisitzerin anfügen, damit die sich weiterhin kreativ und wichtig fühlt. :-/
@framlin dazu passt das Fazit, dass ich für Übersetzungen gefunden habe:
https://www.draketo.de/politik/kommentare#uebersetzung-ki-beschaedigt-wert
LLMs können zusammenfügen, wo Konzepte in der Zieldisziplin schon vorkommen und nur zu wenig genutzt werden (⇒ anderer Ansatz, probier den hier nochmal aus), aber wo das neue Konzepte sind, ist die Wahrscheinlichkeit groß, dass sie stattdessen einfach was Bekannteres wiederholen.
Und das Aufschreiben ist ja kein Selbstzweck, sondern dient dem Verstehen und Vermitteln.
@Thomaskirchner7
Kommentare
Apropos Fazit zu Übersetzungen: Man kann die Ergebnisse eines LLM von vor einem Jahr mit dem von heute nicht mehr vergleichen. Das ist mittlerweile ne andere Liga. Der Sprung zur nächsten Liga findet mittlerweile ja im Vierteljahresrtakt statt.
Ein LLM kann evtl. keine vollkommen neuen Erfindungen machen, aber da es über so einen riesigen Wortschatz verfügt, (er-)findet und „versteht“ es auf jeden Fall immer wieder neue plausible Wortkombinationen.
@framlin Vor etwa zwei Monaten haben Lilypond-Leute ein ähnliches Experiment gemacht und die Ergebnisse waren ähnlich.
Soweit ich es verstanden habe weniger Zwischenschritte (kein "da fehlt ja die halbe Liste", das trivial zu finden ist), aber die wirklich problematischen inhaltlichen Fehler hatten sie auch.
Also die, die entweder wirklich Arbeit machen oder wirklich Probleme verursachen, weil das LLM z.B. aus Artgerechter Haltung eine Ablehnung von Antibiotika macht.
@Thomaskirchner7
@framlin auch bei den Aufgaben, die dir wirklich was bedeuten und bei denen du Fachkenntnis hast?
ja klar. Sie erzeugen Dateien, aus denen Platinen entstehen, sie schreiben die Firmware dazu und erzeugen Dateien, aus denen Gehäuse für die Platinen entstehen.
Vor ein paar Wochen hatte ich eine von A bis Z von Claude entworfene Platine für einen Synthesizer in der Hand, die auf den ersten Versuch ohne irgendwelche Patches oder dergl. elektrisch funktioniert hat und dessen Firmware auch genau das tut, was sie soll.
Ist natürlich kein „one shot“
@framlin Sind die Platine und die Firmware gut?
Ja. Sie tun was sie sollen und sind von der Architektur her gut.
Aber, das machen die LLMs nicht von selbst. Ich hab da ein Konglomerat von Agenten, die sich gegenseitig anweisen und kontrollieren und ich mache Vorgaben.
Ich bin also nicht überflüssig, aber es kommt viel viel mehr dabei heraus, als würde ich das alles von Hand machen und es ist deutlich entspannter, da ich nur hin und wieder eingreifen und nicht immer selbst aktiv sein muss.
@framlin Das klingt für mich nicht nach "sie sind gut", sondern nach "ich schaue von außen und sehe dabei keine Probleme".
Ist der Eindruck richtig? Liest du den Code der Firmware?
(von Chipdesign habe ich zu wenig Ahnung um zu wissen, woran Qualität erkennbar ist)
@Thomaskirchner7
Ich lese ihn an den Stellen, die mich interessieren. Ich lese ja auch nicht den kompletten Quelltext von Betriebssystemen oder Framewerkteilen oder Bibliotheken oder Kollegen.
Aber an den Stellen, wo ich sichergestellt haben will, dass er das tut, was ich will. Z.B. Events auf Interruptbasis mit DMA und kein Polling oder dergl. da schau ich mir den Quellcode direkt an.
Genau, wie ich das auch mit dem Code von Kollegen, oder von Frameworks gemacht habe.
@ArneBab Danke für den Einblick in Deine Gedanken! Weil ich heute in mehren persönlichen Gesprächen zu ähnlichen Themen in die Rolle des Zweckoptimisten gedrängt wurde, mache ich mal genau da weiter: Ich glaube, dass die aktuellen Angriffe auf unsere Wissenschaftskommunikation durchaus die Chance bergen, uns die die Stärken von Wissenschaft bewusster zu machen, um wieder überzeugter für ihre Bewahrung zu kämpfen. Wir erleben: Was Forscher:innen beizutragen haben, können LLMs nicht ersetzen!