KI und Literatur: Kann das gutgehen?

https://www.fr.de/kultur/literatur/ki-und-literatur-kann-das-gutgehen-92589795.html

fr.de schrieb:
Die Frankfurter Buchmesse diskutiert über Künstliche Intelligenz und Literatur

Wir schreiben das Buchmessenjahr 1 nach ChatGPT – jenem Programm, dessen Sprachmodell den Text an sich in Frage stellt und der Literatur den Boden unter den Füßen wegzuziehen droht. Zahlreiche Gespräche und Podiumsdiskussionen zum Thema ziehen sich durch die Messetage, und noch immer scheint der Mensch überrascht über den Evolutionssprung der Maschine und ratlos im Handling der Künstlichen Intelligenz.
Die großen Fragen, die die Literaturwelt beschäftigen, lauten: Wem gehört der Text und wer darf ihn verkaufen? Wird die Grenze zwischen menschlichen Autor:innen und textender Maschine aufgehoben? Wozu wird die KI fähig sein – wird sie Schriftsteller:innen überflüssig machen? Wird der Mensch zum bloßen Korrekturwerkzeug, das die Fehler der KI ausbügeln muss?

Der Umgang mit der KI ist nach wie vor drastisch unreguliert: ein Wirrwarr an Daten schwirrt in ihr herum, ganz offensichtlich sind auch urheberrechtlich geschützte Werke darunter. Dagegen klagen und protestieren zahlreiche Autor:innen; Margaret Atwood, John Grisham und Jonathan Franzen sind einige der prominentesten. Einen „Urheberrechtsskandal auf höchster Ebene“ nennt es in einer Buchmessen-Diskussionsrunde die Vorsitzende des Verbands deutscher Schriftstellerinnen und Schriftsteller, Lena Falkenhagen. Eigentlich müsse man alles löschen und noch mal neu aufsetzen, damit Transparenz hergestellt werden könne. Es sei Zeit darüber nachzudenken, wie man KI regulieren kann, denn momentan betreibe sie „Raubbau am geistigen Eigentum“. Hoffnungen liegen auf dem sich gerade in Arbeit befindlichen AI Act der EU.

Was kann man momentan tun? Ein empfohlener Schritt für Autor:innen vom Börsenverein des Deutschen Buchhandels: einen Nutzungsvorbehalt für das eigene Werk erklären, ein maschinenlesbares „Opt-Out“, um es vor Text-und Datamining zu schützen - das erklärt Susanne Barwick, stellvertretende Justiziarin beim Börsenverein, der FR in einer vom Verein AI Frankfurt Rhein-Main initiierten Podiumsdiskussion.
Der Rechtswissenschaftler und Rechtsanwalt Florian Reiling, der sich mit geistigem Eigentum befasst, unterstützt zudem die Idee einer Verwertungsgesellschaft; so könnten Autor:innen profitieren, wenn ihre Texte von einer KI genutzt werden.

Abgesehen davon treibt die Verlagsbranche im Augenblick die Frage um, wie man KI-generierte Texte überhaupt nutzen kann - KI-geschriebene Fachbücher gibt es schon. Das Problem, laut Susanne Barwick: „Wenn man ein rein KI-produziertes Buch auf den Markt bringt, hat man keine exklusiven Nutzungsrechte. Das heißt, am nächsten Tag kann ein anderer Verlag genau das gleiche Buch auf den Markt bringen.“
Eine damit verbundene Kernfrage ist: Wer ist Urheber:in des Textes? Dabei spielt juristisch die „Schöpfungshöhe“ eine Rolle. Die Buchautorin und Literaturwissenschaftlerin Jenifer Becker forscht und lehrt zum Thema „Schreiben mit KI“ - sie nutzt für ihre Experimente eine „Story Engine“, ein KI-Programm, mit dem auch lange Texte in Mensch-Maschine-Koproduktion entstehen. Die Texte seien aber „sehr schematisch, sehr stereotypisiert und sehr klischiert“. Anspruchsvolle Romane könnten so noch nicht entstehen.

Wessen geistiges Eigentum ist eine solche Ko-Produktion, bei der eine Autorin promptet, abändert, Figuren nachschärft? Das sei rechtlich noch nicht ganz herausgearbeitet, sagt Reiling. Die Eigenleistung beim Prompten sei zu bewerten, auch die Nachbearbeitung des Textes. Rechtliche Fragen gebe es entlang der gesamten Kette der Produktion: „beim Sammeln, Trainieren, beim Generieren und beim letztlichen Output selbst“.

Noch ist die KI nicht in der Lage wirklich ansprechende Romane zu erstellen, aber was wird die Zukungt dazu bringen?
Was denkt ihr in Bezug auf KI, das Schreiben und das Verlagswesen?
Ich denke ja, dass sobald die KI besser wird, dann Verlage es mindestens ausprobieren werden via KI Romane zu erstellen und zu verkaufen, denn die Marge ist am Ende für den Verlag selbst einfach höher.
Geld regiert zu Welt, das war schon immer so.
Dennoch wird es immer so sein, dass Menschen weiterhin der Kreativität ihren Lauf lassen und Bücher/Texte schreiben. Die Frage ist nur, wie groß wird ihr Anteil auf dem Markt noch sein?

Ehrlich gesagt, finde ich solche Diskussionen oft ermüdend, da sie meist von 2 Arten von Menschen geführt werden:

1. denen die sehr wenig von KI verstehen
2. denen die solche Modelle selbst bauen und dann verkaufen wollen

dass sich dann ein verzerrtes Bild davon ergibt, was die KI nun eigentlich kann, ist vorprogrammiert.




KI kann Wörter generieren und aneinanderreihen, aber nicht schreiben.

"Aber gotthelf, es gibt doch Sachbücher und Paper die von KI geschrieben wurden!"
Joa, das liegt zum einen daran, dass unsere Ansprüche zur Textqualität - gerade bei wissenschaftlichen Publikationen - unterirdisch sind, zum anderen daran dass man bei "Sachtexten" wie auf Schienen fährt.

Jeder der ChatGPT schon länger benutzt wird sehen, dass die von 3.5 generierten Texte um einiges kohärenter sind als die früherer modelle, aber die von GPT4o qualitativ nicht so viel besser sind dass man ohne weiteres prognostizieren könnte, diese Entwicklung würde sich linear fortsetzen. Wenn du GPT fragst was "show don'T tell" ist, wird er dir das ganz genau erklären können. Aber GPT kann dir show don't tell nicht konsequent umsetzen. Schon allein so etwas zeigt, wie unintelligent diese KI eigentlich ist.

Und all das würde man auch gar nicht so wundersam finden, wenn man wüsste, wie genau diese KI eigentlich arbeitet. Ich versuche es mal einfach zu erklären, falls dem einen oder anderen das nicht bekannt sein sollte.

Ganz grob gesagt, versucht das Modell - gegeben einen Input aus Tokens - ein weiteres Token vorherzusagen. So gut wie alle Modelle arbeiten sequentiell, d.h. erst ein Token generieren, dann das nächste, etc. Das alles arbeitet unter der Annahme, dass die Tokens irgendwie von Tokens zuvor abhängen. Was ja auch nicht falsch ist, aber bei Sprache oft nicht die ganze Wahrheit, denn es gibt in der Sprache auch Vorwärtsbezüge, die die KI gar nicht berücksichtigen kann, denn diese Tokens wurden ja noch nicht generiert. Und sobald etwas generiert wurde, wird es auch nicht mehr überarbeitet.
So, wir nehmen also einen Satz von Tokens und dann wird jedes Token gewichtet, wie wichtig es für den Output ist (das nennt sich attention und ist so ziemlich der heilige Gral von textgeneratoren), und basierend darauf, ein Token generiert, das am wahrscheinlichsten darauf folgen könnte. Das bringt auch Probleme mit sich, denn was am wahrscheinlichsten ist, ist nicht immer richtig oder gut. Dazu bringt das Modell oft eine "perplexity score" rein, die dann sagt: "ey du, nimm vielleicht lieber Vorschlag nummer 3". Das ist dann ein Tradeoff, denn je höher die perplexity, desto kreativer, aber auch potentiell unsinniger, wird der output. Diese menschliche Kreativität, dass etwas vollkommen unterwartet aber trotzdem schlüssig ist, kann KI gar nicht nachahmen.

ein großes Problem der KI war - und ist immer noch - Hallutination, Probleme mit "common sense" , etc. was sich alles zusammenfassen lässt unter "KI hat keine Wissensbasis". Das wird so langsam besser, es gibt bereits viele Ansätze um KI mit Datenbanken zu verknüpfen, was aber in vielen Fällen nur bedingt funktioniert. KI ist zwar relativ gut darin, Fakten zu benennen, oder korrekte Fakten zu liefern, aber nicht so gut darin, mit ihnen umzugehen (also, z.B etwas daraus zu folgern). Das mag erstmal so klingen als wären wir nah dran, aber technisch gesehen sind das ganz andere Dinge.
Fakten aus einem Text zu ziehen - und so zu tun als würde man verstehen um was es da geht - ist eine relativ simple Angelegenheit von information extraction. Das ging auch vor KI schon und auch in modernen Systemen wie RAGs wird auf sehr alte Methoden zurückgegriffen: Da wird die Quelle und die Frage als Vektor dargestellt ( nennt sich embedding) und dann wird der Fragevektor mit allen Quellen mittels Kosinus-ähnlichkeit verglichen und der ähnlichste Quellenvektor wird dann herausgenommen und dem Benutzer als Antwort serviert, eventuell noch in schönen Text verpackt. Viel anders macht es GPT auch nicht.

Das ist aber so als würde ich in einem chinesischen Text nach einer speziellen Zeichenfolge suchen, dazu muss ich nichts über den Text oder die Zeichen wissen, als wie sie aussehen. Man kann der KI also nicht unterstellen dass sie "versteht" um was es da geht. Ja, das ist bei GPT4 deutlich besser geworden, aber auch hier ist das eigentlich eher ein "Trick" als wirkliches verstehen:
Wenn ihr euch erinnert, GPT3.5 hatte oft probleme mit kombinatorischen Probleme, z.B wie stapelt man am besten eine Liste von Sachen aufeinander. Die Forscher von OpenAI haben die bekanntesten solcher Probleme herausgenommen und eigens Lösungen dafür aufgeschrieben, und dem Modell dann als Input serviert, damit es diese Inputs lernt, in der Hoffnung dass es solche Lösungsstrategien auf andere Probleme übertragen kann. Ist auch gar nicht so schlecht vom Ansatz her, aber jeder von uns könnte in 5 prompts ein Problem produzieren, mit dem auch GPT4o nicht zurechtkommt.


So, all in all ... solange Modelle sequentiell Tokens generieren - und es gibt auch welche, die einen Input simultan erstellen, die profitieren aber oft nicht von attention und sind dann qualitativ viel schlechter - wird man sehr viele Feinheiten von Sprache schlicht nicht darstellen können. Und solange der Trade-off von Vorhersehbarkeit und Nonsense existiert, wird man keine langen Texte erstellen können, wo sich nicht ständig Wörter und Phrasen wiederholen.

Das ist also keine Frage von "wann", sondern "ob".

Dies nur von der technischen Seite beleuchtet.

Interessantes Thema, bei dem ich mich immer davor drücke, darüber nachzudenken - auch in anderen Bereichen wie der Kunst, weil Pinterest für mich durch die Flut an AI-Bildern, die man nicht ausblenden kann, beinahe unbrauchbar geworden ist.

Zurück zum Schreiben:

Tatsächlich nutze ich AI. Für mich ist das ein "Diskussionstool". Da ich mittlerweile auf Englisch schreibe, aber nicht alle Vokabeln der Welt in meinem Kopf abgespeichert sind (Ich warte noch auf Fortschritte zu Gehirn-Chips   ), kann AI da echt nützlich sein. Besonders wenn man ein ganz bestimmtes Wort sucht, das aber weder Hirn noch Übersetzungstools rausspucken. Nach einer kurzen Erklärung des gesuchten Wortes und des beabsichtigten Tons, erhält man Vorschläge, aus denen man nur noch auswählen muss. Ähnlich funktioniert es bei der Wahl angemessener Wörter abhängig ihres Kontextes. Oder wenn man - wie ich - Probleme mit logischen Satzabfolgen innerhalb eines Absatzes hat.
Wobei AI mir nicht wirklich helfen kann, ist, wenn es im Englischen keine direkte Übersetzung von dem deutschen Wort gibt, das einem im Kopf schwirrt. Diese fehlende Präzision lässt mich doch manchmal darüber nachdenken, wieder einen deutschen Text zu verfassen.

Aber mittels AI ganze Texte oder Bücher verfassen? Ich hatte das mal wiederholt getestet, aber noch ist AI so stur, dass sie selbst mit den genausten Anweisungen nichts auf die Reihe bekommt, geschweige denn mehrere Bücher eines Autoren in einem einheitlichen Stil verfassen kann. "Show don´t tell" umzusetzen oder Zusammenhänge zu verstehen, wie Gotthelf angesprochen hat, scheinen unmöglich.
Längere Werke generieren zu können, geht bestimmt irgendwann. Es wird ja stetig daran gearbeitet, weil es außer den Künsten keinen anderen Bereich gibt, in dem AI, KI und Technik einen größeren Nutzen hätten  Ob die Ergebnisse dann aber sehenswert sind, weiß ich nicht.

Wir können uns in Deutschland - oder der EU - natürlich Gesetze ausdenken (bzgl. AI-Anteile in Schriftstücken, die durch Scanner sowieso nicht zuverlässig nachgewiesen werden können). Das bringt aber einmal nichts, wenn der Rest der Welt uns diese Bücher ohne Einschränkung trotzdem in die Regale stellen kann.
Ich hatte mich erst letztens darüber unterhalten, dass ich früher (nun ja, auch heute noch) nur Bücher von englischsprachigen Autoren gelesen habe, sofern es nicht was für die Schule war. Das lag auch daran, dass zumindest in der Fantasy/Young Adult Abteilung in unserem Schreibwarenladen keine Werke deutscher Autoren ausgestellt waren. Und (mindestens) die Werke des "Landes der Freiheit" im Westen wird bestimmt auch mit oder besonders durch AI weiterhin zu uns rüberfluten.

Über das Verlagswesen selbst habe ich noch gar nicht nachgedacht. Da lasse ich mal anderen den Vortritt. Ich fände es aber schade, wenn ausschließlich auf die Wirtschaftlichkeit geachtet werden und Schreiblingen keine Chance mehr gegeben werden würde, ihre Werke zu verbreiten - was bereits schwer genug ist.

Man sagt zwar, dass AI die "menschliche Kreativität" (oder Verstand/verknüpftes Denken) nicht ersetzen kann, aber so sicher bin ich mir nicht. Ich hoffe es nur stark.
Was den Büchermarkt angeht: Bücher, die ich als nicht besonders kreativ ansehe (Copycats, Cultural Appropriation etc.), gibt es bereits auf dem Markt. Ich wüsste also nicht, was Menschen davon abbringen würde, nicht auch AI-generierte Bücher, "ohne Kreativität und innere Logik" zu veröffentlichen.
Überspitzt und leicht humorvoll gesagt, könnte ich mir vorstellen, dass die Interaktion mit Autoren anders verlaufen würde, wenn diese erst einmal im Prompt-Protokoll nachschauen müssten, was die eigentliche Intention hinter gewissen Worten oder Entscheidungen war.
Interessant finde ich auch das Szenario, in dem Menschen immer weniger Druckexemplare erwerben, nur noch eBook lesen (Ich oute mich als Schuldige) und irgendwann - wenn nicht schon heute - die Möglichkeit genutzt wird, sich "Gute Nacht Geschichten" spontan und auf Knopfdruck generieren zu lassen. Wozu dann überhaupt noch Geld ausgeben?

Schlussendlich hoffe ich, dass Menschen weiterhin Bücher lesen und schreiben werden, und dass die eigene Kreativität und Mühe weiterhin geschätzt und geschützt werden. Ich würde sonst komplexe Plots, unterschellige Hinweise, easter eggs usw. sehr vermissen.


____
Tut mir leid für die fehlende inhaltliche Struktur und den "informellen Ton".

Ich nutze ChatGPT auch zum Schreiben. Beim Brainstorming kannst du Ideen reinschmeißen und die KI dir Ideen ausspucken lassen. Ist jetzt natürlich viel scheiße dabei, hin und wieder findet man auch die Nadel im Heuhaufen und viel kostet es ja nicht


Was ich noch anmerken wollte: ich glaub, wir erleben jetzt schon einen Umschwung von "woah, toll was die KI so kann" zu "och nöö, nicht schon wieder KI generierte scheiße", und die Zahl derer die KI-Kunst wirklich ohne caveats gut findet, schwindet. auch werden wir Menschen immer besser darin, KI-generiertes von menschlicher Kreation zu unterscheiden. Falls das der Trend sein sollte (zumindest beim Erkennen bin ich mir da fast sicher), glaube ich nicht dass KI-generierte Bücher einen großen Markt finden würden.

Wie sagte neulich meine Tochter?
Warum fängt man eigentlich ausgerechnet bei den kreativen Themen an mit der KI? Kunst, Fotografie, Lyrik, Belletristik?
All das, was uns im Prinzip von der Tierwelt abhebt?
Merkwürdig dass man nicht damit beginnt mit der natürlichen Dummheit aufzuräumen.
Es wird uns einholen.
Wie die Fotografie einst den Portraitmaler ersetzte, ihn aber nie verdrängte, wird das mit KI ähnlich werden.
Warum?
Warum stört uns das vielleicht gar nicht mal so?
Versuche es mal mit Musik. Ich höre gerne Genesis, die alte Besetzung mit Peter Gabriel.
Die gibt es nicht mehr. Bisher hatte man ja nur die Möglichkeit, Bands mit ähnlichem Stil zu hören.
Ich freu mich, wenn ich Zitate heraushören kann, die mich an die Band, die zitiert wird, erinnern. Wenn das mit neuem kunstvoll verknüpft ist, dann noch besser.
Halten wir es beim Lesen nicht ähnlich?
Erst alle HP gelesen und schon entdeckt man Zauberlehrlinge allüberall. Man interessiert sich, weil man das grade gelesene gut fand.
Ähnlichkeit erwünscht.
Man sucht bei neuen Büchern nach Autoren die einen ähnlichen Stil wie der oder der Autor.
All das kann KI jetzt schon liefern. Wenn man den Vergleich mit der Fotografie sind, sind wir vielleicht grad beim Farbfilm angelangt.
Was noch kommen wird, werden wir sehen.
Das Geld?
Hier wird es sein wie in der Malerei. Irgendwann wird es wenige Künstler geben die damit großes Geld machen auch wenn Millionen schreiben.

@theo: Dass KI gerade im Bereich der kreativen Arbeit solche Fortschritte gemacht hat, finde ich auch beachtlich (und erschreckend). Vor 10 Jahren waren die meisten Menschen noch der Auffassung, dass KI mit langweiliger Büroarbeit aufräumt und unsere Autos fahren wird. Und jetzt? Selbstfahrende Autos sind im Alltag noch lange nicht angekommen und auf der Arbeit muss ich die stupiden Checklisten und Tabellen noch immer selbst ausfüllen, während Bilder, Stimmen und Texte von KI generiert werden, die kaum von einem menschlichen Urheber zu unterscheiden sind. Wirklich verrückt...

Leider muss ich mich als jemanden outen, der persönlich sehr kritisch zu KI in vielerlei Hinsicht eingestellt ist. Es gibt so viele Herausforderungen in Bezug auf KI, wie beispielsweise die Nutzung für Propagandazwecke, Arbeitsplatzverluste (auch, wenn viele ja der Meinung sind, dass genauso viele Arbeitsplätze wieder entstehen, wird es aufgrund der schnellen Entwicklung Verwerfung geben, die nicht einfach mit Umschulungen aufzufangen sind), Sinnverlust und die wachsende Macht einzelner Unternehmen.

Aber ich möchte mich hier mehr auf den Einsatz von KI im kreativen Bereich und insbesondere im Bereich des Schreibhandwerks beziehen. Wie Gotthelf ja bereits erläutet hat, sind wir noch weit entfernt von wirklich kreativen, innovativen Werken, die mit KI erstellt werden. Und ich glaube, dass solche Kreationen in Zukunft noch gefragter sein könnten als heutzutage, insofern der Algorithmus es erlaubt. Denn man sieht es schon bei generierten Bildern: das Internet wird regelrecht überschwemmt (und da beziehe ich mich nur auf die Bilder, die ich klar als KI-generiert erkennen kann)!

Das einzige was da helfen könnte sind Kontrollinstanzen. Wir brauchen klare juristische Regularien, auch in Bezug auf das Urheberrecht, und Organisationen, die kontrollieren, ob ein Werk mit KI erstellt wurde oder nicht. Eine Kennzeichnungspflicht wäre ebenfalls sinnvoll.

Zum Schluss noch etwas kitschiges
Für mich ist Kunst, und darunter zähle ich sowohl Literatur, als auch Musik, Zeichnungen, Gemälde etc., etwas fast schon heiliges. Und dies gilt sowohl für den Leser, der dem Pfad des Autors folgt, einem Pfad, der das Potential besitzt die Seele des Lesers zu berühren und damit lebensverändernd zu wirken, als auch für den Autoren selbst. Ich glaube daran, dass der Schaffensprozess einen intrinsischen Wert hat und nicht nur das Endergebnis (oder Produkt um mal beim kapitalistischen Vokabular zu bleiben ). Ich bin letztes Jahr den Jakobsweg gegangen und habe einige sehr interessante spirituelle Erfahrungen gemacht, die mir gezeigt haben wie wichtig es ist die Kraft aufzubringen, um jeden Tag wieder aufzustehen und trotz leichterer Verletzungen und Maskelkater immer weiter zu gehen. Ich wollte unbedingt das Ende erreichen. Und als ich dann in Santiago de Compostella angekommen war, realisierte ich erst, dass es niemals um das Ankommen ging, sondern um jeden einzelnen Tag auf dem Weg selbst.

Um es mal mit einem Zitat aus Stormlight Archives von Brandon Sanderson zu beschreiben:

“Life before Death.
Strength before Weakness.
Journey before Destination.”

Ich sehe in KI die Gefahr, dass man verleitet wird diesen Weg abzukürzen oder sich vollständig von KI tragen zu lassen. Natürlich muss das jeder für sich selber wissen und ich verurteile niemanden, der KI verwendet, aber trotzdem hoffe ich, dass es lediglich als kleine Unterstützung genutzt wird.

So genug des Wirrwarrs

du kennst ja sicherlich die AI-Artpocalypse auf Seiten wie Deviantart. Und 99% ist da einfach ein haufen scheiße. Ich hab damals relativ früh mit StableDiffusion angefangen und mir relativ viel selbst angelernt. Habe eigene Modelle trainiert (bzw. man muss sagen, gefinetuned, weil hetzutage trainiert niemand modelle von Grund auf), ich hab dann immer die Generationen mittels inpainting verbessert und meist in Krita dann manuell nachbearbeitet. Da kam's auch mal vor dass ich nen kompletten Arm neu zeichnen musste.
Aber da hab ich eins gelernt: für viele Leute ist es egal ob die Frau im Bild 7 Finger hat ... aber die meisten Menschen schätzen Qualität, selbst wenn sie sie nicht verlangen. Und je mehr Bilder "schön aussehen", desto weniger wird visuelles tamtam ein Qualitätsmerkmal sein. Das sehen wir in Games schon lange: Jede engine kann realistisch rendern, das ist nichts womit noch geworben wird, bzw. nichts das Spieler noch dazu bringt einen Titel zu kaufen (Wenn es das je war, jetzt aber noch unwichtiger).
Und genauso wird es bei Kunst und Literatur auch sein: Dort wird dann der Schreibstil bzw der Artstyle weniger wichtig werden und es geht dann mehr um das was abgebildet bzw. geschrieben wird, also um den Inhalt. Vielleicht wird die Messlatte höher sein, aber jemand der sein Handwerk wirklich beherrscht, wird trotzdem bessere Resultate produzieren können als irgendein AI-bro, der nur auf die Macht der KI vertraut.

Was die Jobs betrifft ... das sehe ich tatsächlich nicht. Zumindest nicht im kreativen Bereich.
Gut, es wird (und tut es schon) individuelle Personen treffen, die z.B davon leben, dass sie Furry-commissions machen oder ein eigenes Comic auf Patreon verkaufen etc. Aber Künstler (oder adjacents) die in Firmen arbeiten - ob Freelance oder angestellt - werden ganz sicher nicht zu tausenden entlassen werden.
1. ist KI-generiertes Gut rechtlich auf sehr wackeligem Boden. Da gibt es in den USA schon mehrere Urteile, die im Prinzip ein Schlag ins Gesicht für die AI-Community sind. Keine Firma wird das Risiko eingehen wollen, dass ihr Film oder Spiel einfach kopiert werden kann, weil es KI generiert ist.
2. wenn du für jemanden arbeitest, dann musst du dich ganz oft sehr stark an vorgaben halten, da hast du einen art director der ganz genau weiß was er will, und wehe du weichst einen Millimeter davon ab. Das kann KI nicht. KI generiert so ungefähr was du vielleicht möchtest, wenn du Glück hast. In professionellem Umfeld ist das nicht genug.
3. selbst wenn KI wirklich Resultate liefern könnte, die gut genug sind, bedeutet das nicht dass jetzt reihenweise Leute entlassen werden. Ja, jetzt könnten theoretisch 2 die Arbeit von 10 machen. Aber man kann es auch anders herum sehen: Jetzt können die 10 noch viel mehr leisten. Games und Filme müssen sehr oft Dinge streichen weil Zeit und Resourcen nicht ausreichen, das wäre nun viel einfacher. Jeder kreative Prozess ist iterativ, da mehr Möglichkeiten zu haben, das werden sich nur die wenigsten manager entgehen lassen.
4. in vielen Fällen spart KI tatsächlich gar nicht so viel Zeit wie man vielleicht denken würde. Habe mich letztens mit den Animatoren aus meinem Team unterhalten, was sie von Cascadeurs KI-hilfe halten, und die waren sich alle einig: es ist ganz sinnvoll um einem Junior unter die Arme zu greifen. Aber ein senior arbeitet so schnell, dass ihm diese Features rein gar nichts an Zeit einsparen.


Das mit den wenigen großen Firmen ist eigentlich auch übertrieben. Da gab es vor einiger Zeit ein sehr cooles internes Dokument von Google das nannte sich "we have no moat, and neither does OpenAI":
https://www.semianalysis.com/p/google-we-have-no-moat-and-neither

Im Prinzip geht es darum, dass die großen Firmen mit einem starken Vorsprung bei der KI angefangen haben, aber OpenSource ist ihnen mittlerweile dicht auf den Fersen und es kommen immer neue hinzu. Jedes Mal, wenn irgendein großer KI anbieter dies und das aus "ethischen Gründen" nicht erlaubt, bildet sich eine neue Nische, die ein OpenSource anbieter ausfüllen kann. Das war 2023. Heutzutage gibt es OpenSource modelle die in einigen spezialisierten Tasks besser sind als GPT-4.


ich arbeite sehr viel mit KI und bin dem grundsätzlich sehr offen gegenüber eingestellt, aber ich wäre vorsichtig mit Prognosen von großer Veränderung. Ich denke, je tiefer wir in KI einsteigen und je größer und besser unsere Modelle werden, desto mehr verstehen wir eigentlich was die KI alles NICHT kann.

Alastor schrieb:
Noch ist die KI nicht in der Lage wirklich ansprechende Romane zu erstellen, aber was wird die Zukunft dazu bringen?

Nun, hier ist schon mal eine sprachliche Ungenauigkeit, die eine Definition erfordert, um Fronten zu klären. Was sind "wirklich ansprechende Romane" und wer nimmt sie so wahr?

Zum anderen: Es ging letztens durch ein Forum/die Medien, dass z.B. in Brasilien eine Dame KI-Romane schreiben lässt und angeblich problemlos davon leben kann. Sie gibt einen Prompt ein, liest das Ergebnis Korrektur, feilt ein paar Ecken rund - fertig, nächster Text. Natürlich ist das nichts für den Literatur-Nobelpreis, aber offenbar wird damit ein Nerv getroffen und ein Geschäftsfeld bedient.
Vllt. um es ganz simpel herunterzubrechen - jede Gesellschaft bekommt die Literatur, die es verdient. Ich kenne mich nicht mit den Bildungs- und Leistungssystemen andere Länder aus, deshalb kann ich nur für Deutschland sprechen: Wenn diese beiden Systeme seit vielen Jahren nur nach unten korrigiert werden, d.h. dass immer auch der Schwächste in der Gruppe mitgenommen werden muss, während dem Leistungsstärksten gleichzeitig langweilig ist, entsteht einfach nur Mittelmaß. Bestes Beispiel dafür werden mal wieder die Olympischen Spiele sein. Gleichzeitig werden so aber auch Nobelpreisträger verhindert ...

alibikolibri schrieb:
Zum anderen: Es ging letztens durch ein Forum/die Medien, dass z.B. in Brasilien eine Dame KI-Romane schreiben lässt und angeblich problemlos davon leben kann. Sie gibt einen Prompt ein, liest das Ergebnis Korrektur, feilt ein paar Ecken rund - fertig, nächster Text. Natürlich ist das nichts für den Literatur-Nobelpreis, aber offenbar wird damit ein Nerv getroffen und ein Geschäftsfeld bedient.

Hier gehen mehrere Effekte Hand in Hand. Es ist wohl nicht zu leugnen, dass KI generierte Texte ihre Zielgruppe finden werden, beispielsweise weil der Konsum höher steht als der Inhalt oder weil Leute immer wieder gerne die gleichen Geschichten lesen, auch wenn mehr oder weniger nur die Satzstellung anders lautet und die Namen ausgetauscht worden sind. Bestes Beispiel sind für mich hier die Marvel und Hollywood-Inhalte, die aus einem solchen Einheitsbrei bestehen, dass sie immer ein großes Publikum ansprechen aber in einem guten Storytelling mittlerweile kläglich versagen (meines Erachtens). Genauso bei manchen Zeitungen wie dem Springer Verlag, wenn hier die Qualität des Outputs irrelevant ist, kann KI ein gutes Mittel sein. Hinzukommend zu deinem Beispiel ist aber noch der Survivorship-Bias, da natürlich von einer Person mit Erfolg berichtet wird, den tausend anderen, die ebenfalls KI zum Schreiben verwenden, aber der Erfolg verwehrt bleibt. Als drittes bleibt offen, wie lange die Menschen damit gefüttert werden können, denn ähnlich von KI generierten Bildern, bei denen langsam eine Diskriminations-Fähigkeit (also der Unterscheidung zwischen Mensch vs KI gemacht) entsteht, kann sich das bei Texten ebenfalls entwickeln. Denn wenn eines den Menschen ausmacht, dann seine Anpassungsfähigkeiten.

Wie ich in einem Interview gelesen habe, dann das KI wie eine Fast Fashion ist: Klamotten gibt es in den letzten Jahrzehnten immer mehr und immer billiger, die Qualität ist aber gleichermaßen runtergegangen.


OpenAI hat mehrmals gewarnt, dass die KI irgendwann so mächtig sein könnte, dass sie sich zu einer Superintelligenz entwickeln könnte. Das klingt so, als ob ein irdischer Gott gebaut oder trainiert wird. Damit wird ein Narrativ bedient und die Probleme im Hintergrund werden effektiv verschwiegen: Model Collapse, das GPT für "generative PRETRAINED transformer" steht, die immensen Strom- und Aufwandskosten jedes einzelnen Prompts und das KI ein statisches System ist, welches wir vermenschlichen und Bewusstsein zusprechen und glauben, eine KI könne denken oder lernen. Dass sie das nicht tut, hat Gotthelf ausführlicher beschrieben, damit wir Menschen aber schnell etwas einen menschlichen Bewusstsein zuschreiben, braucht es nur ein Stein mit zwei Augen und ggf. einer Nase oder Mund. Bei Sprache sind wir umso anfälliger, da das der Grundstein der menschlichen Zivilisation ist.

Crackle42 schrieb:

OpenAI hat mehrmals gewarnt, dass die KI irgendwann so mächtig sein könnte, dass sie sich zu einer Superintelligenz entwickeln könnte. Das klingt so, als ob ein irdischer Gott gebaut oder trainiert wird. Damit wird ein Narrativ bedient und die Probleme im Hintergrund werden effektiv verschwiegen: Model Collapse, das GPT für "generative PRETRAINED transformer" steht, die immensen Strom- und Aufwandskosten jedes einzelnen Prompts und das KI ein statisches System ist, welches wir vermenschlichen und Bewusstsein zusprechen und glauben, eine KI könne denken oder lernen. Dass sie das nicht tut, hat Gotthelf ausführlicher beschrieben, damit wir Menschen aber schnell etwas einen menschlichen Bewusstsein zuschreiben, braucht es nur ein Stein mit zwei Augen und ggf. einer Nase oder Mund. Bei Sprache sind wir umso anfälliger, da das der Grundstein der menschlichen Zivilisation ist.

Ich stehe da auf der Seite des KI-Pioniers Hans Uszkoreit, der überzeugt davon ist, dass es in drei bis fünf Jahren KI-Assistenten geben wird, deren Interaktionen mit dem Nutzer, nicht mehr von menschlichen unterschieden werden können. Damit ist für mich alles gesagt.

in sehr task-spezifischen Domains gibt es bereits seit Jahren Chatbots die de facto den Turingtest bestehen. Aber der Test selbst ist mMn sehr schwierig ernstzunehmen, weil nicht wirklich definiert ist wie lange die Unterhaltung sein soll oder worüber.

Damit kannst du sehr simple machinen haben, die den in ihrer Domain bestehen, während viel ausgereiftere Modelle in einem eher generellen Umfeld durchfallen würden.

Wenn wir also davon ausgehen, dass Herr Uszkoreit hier AGI meint, dann würd ich gerne wissen wieso er das denkt^^. Habe mich nämlich mit vielen Spezialisten darüber unterhalten, u.A mit Prof Arvind Narayanan von Princeton, Prof Björn Ommer von der LMU und Prof Georg Groh von der TUM, und keiner von denen glaubt dass AGI in den nächsten 10-15 Jahren möglich sein wird, falls überhaupt. Die Trends gehen in die Richtung, dass "echte" AGI mit Transformern, Attention und allem, worauf ChatGPT und die anderen Modelle gebaut sind, nicht machbar ist, sondern dass es ein komplettes Umdenken bei der Erstellung von Modellen geben müsste.
Bleibt natürlich zu erwarten, welche Möglichkeiten Quantencomputer liefern, da gibt es schon Ansätze für QNLP (quantum natural language processing)

Wenn ich mir meine Gespräche auf Tinder so anschaue, glaube ich auch manchmal mit Bots zu schreiben - aber nicht aus dem Jahr 2024, sondern eher aus 2005

Ich finde das ein interessantes Thema, besonders nachdem ich gehört habe, dass angeblich Disney schon einen ganzen Film mit KI geschrieben haben soll (Wish), ob das stimmt, keine Ahnung.
WENN es stimmt, finde ich das krass, besonders da der Film ja jetzt nicht so erfolglos war, würde ich meinen.

Ich habe es mal so just for fun vor einiger Zeit ausprobiert, gab einer KI eine Idee und sagte "schreibe eine Geschichte dazu". Ich hab vielleicht ungefähr 5 Zeilen bekommen, mehr nicht.

Keine Ahnung, ich habe jetzt nicht die große Ahnung von KI (ich weiß in etwa, wie das ganze funktioniert, aber das wars auch), aber ich kann mir nicht vorstellen, dass aktuell eine KI ganze Romane schreiben könnte, die dann auch tatsächlich ansprechend und gut wären. Vielleicht reicht es für Kindergeschichten oder Sachtexte, aber fette Romane? Hm, ich glaube da noch nicht dran. Vielleicht in ein paar Jahrzehnten.

KI kann ein nützliches Tool sein. Es kann helfen und unterstützen. Die Arbeit erleichtern. Aber ich finde nicht, dass sie die Arbeit "übernehmen" sollte. Ich kann mir durchaus vorstellen, wenn man gerade keine Idee hat, wie man eine Szene weiterschreibt oder was die nächste Szene sein soll, dass man einfach mal eine KI nach Ideen fragt. Oder vielleicht braucht man irgendwelche Informationen, die man einfach schneller hat, wenn man eben mal schnell die KI beauftragt, anstatt das man 30 Minuten rumgooglet.

Gestern habe ich mal aus Neugier Teile meiner Liebesgeschichte in chatGPT reingeworfen mit einem Übersetzungsauftrag. Die Übersetzung war wirklich gut, nicht perfekt, aber mindestens zu 95-98% nutzbar. Man kann das also durchaus für Übersetzungen gebrauchen, sofern man trotzdem drüber liest und Anpassungen vornimmt (denn gerade mit Umgangssprache gibt es bei der Übersetzung noch Probleme). Und man spart damit erheblich Zeit ein. Oder es hilft einem nur, eine Idee bzw. ein Gefühl dafür zu kriegen, wie man es auf englisch schreiben könnte. Vielleicht formuliert man die Sätze dann nur noch um, um sie an den eigenen Schreibstil anzupassen. Ich würde aber sagen zumindest im Bereich der Übersetzung von Literatur sehe ich, dass KI sicherlich in naher Zukunft einigen Leuten den Job kosten wird. Warum Geld für einen menschlichen Übersetzer ausgeben, wenn chatGPT das kann? So werden sicher viele in Zukunft denken.. Vielleicht stellt man dann nur noch Leute zum kontrollieren ein. Ich kanns mir durchaus vorstellen, dass das in Zukunft so kommen wird.

Ich denke, es wird aber immer Menschen geben, die das Schreibhandwerk lieben und ausführen und nicht nur irgendwas in eine KI schmeißen und fertig. Besonders da KI einfach nicht genau die Vision erfüllen kann, die man so hat.

Das Gerücht, dass Wish von einer KI geschrieben wurde, halte ich doch stark für einen Spaß, weil der Film offenbar schlecht geschrieben ist. Ich habe einige YouTube-Titel mit diesem Claim gesehen - aber es ist halt YouTube. Da würde ich diesen Behauptungen wenig Glauben schenken. Es stellt sich auch immer die Frage: In welchem Umfang hat eine KI etwas geschrieben? Kein Disney Executive würde unkontrolliert das Skript einer KI verfilmen. Und wenn ein Drehbuchautor mal als Inspiration ChatGPT nutzt, könnte allein das schon zur Sensation aufgebauscht werden. Selbst wenn: Wish war ein Flop und dürfte Disney eine ordentliche Millionensumme gekostet haben.

Ich habe verschiene KIs immer diese Frage gestellt: was hältst du von dem Buch "Aschmunadai" des Pfälzer Schritstellers Michael Mende?
Die Antwort war immer dieselbe: Meter dicken Honig ums Maul und eine völlig wirre Inhaltsangabe. Darauf schrieb ich: "du lügst. Das kommt in dem Buch nicht vor."
Und die Antwort: "tut mir leid, es liegen mir keine Informationen über das Buch Aschmunadai von Michael Mende vor.

Das hat sich über die Jahre geändert. Mittlerweile bekomme ich eine Zusammenfassung aller Kommentare in Amazon und anderen Plattformen. Aber keinerlei eigene inhaltliche Wertung.

Soeben habe ich "Perplexity" dies gefragt:
schreibe einen zwanzigzeiler, eine kleine Geschichte, über einen Schritsteller, der in einem Forum eine Diskussion lostritt, ob KI jemals in der Lage sein wird, gute Bücher zu schreiben

Die Antwort jagt mir Gänsehaut über den Rücken. Der Text ist nicht schlecht:
Hier ist ein Zwanzigzeiler über einen Schriftsteller, der eine Diskussion über KI und Literatur in einem Forum beginnt:

Der Autor saß vor dem Bildschirm, die Finger über der Tastatur schwebend.
Er tippte seine Frage ins Forum: "Kann KI je wahre Literatur erschaffen?"
Die Antworten prasselten herein, ein Sturm aus Meinungen und Theorien.
Einige verteidigten die Kunst des Menschen, andere priesen den Fortschritt.
Der Schriftsteller las gespannt, sein eigenes Urteil noch unentschieden.
Er dachte an die Emotionen in seinen Werken, die Nuancen zwischen den Zeilen.
Könnte eine Maschine je die Tiefen menschlicher Erfahrung ergründen?
Die Debatte wurde hitziger, Argumente flogen hin und her.
Plötzlich erschien ein Kommentar, der alle verstummen ließ.
Ein vermeintlicher KI-Text, so berührend, dass er Tränen in die Augen trieb.
Der Autor las ihn wieder und wieder, suchte nach Anzeichen von Künstlichkeit.
Er fand keine. Zweifel nagten an seiner Überzeugung als Schriftsteller.
War dies das Ende der menschlichen Kreativität oder ein neuer Anfang?
Er schloss den Browser, starrte auf die leere Seite vor sich.
Seine Finger begannen zu tippen, getrieben von einem neuen Feuer.
Er schrieb eine Geschichte über eine Welt, in der Mensch und Maschine verschmolzen.
Mit jedem Wort verschwamm die Grenze zwischen Realität und Fiktion.
Am Ende las er seinen Text, unsicher, ob er oder eine KI ihn verfasst hatte.
Er lächelte, erkennend, dass die Frage selbst zur größten Geschichte geworden war.
Mit einem Klick teilte er sie im Forum, bereit für eine neue Runde der Debatte.

ICH WEINE!!!!!
Ich habe mal ein Kapitel in Perplexity hochgeladen. Das Ergebnis kann man hier lesen.
Ich weiß natürlich nicht genau, was daran Plattitüden sind, was sie also zu jedem eingestellten Kapitel sagt, denn sie bezieht sich nicht auf Textstellen.
Aber was da sonst noch alles drin steht ...

KI als Kommentator

Auf jeden hat die KI den Inhalt des Kapitels vollumfängich und tiefgründig erfasst!

Incendium schrieb:Das Gerücht, dass Wish von einer KI geschrieben wurde, halte ich doch stark für einen Spaß, weil der Film offenbar schlecht geschrieben ist. Ich habe einige YouTube-Titel mit diesem Claim gesehen - aber es ist halt YouTube. Da würde ich diesen Behauptungen wenig Glauben schenken. Es stellt sich auch immer die Frage: In welchem Umfang hat eine KI etwas geschrieben? Kein Disney Executive würde unkontrolliert das Skript einer KI verfilmen. Und wenn ein Drehbuchautor mal als Inspiration ChatGPT nutzt, könnte allein das schon zur Sensation aufgebauscht werden. Selbst wenn: Wish war ein Flop und dürfte Disney eine ordentliche Millionensumme gekostet haben.

Ja das war auch eher mein Gedanke, ich war mir aber nicht zu 100% sicher. Einige haben das halt gesagt, als wüssten sie das aus vertrauenswürdigen Quellen.. Aber viele glauben halt auch jeden Mist, den sie lesen und sehen.
Das Disney eine KI ein Script schreiben lässt und das dann ohne nachzuprüfen verfilmt halte ich auch nicht für möglich. Aber das man eine Ki sowas generieren lässt und darauf sein Script aufbaut.. wer weiß.
Ich meine, bei den ganzen Neuauflagen und Realverfilmungen muss man sich aktuell wirklich fragen, ob Disney so langsam aber sicher die Ideen ausgehen.

Ich hab selber aber auch noch nie probiert, eine KI ein Script schreiben zu lassen. Keine Ahnung ob es welche gäbe, die das überhaupt so gut könnten. Wie gesagt, als ich eine KI nach einer Geschichte fragte bekam ich ganze 5 Zeilen.

@SeiraTempest Und ich hab dir gerade ein Beispiel eingestellt...

uhdrapur schrieb: @SeiraTempest  Und ich hab dir gerade ein Beispiel eingestellt...

Ups, ganz vergessen drauf zu antworten

Mal gucken ob ich mich noch erinnere, was ich dazu sagen wollte..

Ähm..
Achja, ich glaube ich wollte dazu sagen, dass ich das ebenfalls krass finde. Bisher kannte ich nur Texte, die ich eher als Kindergeschichten für Grundschüler und jünger bezeichnen würde. Aber das grenzt ja schon ziemlich an das, wie man in Romanen schreibt. Nur das man da eben normalerweise nicht jeden Satz in einer neuen Zeile beginnt.
Zum schreiben einzelner Szenen scheint es also durchaus geeignet. Wenn man also gut ist, kann man damit sicher einen ganzen Roman ausarbeiten..

Auch krass, mit der verlinkten Bewertung. Auch wenn ich denke, dass die KI da wahrscheinlich einfach nur random Tipps raushaut, die man halt so zu einem Text geben würde. Ich kann mir kaum vorstellen, dass die KI erkennt, ob genug Emotionen etc beschrieben werden usw.

Ich denke, wer wirklich gut mit so KIs umgehen kann, kann da sicher etwas erschaffen, bei dem man nichts merken würde.

Der KI-generierte Text über den Schriftsteller im Forum ist schon ziemlich beeindruckend.

Trotzdem bleibt dieser eher oberflächlich.


Ein guter Schriftsteller kann Neuronen befeuern, von denen du nicht wusstest, dass du sie hast. Er offenbart das Offensichtliche im Verborgenen und das Verborgene im Offensichtlichen. Ich denke, wir haben noch etwas Zeit.