KI und Literatur: Kann das gutgehen?

https://www.fr.de/kultur/literatur/ki-und-literatur-kann-das-gutgehen-92589795.html

fr.de schrieb:
Die Frankfurter Buchmesse diskutiert über Künstliche Intelligenz und Literatur

Wir schreiben das Buchmessenjahr 1 nach ChatGPT – jenem Programm, dessen Sprachmodell den Text an sich in Frage stellt und der Literatur den Boden unter den Füßen wegzuziehen droht. Zahlreiche Gespräche und Podiumsdiskussionen zum Thema ziehen sich durch die Messetage, und noch immer scheint der Mensch überrascht über den Evolutionssprung der Maschine und ratlos im Handling der Künstlichen Intelligenz.
Die großen Fragen, die die Literaturwelt beschäftigen, lauten: Wem gehört der Text und wer darf ihn verkaufen? Wird die Grenze zwischen menschlichen Autor:innen und textender Maschine aufgehoben? Wozu wird die KI fähig sein – wird sie Schriftsteller:innen überflüssig machen? Wird der Mensch zum bloßen Korrekturwerkzeug, das die Fehler der KI ausbügeln muss?

Der Umgang mit der KI ist nach wie vor drastisch unreguliert: ein Wirrwarr an Daten schwirrt in ihr herum, ganz offensichtlich sind auch urheberrechtlich geschützte Werke darunter. Dagegen klagen und protestieren zahlreiche Autor:innen; Margaret Atwood, John Grisham und Jonathan Franzen sind einige der prominentesten. Einen „Urheberrechtsskandal auf höchster Ebene“ nennt es in einer Buchmessen-Diskussionsrunde die Vorsitzende des Verbands deutscher Schriftstellerinnen und Schriftsteller, Lena Falkenhagen. Eigentlich müsse man alles löschen und noch mal neu aufsetzen, damit Transparenz hergestellt werden könne. Es sei Zeit darüber nachzudenken, wie man KI regulieren kann, denn momentan betreibe sie „Raubbau am geistigen Eigentum“. Hoffnungen liegen auf dem sich gerade in Arbeit befindlichen AI Act der EU.

Was kann man momentan tun? Ein empfohlener Schritt für Autor:innen vom Börsenverein des Deutschen Buchhandels: einen Nutzungsvorbehalt für das eigene Werk erklären, ein maschinenlesbares „Opt-Out“, um es vor Text-und Datamining zu schützen - das erklärt Susanne Barwick, stellvertretende Justiziarin beim Börsenverein, der FR in einer vom Verein AI Frankfurt Rhein-Main initiierten Podiumsdiskussion.
Der Rechtswissenschaftler und Rechtsanwalt Florian Reiling, der sich mit geistigem Eigentum befasst, unterstützt zudem die Idee einer Verwertungsgesellschaft; so könnten Autor:innen profitieren, wenn ihre Texte von einer KI genutzt werden.

Abgesehen davon treibt die Verlagsbranche im Augenblick die Frage um, wie man KI-generierte Texte überhaupt nutzen kann - KI-geschriebene Fachbücher gibt es schon. Das Problem, laut Susanne Barwick: „Wenn man ein rein KI-produziertes Buch auf den Markt bringt, hat man keine exklusiven Nutzungsrechte. Das heißt, am nächsten Tag kann ein anderer Verlag genau das gleiche Buch auf den Markt bringen.“
Eine damit verbundene Kernfrage ist: Wer ist Urheber:in des Textes? Dabei spielt juristisch die „Schöpfungshöhe“ eine Rolle. Die Buchautorin und Literaturwissenschaftlerin Jenifer Becker forscht und lehrt zum Thema „Schreiben mit KI“ - sie nutzt für ihre Experimente eine „Story Engine“, ein KI-Programm, mit dem auch lange Texte in Mensch-Maschine-Koproduktion entstehen. Die Texte seien aber „sehr schematisch, sehr stereotypisiert und sehr klischiert“. Anspruchsvolle Romane könnten so noch nicht entstehen.

Wessen geistiges Eigentum ist eine solche Ko-Produktion, bei der eine Autorin promptet, abändert, Figuren nachschärft? Das sei rechtlich noch nicht ganz herausgearbeitet, sagt Reiling. Die Eigenleistung beim Prompten sei zu bewerten, auch die Nachbearbeitung des Textes. Rechtliche Fragen gebe es entlang der gesamten Kette der Produktion: „beim Sammeln, Trainieren, beim Generieren und beim letztlichen Output selbst“.

Noch ist die KI nicht in der Lage wirklich ansprechende Romane zu erstellen, aber was wird die Zukungt dazu bringen?
Was denkt ihr in Bezug auf KI, das Schreiben und das Verlagswesen?
Ich denke ja, dass sobald die KI besser wird, dann Verlage es mindestens ausprobieren werden via KI Romane zu erstellen und zu verkaufen, denn die Marge ist am Ende für den Verlag selbst einfach höher.
Geld regiert zu Welt, das war schon immer so.
Dennoch wird es immer so sein, dass Menschen weiterhin der Kreativität ihren Lauf lassen und Bücher/Texte schreiben. Die Frage ist nur, wie groß wird ihr Anteil auf dem Markt noch sein?

Ehrlich gesagt, finde ich solche Diskussionen oft ermüdend, da sie meist von 2 Arten von Menschen geführt werden:

1. denen die sehr wenig von KI verstehen
2. denen die solche Modelle selbst bauen und dann verkaufen wollen

dass sich dann ein verzerrtes Bild davon ergibt, was die KI nun eigentlich kann, ist vorprogrammiert.




KI kann Wörter generieren und aneinanderreihen, aber nicht schreiben.

"Aber gotthelf, es gibt doch Sachbücher und Paper die von KI geschrieben wurden!"
Joa, das liegt zum einen daran, dass unsere Ansprüche zur Textqualität - gerade bei wissenschaftlichen Publikationen - unterirdisch sind, zum anderen daran dass man bei "Sachtexten" wie auf Schienen fährt.

Jeder der ChatGPT schon länger benutzt wird sehen, dass die von 3.5 generierten Texte um einiges kohärenter sind als die früherer modelle, aber die von GPT4o qualitativ nicht so viel besser sind dass man ohne weiteres prognostizieren könnte, diese Entwicklung würde sich linear fortsetzen. Wenn du GPT fragst was "show don'T tell" ist, wird er dir das ganz genau erklären können. Aber GPT kann dir show don't tell nicht konsequent umsetzen. Schon allein so etwas zeigt, wie unintelligent diese KI eigentlich ist.

Und all das würde man auch gar nicht so wundersam finden, wenn man wüsste, wie genau diese KI eigentlich arbeitet. Ich versuche es mal einfach zu erklären, falls dem einen oder anderen das nicht bekannt sein sollte.

Ganz grob gesagt, versucht das Modell - gegeben einen Input aus Tokens - ein weiteres Token vorherzusagen. So gut wie alle Modelle arbeiten sequentiell, d.h. erst ein Token generieren, dann das nächste, etc. Das alles arbeitet unter der Annahme, dass die Tokens irgendwie von Tokens zuvor abhängen. Was ja auch nicht falsch ist, aber bei Sprache oft nicht die ganze Wahrheit, denn es gibt in der Sprache auch Vorwärtsbezüge, die die KI gar nicht berücksichtigen kann, denn diese Tokens wurden ja noch nicht generiert. Und sobald etwas generiert wurde, wird es auch nicht mehr überarbeitet.
So, wir nehmen also einen Satz von Tokens und dann wird jedes Token gewichtet, wie wichtig es für den Output ist (das nennt sich attention und ist so ziemlich der heilige Gral von textgeneratoren), und basierend darauf, ein Token generiert, das am wahrscheinlichsten darauf folgen könnte. Das bringt auch Probleme mit sich, denn was am wahrscheinlichsten ist, ist nicht immer richtig oder gut. Dazu bringt das Modell oft eine "perplexity score" rein, die dann sagt: "ey du, nimm vielleicht lieber Vorschlag nummer 3". Das ist dann ein Tradeoff, denn je höher die perplexity, desto kreativer, aber auch potentiell unsinniger, wird der output. Diese menschliche Kreativität, dass etwas vollkommen unterwartet aber trotzdem schlüssig ist, kann KI gar nicht nachahmen.

ein großes Problem der KI war - und ist immer noch - Hallutination, Probleme mit "common sense" , etc. was sich alles zusammenfassen lässt unter "KI hat keine Wissensbasis". Das wird so langsam besser, es gibt bereits viele Ansätze um KI mit Datenbanken zu verknüpfen, was aber in vielen Fällen nur bedingt funktioniert. KI ist zwar relativ gut darin, Fakten zu benennen, oder korrekte Fakten zu liefern, aber nicht so gut darin, mit ihnen umzugehen (also, z.B etwas daraus zu folgern). Das mag erstmal so klingen als wären wir nah dran, aber technisch gesehen sind das ganz andere Dinge.
Fakten aus einem Text zu ziehen - und so zu tun als würde man verstehen um was es da geht - ist eine relativ simple Angelegenheit von information extraction. Das ging auch vor KI schon und auch in modernen Systemen wie RAGs wird auf sehr alte Methoden zurückgegriffen: Da wird die Quelle und die Frage als Vektor dargestellt ( nennt sich embedding) und dann wird der Fragevektor mit allen Quellen mittels Kosinus-ähnlichkeit verglichen und der ähnlichste Quellenvektor wird dann herausgenommen und dem Benutzer als Antwort serviert, eventuell noch in schönen Text verpackt. Viel anders macht es GPT auch nicht.

Das ist aber so als würde ich in einem chinesischen Text nach einer speziellen Zeichenfolge suchen, dazu muss ich nichts über den Text oder die Zeichen wissen, als wie sie aussehen. Man kann der KI also nicht unterstellen dass sie "versteht" um was es da geht. Ja, das ist bei GPT4 deutlich besser geworden, aber auch hier ist das eigentlich eher ein "Trick" als wirkliches verstehen:
Wenn ihr euch erinnert, GPT3.5 hatte oft probleme mit kombinatorischen Probleme, z.B wie stapelt man am besten eine Liste von Sachen aufeinander. Die Forscher von OpenAI haben die bekanntesten solcher Probleme herausgenommen und eigens Lösungen dafür aufgeschrieben, und dem Modell dann als Input serviert, damit es diese Inputs lernt, in der Hoffnung dass es solche Lösungsstrategien auf andere Probleme übertragen kann. Ist auch gar nicht so schlecht vom Ansatz her, aber jeder von uns könnte in 5 prompts ein Problem produzieren, mit dem auch GPT4o nicht zurechtkommt.


So, all in all ... solange Modelle sequentiell Tokens generieren - und es gibt auch welche, die einen Input simultan erstellen, die profitieren aber oft nicht von attention und sind dann qualitativ viel schlechter - wird man sehr viele Feinheiten von Sprache schlicht nicht darstellen können. Und solange der Trade-off von Vorhersehbarkeit und Nonsense existiert, wird man keine langen Texte erstellen können, wo sich nicht ständig Wörter und Phrasen wiederholen.

Das ist also keine Frage von "wann", sondern "ob".

Dies nur von der technischen Seite beleuchtet.

Interessantes Thema, bei dem ich mich immer davor drücke, darüber nachzudenken - auch in anderen Bereichen wie der Kunst, weil Pinterest für mich durch die Flut an AI-Bildern, die man nicht ausblenden kann, beinahe unbrauchbar geworden ist.

Zurück zum Schreiben:

Tatsächlich nutze ich AI. Für mich ist das ein "Diskussionstool". Da ich mittlerweile auf Englisch schreibe, aber nicht alle Vokabeln der Welt in meinem Kopf abgespeichert sind (Ich warte noch auf Fortschritte zu Gehirn-Chips   ), kann AI da echt nützlich sein. Besonders wenn man ein ganz bestimmtes Wort sucht, das aber weder Hirn noch Übersetzungstools rausspucken. Nach einer kurzen Erklärung des gesuchten Wortes und des beabsichtigten Tons, erhält man Vorschläge, aus denen man nur noch auswählen muss. Ähnlich funktioniert es bei der Wahl angemessener Wörter abhängig ihres Kontextes. Oder wenn man - wie ich - Probleme mit logischen Satzabfolgen innerhalb eines Absatzes hat.
Wobei AI mir nicht wirklich helfen kann, ist, wenn es im Englischen keine direkte Übersetzung von dem deutschen Wort gibt, das einem im Kopf schwirrt. Diese fehlende Präzision lässt mich doch manchmal darüber nachdenken, wieder einen deutschen Text zu verfassen.

Aber mittels AI ganze Texte oder Bücher verfassen? Ich hatte das mal wiederholt getestet, aber noch ist AI so stur, dass sie selbst mit den genausten Anweisungen nichts auf die Reihe bekommt, geschweige denn mehrere Bücher eines Autoren in einem einheitlichen Stil verfassen kann. "Show don´t tell" umzusetzen oder Zusammenhänge zu verstehen, wie Gotthelf angesprochen hat, scheinen unmöglich.
Längere Werke generieren zu können, geht bestimmt irgendwann. Es wird ja stetig daran gearbeitet, weil es außer den Künsten keinen anderen Bereich gibt, in dem AI, KI und Technik einen größeren Nutzen hätten  Ob die Ergebnisse dann aber sehenswert sind, weiß ich nicht.

Wir können uns in Deutschland - oder der EU - natürlich Gesetze ausdenken (bzgl. AI-Anteile in Schriftstücken, die durch Scanner sowieso nicht zuverlässig nachgewiesen werden können). Das bringt aber einmal nichts, wenn der Rest der Welt uns diese Bücher ohne Einschränkung trotzdem in die Regale stellen kann.
Ich hatte mich erst letztens darüber unterhalten, dass ich früher (nun ja, auch heute noch) nur Bücher von englischsprachigen Autoren gelesen habe, sofern es nicht was für die Schule war. Das lag auch daran, dass zumindest in der Fantasy/Young Adult Abteilung in unserem Schreibwarenladen keine Werke deutscher Autoren ausgestellt waren. Und (mindestens) die Werke des "Landes der Freiheit" im Westen wird bestimmt auch mit oder besonders durch AI weiterhin zu uns rüberfluten.

Über das Verlagswesen selbst habe ich noch gar nicht nachgedacht. Da lasse ich mal anderen den Vortritt. Ich fände es aber schade, wenn ausschließlich auf die Wirtschaftlichkeit geachtet werden und Schreiblingen keine Chance mehr gegeben werden würde, ihre Werke zu verbreiten - was bereits schwer genug ist.

Man sagt zwar, dass AI die "menschliche Kreativität" (oder Verstand/verknüpftes Denken) nicht ersetzen kann, aber so sicher bin ich mir nicht. Ich hoffe es nur stark.
Was den Büchermarkt angeht: Bücher, die ich als nicht besonders kreativ ansehe (Copycats, Cultural Appropriation etc.), gibt es bereits auf dem Markt. Ich wüsste also nicht, was Menschen davon abbringen würde, nicht auch AI-generierte Bücher, "ohne Kreativität und innere Logik" zu veröffentlichen.
Überspitzt und leicht humorvoll gesagt, könnte ich mir vorstellen, dass die Interaktion mit Autoren anders verlaufen würde, wenn diese erst einmal im Prompt-Protokoll nachschauen müssten, was die eigentliche Intention hinter gewissen Worten oder Entscheidungen war.
Interessant finde ich auch das Szenario, in dem Menschen immer weniger Druckexemplare erwerben, nur noch eBook lesen (Ich oute mich als Schuldige) und irgendwann - wenn nicht schon heute - die Möglichkeit genutzt wird, sich "Gute Nacht Geschichten" spontan und auf Knopfdruck generieren zu lassen. Wozu dann überhaupt noch Geld ausgeben?

Schlussendlich hoffe ich, dass Menschen weiterhin Bücher lesen und schreiben werden, und dass die eigene Kreativität und Mühe weiterhin geschätzt und geschützt werden. Ich würde sonst komplexe Plots, unterschellige Hinweise, easter eggs usw. sehr vermissen.


____
Tut mir leid für die fehlende inhaltliche Struktur und den "informellen Ton".

Ich nutze ChatGPT auch zum Schreiben. Beim Brainstorming kannst du Ideen reinschmeißen und die KI dir Ideen ausspucken lassen. Ist jetzt natürlich viel scheiße dabei, hin und wieder findet man auch die Nadel im Heuhaufen und viel kostet es ja nicht


Was ich noch anmerken wollte: ich glaub, wir erleben jetzt schon einen Umschwung von "woah, toll was die KI so kann" zu "och nöö, nicht schon wieder KI generierte scheiße", und die Zahl derer die KI-Kunst wirklich ohne caveats gut findet, schwindet. auch werden wir Menschen immer besser darin, KI-generiertes von menschlicher Kreation zu unterscheiden. Falls das der Trend sein sollte (zumindest beim Erkennen bin ich mir da fast sicher), glaube ich nicht dass KI-generierte Bücher einen großen Markt finden würden.

Wie sagte neulich meine Tochter?
Warum fängt man eigentlich ausgerechnet bei den kreativen Themen an mit der KI? Kunst, Fotografie, Lyrik, Belletristik?
All das, was uns im Prinzip von der Tierwelt abhebt?
Merkwürdig dass man nicht damit beginnt mit der natürlichen Dummheit aufzuräumen.
Es wird uns einholen.
Wie die Fotografie einst den Portraitmaler ersetzte, ihn aber nie verdrängte, wird das mit KI ähnlich werden.
Warum?
Warum stört uns das vielleicht gar nicht mal so?
Versuche es mal mit Musik. Ich höre gerne Genesis, die alte Besetzung mit Peter Gabriel.
Die gibt es nicht mehr. Bisher hatte man ja nur die Möglichkeit, Bands mit ähnlichem Stil zu hören.
Ich freu mich, wenn ich Zitate heraushören kann, die mich an die Band, die zitiert wird, erinnern. Wenn das mit neuem kunstvoll verknüpft ist, dann noch besser.
Halten wir es beim Lesen nicht ähnlich?
Erst alle HP gelesen und schon entdeckt man Zauberlehrlinge allüberall. Man interessiert sich, weil man das grade gelesene gut fand.
Ähnlichkeit erwünscht.
Man sucht bei neuen Büchern nach Autoren die einen ähnlichen Stil wie der oder der Autor.
All das kann KI jetzt schon liefern. Wenn man den Vergleich mit der Fotografie sind, sind wir vielleicht grad beim Farbfilm angelangt.
Was noch kommen wird, werden wir sehen.
Das Geld?
Hier wird es sein wie in der Malerei. Irgendwann wird es wenige Künstler geben die damit großes Geld machen auch wenn Millionen schreiben.

@theo: Dass KI gerade im Bereich der kreativen Arbeit solche Fortschritte gemacht hat, finde ich auch beachtlich (und erschreckend). Vor 10 Jahren waren die meisten Menschen noch der Auffassung, dass KI mit langweiliger Büroarbeit aufräumt und unsere Autos fahren wird. Und jetzt? Selbstfahrende Autos sind im Alltag noch lange nicht angekommen und auf der Arbeit muss ich die stupiden Checklisten und Tabellen noch immer selbst ausfüllen, während Bilder, Stimmen und Texte von KI generiert werden, die kaum von einem menschlichen Urheber zu unterscheiden sind. Wirklich verrückt...

Leider muss ich mich als jemanden outen, der persönlich sehr kritisch zu KI in vielerlei Hinsicht eingestellt ist. Es gibt so viele Herausforderungen in Bezug auf KI, wie beispielsweise die Nutzung für Propagandazwecke, Arbeitsplatzverluste (auch, wenn viele ja der Meinung sind, dass genauso viele Arbeitsplätze wieder entstehen, wird es aufgrund der schnellen Entwicklung Verwerfung geben, die nicht einfach mit Umschulungen aufzufangen sind), Sinnverlust und die wachsende Macht einzelner Unternehmen.

Aber ich möchte mich hier mehr auf den Einsatz von KI im kreativen Bereich und insbesondere im Bereich des Schreibhandwerks beziehen. Wie Gotthelf ja bereits erläutet hat, sind wir noch weit entfernt von wirklich kreativen, innovativen Werken, die mit KI erstellt werden. Und ich glaube, dass solche Kreationen in Zukunft noch gefragter sein könnten als heutzutage, insofern der Algorithmus es erlaubt. Denn man sieht es schon bei generierten Bildern: das Internet wird regelrecht überschwemmt (und da beziehe ich mich nur auf die Bilder, die ich klar als KI-generiert erkennen kann)!

Das einzige was da helfen könnte sind Kontrollinstanzen. Wir brauchen klare juristische Regularien, auch in Bezug auf das Urheberrecht, und Organisationen, die kontrollieren, ob ein Werk mit KI erstellt wurde oder nicht. Eine Kennzeichnungspflicht wäre ebenfalls sinnvoll.

Zum Schluss noch etwas kitschiges
Für mich ist Kunst, und darunter zähle ich sowohl Literatur, als auch Musik, Zeichnungen, Gemälde etc., etwas fast schon heiliges. Und dies gilt sowohl für den Leser, der dem Pfad des Autors folgt, einem Pfad, der das Potential besitzt die Seele des Lesers zu berühren und damit lebensverändernd zu wirken, als auch für den Autoren selbst. Ich glaube daran, dass der Schaffensprozess einen intrinsischen Wert hat und nicht nur das Endergebnis (oder Produkt um mal beim kapitalistischen Vokabular zu bleiben ). Ich bin letztes Jahr den Jakobsweg gegangen und habe einige sehr interessante spirituelle Erfahrungen gemacht, die mir gezeigt haben wie wichtig es ist die Kraft aufzubringen, um jeden Tag wieder aufzustehen und trotz leichterer Verletzungen und Maskelkater immer weiter zu gehen. Ich wollte unbedingt das Ende erreichen. Und als ich dann in Santiago de Compostella angekommen war, realisierte ich erst, dass es niemals um das Ankommen ging, sondern um jeden einzelnen Tag auf dem Weg selbst.

Um es mal mit einem Zitat aus Stormlight Archives von Brandon Sanderson zu beschreiben:

“Life before Death.
Strength before Weakness.
Journey before Destination.”

Ich sehe in KI die Gefahr, dass man verleitet wird diesen Weg abzukürzen oder sich vollständig von KI tragen zu lassen. Natürlich muss das jeder für sich selber wissen und ich verurteile niemanden, der KI verwendet, aber trotzdem hoffe ich, dass es lediglich als kleine Unterstützung genutzt wird.

So genug des Wirrwarrs

du kennst ja sicherlich die AI-Artpocalypse auf Seiten wie Deviantart. Und 99% ist da einfach ein haufen scheiße. Ich hab damals relativ früh mit StableDiffusion angefangen und mir relativ viel selbst angelernt. Habe eigene Modelle trainiert (bzw. man muss sagen, gefinetuned, weil hetzutage trainiert niemand modelle von Grund auf), ich hab dann immer die Generationen mittels inpainting verbessert und meist in Krita dann manuell nachbearbeitet. Da kam's auch mal vor dass ich nen kompletten Arm neu zeichnen musste.
Aber da hab ich eins gelernt: für viele Leute ist es egal ob die Frau im Bild 7 Finger hat ... aber die meisten Menschen schätzen Qualität, selbst wenn sie sie nicht verlangen. Und je mehr Bilder "schön aussehen", desto weniger wird visuelles tamtam ein Qualitätsmerkmal sein. Das sehen wir in Games schon lange: Jede engine kann realistisch rendern, das ist nichts womit noch geworben wird, bzw. nichts das Spieler noch dazu bringt einen Titel zu kaufen (Wenn es das je war, jetzt aber noch unwichtiger).
Und genauso wird es bei Kunst und Literatur auch sein: Dort wird dann der Schreibstil bzw der Artstyle weniger wichtig werden und es geht dann mehr um das was abgebildet bzw. geschrieben wird, also um den Inhalt. Vielleicht wird die Messlatte höher sein, aber jemand der sein Handwerk wirklich beherrscht, wird trotzdem bessere Resultate produzieren können als irgendein AI-bro, der nur auf die Macht der KI vertraut.

Was die Jobs betrifft ... das sehe ich tatsächlich nicht. Zumindest nicht im kreativen Bereich.
Gut, es wird (und tut es schon) individuelle Personen treffen, die z.B davon leben, dass sie Furry-commissions machen oder ein eigenes Comic auf Patreon verkaufen etc. Aber Künstler (oder adjacents) die in Firmen arbeiten - ob Freelance oder angestellt - werden ganz sicher nicht zu tausenden entlassen werden.
1. ist KI-generiertes Gut rechtlich auf sehr wackeligem Boden. Da gibt es in den USA schon mehrere Urteile, die im Prinzip ein Schlag ins Gesicht für die AI-Community sind. Keine Firma wird das Risiko eingehen wollen, dass ihr Film oder Spiel einfach kopiert werden kann, weil es KI generiert ist.
2. wenn du für jemanden arbeitest, dann musst du dich ganz oft sehr stark an vorgaben halten, da hast du einen art director der ganz genau weiß was er will, und wehe du weichst einen Millimeter davon ab. Das kann KI nicht. KI generiert so ungefähr was du vielleicht möchtest, wenn du Glück hast. In professionellem Umfeld ist das nicht genug.
3. selbst wenn KI wirklich Resultate liefern könnte, die gut genug sind, bedeutet das nicht dass jetzt reihenweise Leute entlassen werden. Ja, jetzt könnten theoretisch 2 die Arbeit von 10 machen. Aber man kann es auch anders herum sehen: Jetzt können die 10 noch viel mehr leisten. Games und Filme müssen sehr oft Dinge streichen weil Zeit und Resourcen nicht ausreichen, das wäre nun viel einfacher. Jeder kreative Prozess ist iterativ, da mehr Möglichkeiten zu haben, das werden sich nur die wenigsten manager entgehen lassen.
4. in vielen Fällen spart KI tatsächlich gar nicht so viel Zeit wie man vielleicht denken würde. Habe mich letztens mit den Animatoren aus meinem Team unterhalten, was sie von Cascadeurs KI-hilfe halten, und die waren sich alle einig: es ist ganz sinnvoll um einem Junior unter die Arme zu greifen. Aber ein senior arbeitet so schnell, dass ihm diese Features rein gar nichts an Zeit einsparen.


Das mit den wenigen großen Firmen ist eigentlich auch übertrieben. Da gab es vor einiger Zeit ein sehr cooles internes Dokument von Google das nannte sich "we have no moat, and neither does OpenAI":
https://www.semianalysis.com/p/google-we-have-no-moat-and-neither

Im Prinzip geht es darum, dass die großen Firmen mit einem starken Vorsprung bei der KI angefangen haben, aber OpenSource ist ihnen mittlerweile dicht auf den Fersen und es kommen immer neue hinzu. Jedes Mal, wenn irgendein großer KI anbieter dies und das aus "ethischen Gründen" nicht erlaubt, bildet sich eine neue Nische, die ein OpenSource anbieter ausfüllen kann. Das war 2023. Heutzutage gibt es OpenSource modelle die in einigen spezialisierten Tasks besser sind als GPT-4.


ich arbeite sehr viel mit KI und bin dem grundsätzlich sehr offen gegenüber eingestellt, aber ich wäre vorsichtig mit Prognosen von großer Veränderung. Ich denke, je tiefer wir in KI einsteigen und je größer und besser unsere Modelle werden, desto mehr verstehen wir eigentlich was die KI alles NICHT kann.

Alastor schrieb:
Noch ist die KI nicht in der Lage wirklich ansprechende Romane zu erstellen, aber was wird die Zukunft dazu bringen?

Nun, hier ist schon mal eine sprachliche Ungenauigkeit, die eine Definition erfordert, um Fronten zu klären. Was sind "wirklich ansprechende Romane" und wer nimmt sie so wahr?

Zum anderen: Es ging letztens durch ein Forum/die Medien, dass z.B. in Brasilien eine Dame KI-Romane schreiben lässt und angeblich problemlos davon leben kann. Sie gibt einen Prompt ein, liest das Ergebnis Korrektur, feilt ein paar Ecken rund - fertig, nächster Text. Natürlich ist das nichts für den Literatur-Nobelpreis, aber offenbar wird damit ein Nerv getroffen und ein Geschäftsfeld bedient.
Vllt. um es ganz simpel herunterzubrechen - jede Gesellschaft bekommt die Literatur, die es verdient. Ich kenne mich nicht mit den Bildungs- und Leistungssystemen andere Länder aus, deshalb kann ich nur für Deutschland sprechen: Wenn diese beiden Systeme seit vielen Jahren nur nach unten korrigiert werden, d.h. dass immer auch der Schwächste in der Gruppe mitgenommen werden muss, während dem Leistungsstärksten gleichzeitig langweilig ist, entsteht einfach nur Mittelmaß. Bestes Beispiel dafür werden mal wieder die Olympischen Spiele sein. Gleichzeitig werden so aber auch Nobelpreisträger verhindert ...

alibikolibri schrieb:
Zum anderen: Es ging letztens durch ein Forum/die Medien, dass z.B. in Brasilien eine Dame KI-Romane schreiben lässt und angeblich problemlos davon leben kann. Sie gibt einen Prompt ein, liest das Ergebnis Korrektur, feilt ein paar Ecken rund - fertig, nächster Text. Natürlich ist das nichts für den Literatur-Nobelpreis, aber offenbar wird damit ein Nerv getroffen und ein Geschäftsfeld bedient.

Hier gehen mehrere Effekte Hand in Hand. Es ist wohl nicht zu leugnen, dass KI generierte Texte ihre Zielgruppe finden werden, beispielsweise weil der Konsum höher steht als der Inhalt oder weil Leute immer wieder gerne die gleichen Geschichten lesen, auch wenn mehr oder weniger nur die Satzstellung anders lautet und die Namen ausgetauscht worden sind. Bestes Beispiel sind für mich hier die Marvel und Hollywood-Inhalte, die aus einem solchen Einheitsbrei bestehen, dass sie immer ein großes Publikum ansprechen aber in einem guten Storytelling mittlerweile kläglich versagen (meines Erachtens). Genauso bei manchen Zeitungen wie dem Springer Verlag, wenn hier die Qualität des Outputs irrelevant ist, kann KI ein gutes Mittel sein. Hinzukommend zu deinem Beispiel ist aber noch der Survivorship-Bias, da natürlich von einer Person mit Erfolg berichtet wird, den tausend anderen, die ebenfalls KI zum Schreiben verwenden, aber der Erfolg verwehrt bleibt. Als drittes bleibt offen, wie lange die Menschen damit gefüttert werden können, denn ähnlich von KI generierten Bildern, bei denen langsam eine Diskriminations-Fähigkeit (also der Unterscheidung zwischen Mensch vs KI gemacht) entsteht, kann sich das bei Texten ebenfalls entwickeln. Denn wenn eines den Menschen ausmacht, dann seine Anpassungsfähigkeiten.

Wie ich in einem Interview gelesen habe, dann das KI wie eine Fast Fashion ist: Klamotten gibt es in den letzten Jahrzehnten immer mehr und immer billiger, die Qualität ist aber gleichermaßen runtergegangen.


OpenAI hat mehrmals gewarnt, dass die KI irgendwann so mächtig sein könnte, dass sie sich zu einer Superintelligenz entwickeln könnte. Das klingt so, als ob ein irdischer Gott gebaut oder trainiert wird. Damit wird ein Narrativ bedient und die Probleme im Hintergrund werden effektiv verschwiegen: Model Collapse, das GPT für "generative PRETRAINED transformer" steht, die immensen Strom- und Aufwandskosten jedes einzelnen Prompts und das KI ein statisches System ist, welches wir vermenschlichen und Bewusstsein zusprechen und glauben, eine KI könne denken oder lernen. Dass sie das nicht tut, hat Gotthelf ausführlicher beschrieben, damit wir Menschen aber schnell etwas einen menschlichen Bewusstsein zuschreiben, braucht es nur ein Stein mit zwei Augen und ggf. einer Nase oder Mund. Bei Sprache sind wir umso anfälliger, da das der Grundstein der menschlichen Zivilisation ist.

Crackle42 schrieb:

OpenAI hat mehrmals gewarnt, dass die KI irgendwann so mächtig sein könnte, dass sie sich zu einer Superintelligenz entwickeln könnte. Das klingt so, als ob ein irdischer Gott gebaut oder trainiert wird. Damit wird ein Narrativ bedient und die Probleme im Hintergrund werden effektiv verschwiegen: Model Collapse, das GPT für "generative PRETRAINED transformer" steht, die immensen Strom- und Aufwandskosten jedes einzelnen Prompts und das KI ein statisches System ist, welches wir vermenschlichen und Bewusstsein zusprechen und glauben, eine KI könne denken oder lernen. Dass sie das nicht tut, hat Gotthelf ausführlicher beschrieben, damit wir Menschen aber schnell etwas einen menschlichen Bewusstsein zuschreiben, braucht es nur ein Stein mit zwei Augen und ggf. einer Nase oder Mund. Bei Sprache sind wir umso anfälliger, da das der Grundstein der menschlichen Zivilisation ist.

Ich stehe da auf der Seite des KI-Pioniers Hans Uszkoreit, der überzeugt davon ist, dass es in drei bis fünf Jahren KI-Assistenten geben wird, deren Interaktionen mit dem Nutzer, nicht mehr von menschlichen unterschieden werden können. Damit ist für mich alles gesagt.

in sehr task-spezifischen Domains gibt es bereits seit Jahren Chatbots die de facto den Turingtest bestehen. Aber der Test selbst ist mMn sehr schwierig ernstzunehmen, weil nicht wirklich definiert ist wie lange die Unterhaltung sein soll oder worüber.

Damit kannst du sehr simple machinen haben, die den in ihrer Domain bestehen, während viel ausgereiftere Modelle in einem eher generellen Umfeld durchfallen würden.

Wenn wir also davon ausgehen, dass Herr Uszkoreit hier AGI meint, dann würd ich gerne wissen wieso er das denkt^^. Habe mich nämlich mit vielen Spezialisten darüber unterhalten, u.A mit Prof Arvind Narayanan von Princeton, Prof Björn Ommer von der LMU und Prof Georg Groh von der TUM, und keiner von denen glaubt dass AGI in den nächsten 10-15 Jahren möglich sein wird, falls überhaupt. Die Trends gehen in die Richtung, dass "echte" AGI mit Transformern, Attention und allem, worauf ChatGPT und die anderen Modelle gebaut sind, nicht machbar ist, sondern dass es ein komplettes Umdenken bei der Erstellung von Modellen geben müsste.
Bleibt natürlich zu erwarten, welche Möglichkeiten Quantencomputer liefern, da gibt es schon Ansätze für QNLP (quantum natural language processing)

Wenn ich mir meine Gespräche auf Tinder so anschaue, glaube ich auch manchmal mit Bots zu schreiben - aber nicht aus dem Jahr 2024, sondern eher aus 2005