Generative Machine-Learning-Systeme haben bereits den grössten Teil der weltweit verfügbaren Daten verarbeitet
Dieses Biblionetz-Objekt existiert erst seit April 2024.
Es ist deshalb gut möglich, dass viele der eigentlich vorhandenen Vernetzungen zu älteren Biblionetz-Objekten bisher nicht erstellt wurden.
Somit kann es sein, dass diese Seite sehr lückenhaft ist.
Bemerkungen
Wenn man zugrunde
legt, dass ein großes Sprachmodell mit Hunderten von Milliarden Worten
trainiert wurde, sind die digital verfügbaren Originaltexte bereits nahezu
ausgelesen. Genau zu dem Ergebnis kommt auch die Studie einer schottischdeutschen
Forschungsgruppe. Ihr zufolge ist der Fundus an neuen
hochwertigen Textdaten für die KI bereits 2026 erschöpft. Spätestens 2026
habe generative KI alles gelesen, was es zu lesen gibt.The data consumed by LLMs is already substantial, and it is not feasible to dramatically increase training sets by many orders of magnitude.
Von Carl Benedikt Frey, Michael Osborne im Text Generative AI and the Future of Work (2024) 
Unter der Annahme, dass generative Machine-Learning-Systeme bereits den grössten Teil der weltweit verfügbaren Daten verarbeitet haben, ist keine Qualitätssteigerung aufgrund noch mehr Daten zu erwarten. Dies könnte ein Hinweis darauf sein, dass sich die Leistungssteigerung solcher Systeme verlangsamen könnte.
Zitationsgraph
4 Erwähnungen 
- Will we run out of data? - An analysis of the limits of scaling datasets in Machine Learning (Pablo Villalobos, Jaime Sevilla, Lennart Heim, Tamay Besiroglu, Marius Hobbhahn, Anson Ho) (2022)
- Generative AI and the Future of Work - A Reappraisal (Carl Benedikt Frey, Michael Osborne) (2024)
- Alles überall auf einmal - Wie Künstliche Intelligenz unsere Welt verändert und was wir dabei gewinnen können (Miriam Meckel, Léa Steinacker) (2024)
- 6. Zwischen Amnesie und Autonomie - Wenn Bots mit Bots sprechen
- 6. Zwischen Amnesie und Autonomie - Wenn Bots mit Bots sprechen
- Will A.I. Ever Live Up to Its Hype? (Julia Angwin) (2024)
Biblionetz-History 