LAION veröffentlicht 10 Millionen Stunden Videomaterial
Laion Big Video Dataset
Das LAION-Team stellt mit LAION-BVD den bisher größten offenen Videodatensatz für multimodales Lernen vor: 1,3 Milliarden Video-URLs aus CommonCrawl, 80 Millionen heruntergeladene Videos mit insgesamt 10 Millionen Stunden Laufzeit. Die Daten umfassen synthetisch generierte Video- und Audio-Captions sowie 300 Millionen extrahierte Frames für Bild-Text-Pretraining. Modelle, die auf LAION-BVD trainiert wurden, erreichen wettbewerbsfähige Ergebnisse bei Video-, Audio- und Bild-Text-Benchmarks. Der Datensatz ist ausschließlich für Forschungszwecke gedacht und soll offene Wissenschaft bei großen multimodalen Modellen fördern.
LAION-BVD wird veröffentlicht, um offene und reproduzierbare multimodale Forschung in großem Maßstab zu unterstützen.
- voidUpdate
Verdammt, das ist eine Menge Videos, für die sie die Ersteller kontaktieren müssen, um die Erlaubnis zu bitten, ihre Inhalte als Trainingsmaterial für maschinelles Lernen zu verwenden. Es sei denn natürlich, sie haben es nicht getan und sind einfach trotzdem damit weitergemacht ...
- vivzkestrel
- Kann jemand mit Fachwissen uns einen Überblick über die Architektur geben, die dafür nötig ist
- Sagen wir, du lässt yt-dlp in Python mit aiohttp laufen
- Sicherlich wirst du bald an ein Limit stoßen, da deine IP-Adresse markiert wird
- Welche Lösungen gibt es, um Proxys in Python automatisch zu rotieren?
- Gibt es bessere, schnellere und zuverlässigere Wege, um 100 Millionen Videos herunterzuladen, ohne dass deine IP-Adresse blockiert wird?
- topwalktown
"Insgesamt versuchten wir, 130M Videos herunterzuladen und erreichten eine Link-Erfolgsquote von ungefähr 60%, was 80M erfolgreich abgerufene Videos mit einer Gesamtdauer von 10M Stunden ergab."
Ich bin erstaunt, dass die Erfolgsquote so hoch ist. Wie Youtube sie nicht blockiert hat, weiß ich nicht. Aber ich denke, dass diese URL-Liste nicht gut altern wird, weil Youtube sehr schnell jeden Forscher blockieren wird, der versucht, diese Videos selbst herunterzuladen.