Link zum Artikel: digitaleprofis...
Video zu Llamafile auf Android: • Llamafile on Android T...
Schon Ende 2023 hat die Mozilla Foundation ein neues Projekt mit dem Namen Llamafile zum ersten Mal vorgestellt, mit dem es möglich ist, fähige KI-Modelle in nur einer ausführbaren Datei zu verpacken und lokal und komplett anonym auf dem eigenen Computer zu nutzen.
Das ist allerdings für lange Zeit ziemlich unter dem Radar geflogen bis Llamafile am 26. Juni von Stephen Hood und Justine Tunney nochmal bei der AI Engineering World’s Fair vorgestellt wurde und die beiden gezeigt haben, welche Fortschritte Mozilla mittlerweile machen konnte. Die Implikationen dieses Open Source Projekts scheinen bis jetzt immer noch nicht wirklich final in der KI-Community angekommen zu sein, aber es ist unglaublich, welche Möglichkeiten Llamafile bietet, um allen die Nutzung von intelligenten KI-Modellen auf der eigenen Hardware, egal ob Mac, Windows PC oder sogar Raspberry und vielleicht bald Smartphones zu ermöglichen.
In diesem Video zeigen wir, wie man Llamafile auf dem eigenen Rechner benutzt und damit ohne weitere Software Open Source KI-Modelle lokal und offline verwenden kann.
Werde Kanalmitglied und unterstütze damit unsere Arbeit:
/ @digitaleprofis
Videoinhalt:
00:00 Ausführliches Tutorial für Llamafile von Mozilla - Open Source KI-Modelle lokal und offline nutzen
01:09 Die einfachste Möglichkeit: Fertige Llamafiles herunterladen und ausführen
02:18 Vorbereitungen unter Mac und Linux - Berechtigungen erteilen
03:41 Verzeichnis wechseln und Llamafile ausführen
04:51 Llamafile Chatfenster im Browser
05:24 Prompt an KI-Modell im Browser abschicken
06:00 Vision-Fähigkeiten mit Llamafile verwenden
06:59 Vorbereitungen unter Windows - Datei mit .exe Endung umbenennen
09:20 Wichtig: Prozess im Terminal beenden, wenn nicht mehr benötigt
10:11 Weitere Llamafiles finden und herunterladen
12:42 Selbst Llamafiles aus Open Source KI Modellen erstellen
13:43 Llamafile ohne Modell auf dem Rechner installieren
16:07 Mit llamafile-convert aus GGUF-Dateien Llamafiles machen
18:05 Llamafile mit externer Modell-Datei verwenden (4GB-Grenze bei Windows umgehen)
20:36 Wie geht es weiter: Llamafile auf dem Raspberry Pi und Android Smartphones
Videovorschläge, Feedback und Kritik kannst Du uns jederzeit in den Kommentaren mitteilen!
Негізгі бет Alle Open Source KI-Modelle als Offline-Chatbots auf jedem PC nutzen | Mozilla Llamafile Tutorial
No video
Пікірлер: 27