WISSNOX_
Anleitungen

basal-omni lokal ausführen: Ollama, llama.cpp und Mac

wissnox@ai:~$ cat news_1

› basal-omni ist das polnische Entscheidungsmodell von Remek Kinas: Es schreibt keine Texte, sondern wählt eine Antwort aus einer Liste und gibt an, wie sicher es sich ist.

wissnox@ai:~$ cat news_2

› Oktober lassen sich kleinere Versionen auch ohne Server-Grafikkarte ausführen - mit Ollama, llama.cpp oder auf dem Mac.

wissnox@ai:~$ cat news_3

› Ich habe das mit der Mini-Version im GGUF-Format auf meiner RTX 4090 ausprobiert und denselben Satz polnischsprachiger Anfragen verwendet, mit dem ich zuvor Jev und andere Entscheidungsmodelle getestet hatte.

wissnox@ai:~$ cat news_4

› Hier finden Sie die Anleitung, die bei mir funktioniert hat, die Hardware-Anforderungen und die Ergebnisse.

wissnox@ai:~$ open --full
Vollständig lesen

basal-omni lokal ausführen: Ollama, llama.cpp und Mac

Artikel auf wissnox.de öffnen