Lokale Intelligenz - LlaMa

-

Gestern bin ich durch einen Artikel in eine Linux-Zeitschrift auf llama von der Mozilla-Foundation aufmerksam geworden und habe es mir direkt mal von Github runtergeladen. „LLaMA“ steht für „Large Language Model Meta AI“ und ist ein KI-Modell, das ursprünglich von Meta (Facebook) entwickelt wurde und jetzt als Opensource bereitsteht. Es handelt sich um ein großes Sprachmodell, das ähnlich wie GPT-Modelle funktioniert und darauf trainiert ist, menschenähnliche Texte zu generieren. LLaMA ist in verschiedenen Größen erhältlich und die Variante von Mozilla funktioniert rein lokal. Also offline. Die ersten Tests fand ich ganz ansprechend, aber so richtig warm werde ich mit den Einschränkungen lokaler Systeme nicht. Im Grunde sehe ich nur zwei Vorteile:

  1. Man gibt keine Daten raus, was teils wirklich wichtig sein kann.
  2. Das Zeug funktioniert ohne Internet-Verbindung. Wenn die nicht da ist oder man Daten sparen will, kann das interessant sein.

Ich werde auf jeden Fall damit ein wenig experimentieren und auch mal andere Sprachmodelle des Systems ausprobieren.

Beliebte Posts aus diesem Blog

Abgesang auf ChatGPT?

-
ChatGPT - R.I.P. ist die Überschrift eines Beitrags in LinkedIn, den ich vorhin gelesen habe. Natürlich bewusst provokant, denn es geht um den Vergleich des mittlerweile "etablierten" ChatGPT mit der neuen KI von Google.  Und tatsächlich - ich finde es beeindruckend und fast erschreckend, wie hoch die Leistungsfähigkeit der neuen Google-KI  namens Gemini ist. Ein Video mit einem Test dazu ist auf Youtube zu sehen . In diversen Tests und Benchmarks schneidet Gemini nach verschiedenen Quellen brutal gut ab. Doch ist dies das Ende von ChatGPT? ChatGPT hat den Vor- als auch Nachteil, dass OpenAI damit sehr früh auf den Markt kam und die ganze Aufmerksamkeit der Medien und Öffentlichkeit bekommen hat. Zu meinen Kursen bei LinkedIn Learning (LiL) werden Statistiken über die Zugriffs- bzw. Nutzerzahlen geführt und mein Videotraining " KI-unterstütztes Programmieren mit OpenAI und ChatGPT " geht wie Schmitt's Katze. Sicher auch, weil ich damit sehr schnell auf den ein
Mehr anzeigen

ChatGPT-4o

-
Ich habe mehrere Accounts, um ChatGPT zu nutzen. Diese Woche wurde mir in einem meiner ChatGPT-Accounts (der über Google - und bisher nur da) angeboten, dass ich ChatGPT-4o frei verwenden könne. Das habe ich natürlich angenommen, wobei mir gar nicht aufgefallen war, dass es sich nicht um das "normale" ChatGPT-4 handelt, was man im kostenpflichtigen Abo nur verwenden kann. Sondern ein spezialisierteres und optimiertes Modell innerhalb der GPT-4-Familie. Angeblich steht dabei das "o" für omni - alles. Ich habe mal ChatGPT-4o selbst gefragt, was die Verbesserungen gegenüber den Vorgängerversionen sind. Hier sind die herausragenden Merkmale, die ChatGPT-4o von anderen Sprachmodellen unterscheiden (FF ist eigene Aussage der KI): **Optimierung für Effizienz**: ChatGPT-4o ist auf höhere Effizienz und Geschwindigkeit optimiert. Dies bedeutet, dass es Anfragen schneller verarbeiten kann, was besonders in Anwendungen mit hohem Verkehrsaufkommen oder Echtzeitanforderungen von
Mehr anzeigen

60 Jahre Basic

-
Glückwunsch zu 60 Jahre Basic. Am 1. Mai 1964 wurde der erste Basic-Interpreter vorgestellt. Auch ich habe meine allerersten Programmierversuche mit Basic gestartet und nutze auch heute noch hin und wieder VBA und VB.NET .
Mehr anzeigen