datasette-llm 0.1a11
· Quelle: Simon Willison
Das Plugin datasette‑llm, das als Vermittler fungiert, damit andere Datasette‑Erweiterungen Sprachmodelle nutzen können, hat eine neue Version (0.1a11) erhalten. Die Aktualisierung bringt Unterstützung für Endpunkte, die dem Web‑Protokoll von OpenAI folgen, sodass Datasette mit jedem Modell verbunden werden kann, das diese Standard‑Schnittstelle implementiert. Dadurch können Anwender lokale Modelle wie LM Studio, Ollama oder llama.cpp einbinden, ohne auf externe Dienste angewiesen zu sein.
Um die Kombination zu demonstrieren, zeigt der Autor ein praktisches Beispiel: Es wird eine Beispiel‑Datenbank heruntergeladen und Datasette über uvx gestartet, wobei die Modellkonfiguration (Name, API‑Pfad und Version) angegeben wird. Das Ergebnis ist ein Server, der eine Datasette‑Agent‑Instanz mit dem lokalen Modell betreibt und über eine Chat‑Schnittstelle SQL‑Abfragen ermöglicht, die automatisch beantwortet werden.
Diese Neuerung ist wichtig, weil sie die Integration generativer KI in Daten‑Workflows vereinfacht, die Nutzung privater Modelle erleichtert und die Kosten für kommerzielle APIs senkt. Gleichzeitig eröffnet sie die Möglichkeit für sicherere und individuellere Anwendungen in Umgebungen, in denen die Vertraulichkeit der Daten entscheidend ist.
Originalartikel lesen auf Simon Willison
Diese Zusammenfassung ist eine informationelle Synthese von dataqbs.com. Alle Rechte am Originalinhalt liegen beim Autor und dem genannten Medienunternehmen. Wir handeln ausschließlich als Kuratoren von Technologie-Nachrichten und beanspruchen keine Urheberschaft.