10 Punkte für ein gelungenes Retrieval Augmented Generation (RAG) System

Einiges wurde schon über sogenannte Retrieval Augmented System geschrieben. Hier auf diesem Blog zum Beipiel über den Mythos das schnellen Erfolges.

In diesem Post lege ich dar, welche Punkte aus Businesssicht relevant sind. Beitrag in Englisch.

Probieren kann man SquirroGPT natürlich auch in Deutsch.

Veröffentlicht unter Uncategorized | Comments Off on 10 Punkte für ein gelungenes Retrieval Augmented Generation (RAG) System

Der Mythos vom raschen Erfolg: Ein besserer Ansatz.

Letzten Sonntag habe ich über den Irrglauben, dass ein bisschen Vector-Search, etwas LangChain und OpenAI eine gute und stimmige Lösung ergibt. Die Welt ist etwas komplizierter als das.

Heute ein konkreter Vorschlag, wie so etwas besser gemacht werden kann. Beitrag in Englisch.

Veröffentlicht unter Uncategorized | Comments Off on Der Mythos vom raschen Erfolg: Ein besserer Ansatz.

Der Mythos vom raschen Erfolg: KI ist komplizierter als es aussieht

In einigen Gesprächen mit CIOs und CTOs habe ich aktuell ein Flash Back. In den neuzigern gab es Banken, die haben eigene Content Management Lösungen gebaut, nur um ein paar Millionen später zu realisieren, dass multilingual Content Rendering kein Bank-USP ist. Später gab es Leute, die meinten ein Open Source Shopping Basket sei alles was es braucht, um einen Webshop zu betreiben.

Jetzt sind es Leute die meinen eine Vektordatenbank, etwas LangChain plus ein LLM ergeben eine Enterprise-Grade Lösung. Eine Täuschung so wie damals. Mehr dazu in Englisch.

Veröffentlicht unter Uncategorized | Comments Off on Der Mythos vom raschen Erfolg: KI ist komplizierter als es aussieht

SquirroGPT: Eine echte Unternehmenslösung

In einem recht lärmigen Markt mit einer Kakophonie von Stimmen und Lösungen, kann es recht schwierig sein sich zu orientieren. Um sich in diesem Chaos zurechtzufinden, ist eine Differenzierung erforderlich, die einen Mehrwert bietet. SquirroGPT bietet genau das. In diesem Blog Post bespreche ich einige der wesentlichen Unterscheidungsmerkmale. Post in Englisch.

Und natürlich auch zum selber probieren: https://start.squirro.com

Veröffentlicht unter Uncategorized | Comments Off on SquirroGPT: Eine echte Unternehmenslösung

Nicht alles ist ein Chat

Chat scheint die Welt zu regieren. Wie bei allen Hypes sieht die Welt bei genauer Betrachtung etwas anders aus. Beitrag in Englisch.

Veröffentlicht unter Uncategorized | Comments Off on Nicht alles ist ein Chat

Retrieval Augmented LLM: Mehr als Vektordatenbanken, etwas LangChain und GPT

Während es verlockend ist, raLLM als blosse Verschmelzung einer Vektordatenbank, etwas LangChain-Code und einer OpenAI-API zu vereinfachen, verfehlt eine solche reduktionistische Sichtweise das Gesamtbild. Lasst uns tiefer in die Feinheiten von raLLM eintauchen und verstehen, warum es mehr als nur die Summe seiner Teile ist.

Beitrag ist in Englisch. Und natürlich könnt ihr das alles selber ausprobieren: SquirroGPT.

Veröffentlicht unter Uncategorized | Comments Off on Retrieval Augmented LLM: Mehr als Vektordatenbanken, etwas LangChain und GPT

Warum LLMs als Suche möglicherweise nicht die beste Idee ist

Der Beitrag ist nur in Englisch verfügbar.

Zum selber probieren: SquirroGPT.

Veröffentlicht unter Uncategorized | Comments Off on Warum LLMs als Suche möglicherweise nicht die beste Idee ist

Retrieval Augmented LLMs (raLLM): Die Zukunft von Enterprise KI

Der Beitrag ist nur in Englisch verfügbar.

Oh, und natürlich könnt ihr das selber ausprobieren: Get going with SquirroGPT.

Veröffentlicht unter Uncategorized | Comments Off on Retrieval Augmented LLMs (raLLM): Die Zukunft von Enterprise KI

ChatGPT – eine beängstigende Überwachungsmaschine?

Neulich wurden wir gebeten, an einem Accelerator-Programm teilzunehmen. Wie immer muss ein Formular ausgefüllt werden. Ich hatte wenig Zeit. Tatsächlich war die offizielle Frist bereits abgelaufen. Aber der Veranstalter wollte unbedingt, dass wir dabei sind. Was habe ich also gemacht? Ich habe mich an ChatGPT gewandt, um mir bei der Formulierung der Antworten auf den Fragebogen zu helfen.

Und jetzt geschah etwas Beunruhigendes.

Eine der Fragen war, wie unser Startup und unser Produkt zur Herausforderung passen (siehe nächster Screenshot).

Challenge Question

Ich habe die Fragen einfach ohne zusätzlichen Kontext in ChatGPT kopiert. Hier ist die Antwort, die ich bekommen habe.

ChatGPT answer

Ohne dass ich den spezifischen Kontext von Squirro angegeben habe, hat ChatGPT mir tatsächlich die Beschreibung der Antwort eines anderen Unternehmens auf dieselben Fragen zurückgegeben.

Ich habe das überprüft und jetzt wird es beängstigend: Das oben genannte Unternehmen hat sich beim Wettbewerb auch angemeldet …

Also hat ChatGPT eine Antwort von jemand anderem reproduziert – effizientes Caching, alles verwandelt sich in dasselbe (ChatGPT erzeugt die gleiche Antwort, unabhängig davon, wer fragt), das System weiß, wer wann was gefragt hat … Beängstigend.

PS: Mit etwas Prompt Engineering hat ChatGPT eine ziemlich gute Squirro spezifische Antwort geliefert, die beschreibt, was wir tun, und nicht, was andere tun.

Veröffentlicht unter Uncategorized | Comments Off on ChatGPT – eine beängstigende Überwachungsmaschine?

GPT in die Irre führen – Versuch

Wir haben GPT für Unternehmen veröffentlicht – https://squirro.com/enterprise-generative-ai-and-large-language-models/…

Natürlich probieren wir das auch unseren eigenen Daten aus, z.B. unser ISO Handbuch. Und natürlich versuchen wir die Limiten auszureizen. Hier ein Selbstversuch. Hat nicht funktioniert….

Zum Selbstversuch: https://start.squirro.com

Veröffentlicht unter Uncategorized | Comments Off on GPT in die Irre führen – Versuch