Letzten Sonntag habe ich über den Irrglauben, dass ein bisschen Vector-Search, etwas LangChain und OpenAI eine gute und stimmige Lösung ergibt. Die Welt ist etwas komplizierter als das.
Heute ein konkreter Vorschlag, wie so etwas besser gemacht werden kann. Beitrag in Englisch.
Veröffentlicht unterUncategorized|Comments Off on Der Mythos vom raschen Erfolg: Ein besserer Ansatz.
In einigen Gesprächen mit CIOs und CTOs habe ich aktuell ein Flash Back. In den neuzigern gab es Banken, die haben eigene Content Management Lösungen gebaut, nur um ein paar Millionen später zu realisieren, dass multilingual Content Rendering kein Bank-USP ist. Später gab es Leute, die meinten ein Open Source Shopping Basket sei alles was es braucht, um einen Webshop zu betreiben.
Jetzt sind es Leute die meinen eine Vektordatenbank, etwas LangChain plus ein LLM ergeben eine Enterprise-Grade Lösung. Eine Täuschung so wie damals. Mehr dazu in Englisch.
Veröffentlicht unterUncategorized|Comments Off on Der Mythos vom raschen Erfolg: KI ist komplizierter als es aussieht
In einem recht lärmigen Markt mit einer Kakophonie von Stimmen und Lösungen, kann es recht schwierig sein sich zu orientieren. Um sich in diesem Chaos zurechtzufinden, ist eine Differenzierung erforderlich, die einen Mehrwert bietet. SquirroGPT bietet genau das. In diesem Blog Post bespreche ich einige der wesentlichen Unterscheidungsmerkmale. Post in Englisch.
Während es verlockend ist, raLLM als blosse Verschmelzung einer Vektordatenbank, etwas LangChain-Code und einer OpenAI-API zu vereinfachen, verfehlt eine solche reduktionistische Sichtweise das Gesamtbild. Lasst uns tiefer in die Feinheiten von raLLM eintauchen und verstehen, warum es mehr als nur die Summe seiner Teile ist.
Beitrag ist in Englisch. Und natürlich könnt ihr das alles selber ausprobieren: SquirroGPT.
Veröffentlicht unterUncategorized|Comments Off on Retrieval Augmented LLM: Mehr als Vektordatenbanken, etwas LangChain und GPT
Neulich wurden wir gebeten, an einem Accelerator-Programm teilzunehmen. Wie immer muss ein Formular ausgefüllt werden. Ich hatte wenig Zeit. Tatsächlich war die offizielle Frist bereits abgelaufen. Aber der Veranstalter wollte unbedingt, dass wir dabei sind. Was habe ich also gemacht? Ich habe mich an ChatGPT gewandt, um mir bei der Formulierung der Antworten auf den Fragebogen zu helfen.
Und jetzt geschah etwas Beunruhigendes.
Eine der Fragen war, wie unser Startup und unser Produkt zur Herausforderung passen (siehe nächster Screenshot).
Challenge Question
Ich habe die Fragen einfach ohne zusätzlichen Kontext in ChatGPT kopiert. Hier ist die Antwort, die ich bekommen habe.
ChatGPT answer
Ohne dass ich den spezifischen Kontext von Squirro angegeben habe, hat ChatGPT mir tatsächlich die Beschreibung der Antwort eines anderen Unternehmens auf dieselben Fragen zurückgegeben.
Ich habe das überprüft und jetzt wird es beängstigend: Das oben genannte Unternehmen hat sich beim Wettbewerb auch angemeldet …
Also hat ChatGPT eine Antwort von jemand anderem reproduziert – effizientes Caching, alles verwandelt sich in dasselbe (ChatGPT erzeugt die gleiche Antwort, unabhängig davon, wer fragt), das System weiß, wer wann was gefragt hat … Beängstigend.
PS: Mit etwas Prompt Engineering hat ChatGPT eine ziemlich gute Squirro spezifische Antwort geliefert, die beschreibt, was wir tun, und nicht, was andere tun.
Veröffentlicht unterUncategorized|Comments Off on ChatGPT – eine beängstigende Überwachungsmaschine?
Natürlich probieren wir das auch unseren eigenen Daten aus, z.B. unser ISO Handbuch. Und natürlich versuchen wir die Limiten auszureizen. Hier ein Selbstversuch. Hat nicht funktioniert….