Der Mythos vom raschen Erfolg: KI ist komplizierter als es aussieht

In einigen Gesprächen mit CIOs und CTOs habe ich aktuell ein Flash Back. In den neuzigern gab es Banken, die haben eigene Content Management Lösungen gebaut, nur um ein paar Millionen später zu realisieren, dass multilingual Content Rendering kein Bank-USP ist. Später gab es Leute, die meinten ein Open Source Shopping Basket sei alles was es braucht, um einen Webshop zu betreiben.

Jetzt sind es Leute die meinen eine Vektordatenbank, etwas LangChain plus ein LLM ergeben eine Enterprise-Grade Lösung. Eine Täuschung so wie damals. Mehr dazu in Englisch.

Veröffentlicht unter Uncategorized | Comments Off on Der Mythos vom raschen Erfolg: KI ist komplizierter als es aussieht

SquirroGPT: Eine echte Unternehmenslösung

In einem recht lärmigen Markt mit einer Kakophonie von Stimmen und Lösungen, kann es recht schwierig sein sich zu orientieren. Um sich in diesem Chaos zurechtzufinden, ist eine Differenzierung erforderlich, die einen Mehrwert bietet. SquirroGPT bietet genau das. In diesem Blog Post bespreche ich einige der wesentlichen Unterscheidungsmerkmale. Post in Englisch.

Und natürlich auch zum selber probieren: https://start.squirro.com

Veröffentlicht unter Uncategorized | Comments Off on SquirroGPT: Eine echte Unternehmenslösung

Nicht alles ist ein Chat

Chat scheint die Welt zu regieren. Wie bei allen Hypes sieht die Welt bei genauer Betrachtung etwas anders aus. Beitrag in Englisch.

Veröffentlicht unter Uncategorized | Comments Off on Nicht alles ist ein Chat

Retrieval Augmented LLM: Mehr als Vektordatenbanken, etwas LangChain und GPT

Während es verlockend ist, raLLM als blosse Verschmelzung einer Vektordatenbank, etwas LangChain-Code und einer OpenAI-API zu vereinfachen, verfehlt eine solche reduktionistische Sichtweise das Gesamtbild. Lasst uns tiefer in die Feinheiten von raLLM eintauchen und verstehen, warum es mehr als nur die Summe seiner Teile ist.

Beitrag ist in Englisch. Und natürlich könnt ihr das alles selber ausprobieren: SquirroGPT.

Veröffentlicht unter Uncategorized | Comments Off on Retrieval Augmented LLM: Mehr als Vektordatenbanken, etwas LangChain und GPT

Warum LLMs als Suche möglicherweise nicht die beste Idee ist

Der Beitrag ist nur in Englisch verfügbar.

Zum selber probieren: SquirroGPT.

Veröffentlicht unter Uncategorized | Comments Off on Warum LLMs als Suche möglicherweise nicht die beste Idee ist

Retrieval Augmented LLMs (raLLM): Die Zukunft von Enterprise KI

Der Beitrag ist nur in Englisch verfügbar.

Oh, und natürlich könnt ihr das selber ausprobieren: Get going with SquirroGPT.

Veröffentlicht unter Uncategorized | Comments Off on Retrieval Augmented LLMs (raLLM): Die Zukunft von Enterprise KI

ChatGPT – eine beängstigende Überwachungsmaschine?

Neulich wurden wir gebeten, an einem Accelerator-Programm teilzunehmen. Wie immer muss ein Formular ausgefüllt werden. Ich hatte wenig Zeit. Tatsächlich war die offizielle Frist bereits abgelaufen. Aber der Veranstalter wollte unbedingt, dass wir dabei sind. Was habe ich also gemacht? Ich habe mich an ChatGPT gewandt, um mir bei der Formulierung der Antworten auf den Fragebogen zu helfen.

Und jetzt geschah etwas Beunruhigendes.

Eine der Fragen war, wie unser Startup und unser Produkt zur Herausforderung passen (siehe nächster Screenshot).

Challenge Question

Ich habe die Fragen einfach ohne zusätzlichen Kontext in ChatGPT kopiert. Hier ist die Antwort, die ich bekommen habe.

ChatGPT answer

Ohne dass ich den spezifischen Kontext von Squirro angegeben habe, hat ChatGPT mir tatsächlich die Beschreibung der Antwort eines anderen Unternehmens auf dieselben Fragen zurückgegeben.

Ich habe das überprüft und jetzt wird es beängstigend: Das oben genannte Unternehmen hat sich beim Wettbewerb auch angemeldet …

Also hat ChatGPT eine Antwort von jemand anderem reproduziert – effizientes Caching, alles verwandelt sich in dasselbe (ChatGPT erzeugt die gleiche Antwort, unabhängig davon, wer fragt), das System weiß, wer wann was gefragt hat … Beängstigend.

PS: Mit etwas Prompt Engineering hat ChatGPT eine ziemlich gute Squirro spezifische Antwort geliefert, die beschreibt, was wir tun, und nicht, was andere tun.

Veröffentlicht unter Uncategorized | Comments Off on ChatGPT – eine beängstigende Überwachungsmaschine?

GPT in die Irre führen – Versuch

Wir haben GPT für Unternehmen veröffentlicht – https://squirro.com/enterprise-generative-ai-and-large-language-models/…

Natürlich probieren wir das auch unseren eigenen Daten aus, z.B. unser ISO Handbuch. Und natürlich versuchen wir die Limiten auszureizen. Hier ein Selbstversuch. Hat nicht funktioniert….

Zum Selbstversuch: https://start.squirro.com

Veröffentlicht unter Uncategorized | Comments Off on GPT in die Irre führen – Versuch

KI Voraussagen

“Since AI has been around for many years already, I expect a comparable diffusion in one or two years.”

Wir haben im Interview mit dem EM Journal darüber gesprochen.

https://link.springer.com/article/10.1007/s12525-021-00516-w

Ein Jahr später ist ChatGPT da.

Veröffentlicht unter Uncategorized | Comments Off on KI Voraussagen

Kombinieren von LLMs mit CompositeAI – der beste Weg nach vorne

Die Einführung von Large Language Models (LLMs) ist nicht ohne Herausforderungen, insbesondere für Unternehmen. Um diese Herausforderungen zu bewältigen und den maximalen Nutzen aus diesen Modellen zu ziehen, ist die Kombination von zusammengesetzter KI mit Large Language Models der beste Weg für Unternehmen.

Bessere Kontrolle und Anpassung:
Einer der Hauptvorteile der Kombination von zusammengesetzter KI mit großen Sprachmodellen ist die Möglichkeit, die Modelle besser steuern und anpassen zu können. Composite AI ermöglicht es Unternehmen, mehrere KI-Modelle zu kombinieren, um eine benutzerdefinierte Lösung zu erstellen, die ihren spezifischen Anforderungen entspricht. Dies ist besonders wichtig für große Sprachmodelle, die zu generisch sein können und möglicherweise nicht das Maß an Kontrolle bieten, das Unternehmen benötigen.

Verbesserte Genauigkeit und Leistung:
Ein weiterer Vorteil der Kombination von zusammengesetzter KI mit großen Sprachmodellen ist die verbesserte Genauigkeit und Leistung. Große Sprachmodelle können riesige Datenmengen erzeugen, die schwer zu verwalten und zu interpretieren sind. Composite AI ermöglicht es Unternehmen, mehrere Modelle zu verwenden, um die von großen Sprachmodellen generierten Daten zu analysieren und zu interpretieren, was zu einer verbesserten Genauigkeit und Leistung führt. Dies ist besonders wichtig für Anwendungen wie den Kundendienst, wo die Genauigkeit der Antworten des Modells einen erheblichen Einfluss auf die Kundenzufriedenheit haben kann.

Besserer Datenschutz und Sicherheit:
Datenschutz und -sicherheit sind wichtige Anliegen für Unternehmen, wenn es um die Einführung umfangreicher Sprachmodelle geht. Composite AI ermöglicht es Unternehmen, die von den Modellen verwendeten Daten zu kontrollieren und stellt sicher, dass vertrauliche Informationen ordnungsgemäß gesichert sind. Dies kann dazu beitragen, die mit großen Sprachmodellen verbundenen Risiken zu mindern und sicherzustellen, dass Unternehmen diese Modelle vertrauensvoll übernehmen können.

Geringere Kosten:
Die Übernahme großer Sprachmodelle kann sowohl hinsichtlich der Hardware- als auch der Softwarekosten teuer sein. Durch die Kombination von zusammengesetzter KI mit großen Sprachmodellen können Unternehmen diese Kosten senken und kostengünstigere Lösungen erzielen. Dies liegt daran, dass Composite AI es Unternehmen ermöglicht, mehrere Modelle zu verwenden, von denen jedes für bestimmte Aufgaben optimiert werden kann, wodurch die Gesamtkosten der Lösung gesenkt werden.

Bessere Integration mit bestehenden Systemen:
Große Sprachmodelle können riesige Datenmengen erzeugen, die schwierig zu verwalten und in bestehende Systeme zu integrieren sind. Composite AI ermöglicht es Unternehmen, mehrere Modelle zu integrieren und die von großen Sprachmodellen generierten Daten effektiver zu verwalten. Dies führt zu einer besseren Integration mit bestehenden Systemen und stellt sicher, dass die von den Modellen generierten Daten ordnungsgemäß gespeichert und verwaltet werden.

Zusammenfassend lässt sich sagen, dass die Kombination von zusammengesetzter KI mit großen Sprachmodellen der beste Weg für Unternehmen ist, die große Sprachmodelle übernehmen. Durch die Übernahme dieses Ansatzes können Unternehmen die Vorteile großer Sprachmodelle maximieren und sicherstellen, dass sie die erforderlichen Ergebnisse liefern.

PS: Dies ist übrigens die Meinung von ChatGPT selbst

Veröffentlicht unter Uncategorized | Comments Off on Kombinieren von LLMs mit CompositeAI – der beste Weg nach vorne