KI-gestützt internes Wissen nutzen, ohne dass Daten das Unternehmen verlassen, diesen Wunsch erfüllt Fast LTA mit seiner neuen KI-Appliance. Die Silent AI wird lokal betrieben und ist für die Bedürfnisse von maschinellem Lernen und KI optimiert. Ausgelegt ist das System je Einheit und Anwendung für bis zu 50 Nutzer.

Fast LTA Silent AI ist eine KI-Appliance speziell für generative KI-Anwendungen (GenAI). Durch den On-Premises-Betrieb sollen Datensicherheit und Datenschutz auf höchstem Niveau gewährleistet sein. Silent AI operiert auf der Basis eines lokal implementierten Large-Language-Models (LLM), erweitert durch Retrieval-Augmented Generation (RAG) und unterstützt durch lokale Vektordatenbanken. Dies ermöglicht laut Hersteller eine effiziente Nutzung und Anbindung diverser Informationsquellen, ohne dass sensibles internes Wissen die Appliance verlassen muss.

Voraussichtlich ab Herbst wird Silent AI sowohl als Managed KI-Appliance als auch als Entwicklerplattform zur Integration in bestehende Anwendungen verfügbar sein.

Das lokale LLM der Appliance in Kombination mit RAG erhöht die Präzision und Zuverlässigkeit generierter Inhalte, indem sie relevante Daten aus lokalen Dokumenten und Datenbanken bezieht. Laut Hannes Heckel, Leiter Marketing bei Fast LTA werden so Fehlinformationen effektiv vermieden. Eine Nachschulung des LLMs sei nicht erforderlich.

Silent AI: Off-Cloud-Appliance verarbeitet alle Daten lokal

»Silent AI setzt lokale Vektordatenbanken ein, die darauf ausgelegt sind, hochdimensionale Vektoreinbettungen effizient zu speichern und abzufragen«, erklärt Heckel. »Diese sind speziell für die Bedürfnisse von maschinellem Lernen und KI optimiert, unterstützen schnelle Ähnlichkeitssuchen und bieten ein detailliertes Rechte-Management sowie die Option, spezifische Datenbanken selektiv zu entfernen.«

Die Appliance integriert und vernetzt unterschiedliche Informationen aus dem Unternehmen wie interne Datenbanken, Dokumentensammlungen und Knowledge Graphs. Dies erlaubt eine flexible Anpassung der GenAI-Anwendungen an individuelle Bedürfnisse und vorhandene Daten.

Für Fast LTA ist der unermüdliche Fokus auf Datenschutz und Datensicherheit ein Schlüsselmerkmal von Silent AI. »Alle Datenverarbeitungsprozesse erfolgen ausschließlich innerhalb der Appliance, was garantiert, dass keine internen Informationen das Unternehmen verlassen«, meint Heckel. »Dies schützt sensible Daten vor externen Risiken und macht den Einsatz externer Cloud-Services überflüssig.«

Mitarbeiter sollen durch Silent AI zuverlässige, datenbasierte Antworten auf komplexe Fragestellungen erhalten. Genutzt wird dafür intern vorhandenes Wissen. Die KI-Appliance wird direkt an die Datenquellen im Unternehmen angebunden und erfordert keinen »Upload« von Dokumenten. Der Parser kann dabei mit unterschiedlichen text-basierten Quellen umgehen, wie beispielsweise Office365 und Sharepoint, Confluence, Jira, Webseiten und Intranet.

Silent AI richtet sich an Organisationen und Unternehmen, die hohe Sicherheitsstandards für ihre Daten setzen, vertrauliche Informationen verarbeiten und zuverlässige GenAI-Anwendungen ohne Abhängigkeit von externen Cloud-Diensten implementieren möchten. Ausgelegt ist das System je Einheit und Anwendung für bis zu 50 Nutzer.

»Silent AI repräsentiert eine fortschrittliche Off-Cloud KI-Appliance, entwickelt um den steigenden Bedürfnissen nach sicheren und privaten GenAI-Anwendungen zu entsprechen«, sagt Heckel. »Sie wird als schlüsselfertige KI-Appliance sowie als Plattform für Dienstleister und Software-Entwickler bereitstehen. Durch die Integration neuester Technologien in Storage, KI und Datenmanagement stellt Silent AI eine leistungsfähige, flexible Lösung für eine breite Palette von Anwendungsfällen dar.«