KI-Modell & Provider Steuerung (Cloud vs. On-Premise)

Wähle flexibel zwischen Cloud-LLMs (Google Gemini, OpenAI) und sicheren On-Premise Runtimes (Ollama, vLLM) für Störungs-Copilot, RAG-Embedding und NL-to-SQL Leitstand-Analytics.

☁️ Cloud LLM aktiv

Mandant: demo-tenant-1000

1. Provider-Auswahl: Cloud vs. On-Premise

Bestimme die Zielumgebung für Inferenz und Datensouveränität.

API-Endpunkt URL (Base URL)

Standard für Ollama: http://localhost:11434/v1 • vLLM: http://localhost:8000/v1

Cloud API-Schlüssel (Google Gemini)

Wird sicher in der Mandanten-Konfiguration mit AES-256-GCM verschlüsselt hinterlegt und für ILlmProvider & Intent-Routing bereitgestellt.

2. Chat / LLM Modell (Dropdown oder Direkteingabe)Aktuell ausgewählt: gemini-3.8-flash

3. Embedding-Modell (Vektorisierung für pgvector)

pgvector Vektor-Zieldimension in PostgreSQL

1536 Dimensionen (Standard pgvector Index mit L2-Normalisierung & Zero-Padding)768 Dimensionen (Kompakt / Nomic nativ)

Datenschutz & On-Premise Leitfaden

Für vertrauliche Werkdaten, sicherheitskritische Störungsprotokolle und sensible Maschinendaten unterstützt MaintAI Ollama oder vLLM direkt im Firmennetzwerk.

Schnellstart mit empfohlenen Modellen:

ollama run llama3.3:70b
ollama run qwen2.5:32b
ollama pull nomic-embed-text

Vektor-Normalisierung für pgvector:

Die MaintAI Vektor-Pipeline nutzt automatische Dimensionsanpassung mit L2-Einheitsnormalisierung. Modelle mit 768 Dimensionen (Gemini, Nomic) werden deterministisch in den PostgreSQL pgvector(1536) HNSW-Index eingepasst, ohne Kosinus-Verzerrung.

Mandanten-Geltungsbereich:

Die gespeicherte Konfiguration wird mandantenweit in der Tabelle tenants.ai_config hinterlegt und greift sofort für alle Benutzer des Werks.