Data Center & Cloud
KI-Server von IT-HAUS:
Künstliche Intelligenz im eigenen Haus
Leistungsfähige KI-Infrastruktur, die Ihre Daten nicht aus der Hand gibt.
Künstliche Intelligenz läuft heute meist in der Cloud großer US-Anbieter. Für viele Aufgaben ist das richtig. Sobald Sie aber Verträge, Personalakten, Konstruktionsdaten oder Kundendokumente verarbeiten, stellt sich die Frage anders: Wohin fließen diese Daten, wer bestimmt die Regeln, und was kostet der Betrieb, wenn aus dem Versuch ein Dauerbetrieb wird?
Ein eigener KI-Server beantwortet alle drei Fragen. Offene Modelle haben in den vergangenen zwei Jahren so stark aufgeholt, dass sie für die große Mehrheit Ihrer täglichen Aufgaben ausreichen. Sie laufen auf Hardware in Ihrem Serverraum, hinter Ihrer Firewall. IT-HAUS plant, liefert und betreibt diese Systeme für Sie.
Die drei Gründe
Was für einen eigenen KI-Betrieb spricht
Wer über eigene KI-Hardware nachdenkt, entscheidet selten aus technischer Begeisterung. Es sind drei nüchterne Gründe, und meistens treten sie gemeinsam auf.
Souveränität
Modelle, Preise und Nutzungsbedingungen der großen Anbieter ändern sich kurzfristig. Wer einen Kernprozess darauf aufsetzt, übernimmt diese Änderungen ungefragt. Auf eigener Hardware bestimmen Sie, welches Modell arbeitet, wann gewechselt wird und wann eben nicht. Ein Modell, das heute gute Ergebnisse liefert, läuft auch in zwei Jahren noch so weiter.
Data protection
Auftraggeberdaten, Personalakten, Verträge und Konstruktionsdaten dürfen Ihr Haus oft nicht verlassen, und die Auflagen Ihrer Kunden gehen dabei regelmäßig weiter als die DSGVO. Wenn die Verarbeitung im eigenen Netz stattfindet, ist der Nachweis einfach: Es gibt keine Drittlandsübermittlung, weil es keine Übermittlung gibt.
Costs
Cloud-KI wird pro Anfrage abgerechnet und wächst mit der Nutzung. Eigene Hardware ist eine einmalige Investition mit bekannten Betriebskosten. Entscheidend ist der Punkt, an dem sich beides schneidet. Je größer die verarbeitete Datenmenge, desto früher liegt er, und alles danach spart.
Wo liegt Ihr Break-even?
Das lässt sich rechnen, statt es zu schätzen. Wir stellen die laufenden Kosten Ihres geplanten Anwendungsfalls der Investition in eigene Hardware gegenüber, über die tatsächliche Nutzungsdauer. Bei hohem Dokumenten- und Anfragevolumen fällt das Ergebnis oft deutlicher aus als erwartet.
Die Zielgruppe
Für wen eignet sich ein eigener KI-Server?
Die ehrliche Antwort lautet: grundsätzlich für jedes Unternehmen. Die Frage ist nicht ob, sondern in welcher Größe. Für einen Betrieb mit fünfzig Mitarbeitenden reicht ein kompaktes Einzelsystem, das in den vorhandenen Serverraum passt. Für einen Konzern mit mehreren Standorten wird daraus eine Rechenzentrumsanlage. Dazwischen liegt eine durchgehende Skala, und auf jeder Stufe gibt es sinnvolle Geräte.
Was die Größe bestimmt, sind drei Dinge: wie viele Menschen gleichzeitig damit arbeiten, wie umfangreich die Dokumente sind, die verarbeitet werden, und wie schnell die Antworten kommen sollen. Besonders schnell rechnet sich ein eigener Betrieb dort, wo große Mengen sensibler Dokumente anfallen, wo Auflagen von Auftraggebern oder Aufsichtsbehörden gelten und wo KI dauerhaft in einem Prozess läuft statt nur gelegentlich befragt zu werden.
Typische Einsatzszenarien
Was Unternehmen heute damit lösen
Die meisten Vorhaben starten mit einem Anwendungsfall aus dem Büroalltag und wachsen von dort in die Fachprozesse hinein. Ist die Maschine erst einmal da, kostet der nächste Anwendungsfall keine zusätzliche Anfragegebühr mehr, sondern nur noch Einrichtung.
Transkription
Besprechungen, Telefonate und Diktate automatisch verschriften, zusammenfassen und mit Aufgabenlisten versehen. Ein Klassiker für den Einstieg, weil der Nutzen sofort sichtbar ist und die Aufnahmen das Haus nicht verlassen.
Dokumentenanalyse
Verträge prüfen, Fristen und Klauseln finden, Prüfberichte auswerten, Ausschreibungen gegen das eigene Portfolio spiegeln, Rechnungen und Lieferscheine auslesen.
Wissen zugänglich machen
Ein Assistent, der ausschließlich auf Ihren Handbüchern, Richtlinien und Projektablagen antwortet, mit Quellenangabe zu jeder Aussage.
E-Mail-Triage
Eingehende Post klassifizieren, dem richtigen Bereich zuordnen, Anliegen zusammenfassen und Antwortentwürfe vorbereiten. Besonders wirksam in Zentralpostfächern mit hohem Aufkommen.
Prozess- und ERP-Integration
Wo Ihre Fachanwendungen Schnittstellen bieten, arbeitet die KI direkt im Prozess: Stammdaten abgleichen, Positionen extrahieren, Vorgänge anlegen, Freigaben vorbereiten. Das ist der Schritt vom Werkzeug zum Bestandteil des Ablaufs.
Ordnung in gewachsenen Daten
Altbestände auf Fileservern sichten, Dubletten und Fehlablagen finden, Inhalte verschlagworten und archivierbar machen. Eine Aufgabe, die niemand von Hand macht und die sich nur lohnt, wenn jede einzelne Datei nichts kostet.
The challenge
Warum reichen klassische Server nicht aus?
Ein KI-Server ist keine Variante des vorhandenen Virtualisierungshosts, sondern eine eigene Geräteklasse. Die Rechenarbeit findet nicht auf der CPU statt, sondern auf Grafikprozessoren, und die stellen an ihre Umgebung ganz andere Anforderungen.
Grafikprozessoren statt CPU.
Die Modelle rechnen auf GPUs. Ohne sie läuft ein aktuelles Sprachmodell entweder gar nicht oder so langsam, dass niemand damit arbeitet.
Speicher auf der Karte.
Entscheidend ist nicht der Arbeitsspeicher des Servers, sondern der Speicher auf der Grafikkarte. Er bestimmt, welches Modell überhaupt hineinpasst und wie viele Anfragen gleichzeitig bedient werden können.
Bauraum und Board.
Diese Karten sind groß, doppelt breit und schwer. Sie brauchen Server, deren Mainboard, Steckplätze und Gehäuse dafür ausgelegt sind. In ein Standardgehäuse passen sie schlicht nicht hinein.
Strom.
Eine einzelne Karte zieht mehrere hundert Watt, ein voll bestücktes System ein Vielfaches davon. Das übersteigt schnell, was ein gewachsener Serverraum je Rack vorgesehen hat, und betrifft Zuleitung, Absicherung und unterbrechungsfreie Versorgung.
Kühlung.
Die gesamte aufgenommene Leistung geht als Wärme wieder in den Raum. Ohne passende Klimatisierung drosselt das System oder schaltet ab, und aus der geplanten Leistung wird ein Bruchteil.
Drei Größenklassen
Vom kompakten Einstieg bis zur Rechenzentrumsklasse
Damit aus der Frage „welche Größe“ keine Doktorarbeit wird, arbeiten wir mit drei Referenzgrößen. Wer die Zahl gleichzeitiger Nutzer, die Art der Daten und das gewünschte Tempo kennt, kennt seine Klasse. Alles Weitere ist Feinauslegung.
Einstieg
Kompaktes Einzelsystem
Eine Appliance oder ein einzelner Server mit ein bis zwei Grafikkarten. Genügt für Chat auf den eigenen Dokumenten, Transkription und erste Assistenten für eine überschaubare Nutzergruppe. Passt in den vorhandenen Serverraum und ist der übliche Weg für den ersten Anwendungsfall.
Abteilungsbetrieb
Mehrere Server im Verbund
Zwei bis vier Systeme, gemeinsames Storage, saubere Netzanbindung sowie Gateway und Monitoring. Damit laufen mehrere Modelle parallel, die Wissenssuche arbeitet auf großen Beständen, und der Rollout in die Fachbereiche wird tragfähig.
Rechenzentrumsklasse
Dedizierte KI-Anlage
Systeme der oberen Leistungsklasse mit eigener Verbindungsstruktur, in der Regel verbunden mit Anpassungen im Rechenzentrum. Für große Modelle, hohen Durchsatz, viele gleichzeitige Nutzer und strenge Souveränitätsanforderungen.
Our help
KI-Infrastruktur, ganzheitlich gedacht
Von der ersten Einordnung bis zum laufenden Betrieb begleitet IT-HAUS Sie über den gesamten Weg. Sie entscheiden, an welcher Stelle Sie einsteigen und wie viel Sie selbst übernehmen.
01
Standort-bestimmung
- Anwendungsfälle bewerten
- lokal, Cloud oder hybrid
- Wirtschaftlichkeit rechnen
02
Prüfung und Auslegung
- Raum, Strom, Klima, Netz
- Auslegung auf echte Last
- Geräteauswahl
03
Aufbau
- Beschaffung und Rackaufbau
- Inbetriebnahme, Absicherung
- Anbindung an Ihr Netz
04
Anwendungen
- Modelle einrichten
- eigene Daten anbinden
- erste Fälle produktiv
05
Operation
- Monitoring und Updates
- Modellpflege, Erweiterung
- Schulung für Ihr Team
Ergänzend bietet IT-HAUS eine unabhängige Zweitmeinung zu vorliegenden Angeboten an: die Prüfung fremder Angebote auf Dimensionierung, Vollständigkeit und Folgekosten.
Der Lösungsansatz
Hybrid ist der Regelfall
Die Entscheidung lautet selten entweder oder. Bewährt hat sich ein zentrales KI-Gateway als Verteiler: Massenaufgaben und alles Sensible laufen lokal auf offenen Modellen, einzelne komplexe Fälle gehen nach klaren Regeln an ein Spitzenmodell in der Cloud. So behalten Sie die Hoheit über Ihre Daten, ohne bei der Qualität etwas aufzugeben.
01
Hardware
Ein oder mehrere Server mit leistungsfähigen Grafikkarten, ausgelegt auf Ihre geplante Last statt auf einen Katalogwert.
02
Betriebsschicht
Modellserver, Modell- und Benutzerverwaltung, Protokollierung und Monitoring. Die Modelle stehen über eine Standard-Schnittstelle bereit, sodass vorhandene Anwendungen sie ohne Umbau nutzen.
03
Wissensanbindung
Anbindung an DMS, Fileserver, ERP und Intranet, damit die KI mit Ihren Inhalten arbeitet und Antworten belegen kann.
04
Anwendungen
Chatoberfläche, Assistenten in den Fachprozessen und Automatisierung im Hintergrund.
Hersteller und Technologien
Geprüfte Plattformen statt Eigenbau
KI-Hardware entwickelt sich schneller als jede andere Serverklasse. Statt Einzelteile zu kombinieren, setzt IT-HAUS auf Plattformen, die die Hersteller gemeinsam mit NVIDIA abgestimmt und zertifiziert haben. Welche davon die richtige ist, entscheidet sich an Ihrer Größenordnung und Ihrem Betriebsmodell.
HPE Private Cloud AI
Unser Schwerpunkt für den Unternehmenseinsatz. Anders als eine reine Referenzarchitektur ist es ein fertig integriertes System: Rechenknoten, Speicher, Netzwerk und Software kommen abgestimmt zusammen, Updates und Lebenszyklus laufen zentral. Die Verantwortung ist klar geteilt, Installation und Firmwarepflege liegen beim Hersteller. Verfügbar in mehreren Größen.
Dell und Lenovo
Beide bieten abgestimmte KI-Plattformen mit begleitenden Services, von einzelnen Servern bis zu ausgebauten Verbünden. Sie liefern eine validierte Architektur, die wir auf Ihre Anforderungen zuschneiden. Für Häuser, die bereits eine dieser Serverwelten betreiben, ist das oft der naheliegende Weg.
NVIDIA DGX
Die Systeme des GPU-Herstellers selbst, für Vorhaben mit hohem Durchsatz, sehr großen Modellen oder eigenem Training. Sie sind die leistungsfähigste Klasse und stellen zugleich die höchsten Anforderungen an Rechenzentrum, Strom und Kühlung.
Kompaktsysteme für den Mittelstand
Unterhalb der großen Plattformen gibt es fertige Appliances, die auf einen ersten produktiven Anwendungsfall zugeschnitten sind. Sie kommen vorkonfiguriert, brauchen keinen Umbau im Serverraum und sind der günstigste Weg, mit eigener KI anzufangen.
Bei den Modellen arbeiten wir bevorzugt mit offenen Modellen unter freien Lizenzen, darunter aktuelle Varianten von OpenAI, Google, Meta, Mistral und Qwen. Welche davon auf welcher Hardware geprüft sind, veröffentlichen die Hersteller selbst, das ist unsere Auswahlgrundlage. Auf die Lizenzbedingungen achten wir mit, denn einzelne Modelle schließen Unternehmen ab einer bestimmten Umsatzgröße aus.
Aus der Praxis
Die Hälfte kann genügen
„Für einen Anbieter digitaler Datenräume haben wir die geplante KI-Umgebung gemeinsam nachgerechnet. Nach sauberer Ermittlung der tatsächlichen Last deckte die Hälfte der ursprünglich vorgesehenen Systeme den Bedarf, bei sechsstelligem Einsparpotenzial.“
Workshop
KI-Discovery-Workshop
KI verändert die Arbeitswelt nachhaltig. Jetzt ist der richtige Zeitpunkt, Chancen und Risiken einzuordnen und eine klare Strategie zu entwickeln. Unser KI-Workshop unterstützt Sie dabei, Potenziale zu erkennen und den passenden Einstieg für Ihr Unternehmen zu finden.
Our experts will be happy to advise you on the individual options.
Fill out our contact form or call us directly. We look forward to talking to you.