Künstliche Intelligenz 4 August 2026 · 10 Min. Lesezeit

KI-Integration im Unternehmen: Ein LLM an das ERP anbinden

Wie stimmen Sie große Sprachmodelle (LLM) mit Ihren bestehenden ERP-, WMS- und CRM-Systemen ab? Architektur, 5 Anwendungsfälle, Risiken und Kostenmodell.

Künstliche Intelligenz LLM-Integration RAG ERP künstliche Intelligenz Fertigung
Th Unternehmens-KI-Integration LLM · RAG · ERP Freitext E-Mail · Sprache · Notiz RAG + LLM Vektordatenbank .NET 8 middleware Strukturierte Daten Auftrag · Bestand · Bericht Regelwerk + menschliche Freigabe Think WMS Handterminal Think CRM Gesprächsnotiz B2B Portal Auftragserfassung

Einer Ihrer Händler schreibt morgens um 08:40 eine E-Mail: „Hallo, schicken Sie uns 40 Stück von den 20er-Rohren wie beim letzten Mal, dazu 5 Kartons vom Dichtungsset mit unserem Sonderrabatt, gleiche Adresse." Damit dieser Satz im ERP zu einer Auftragsposition wird, muss jemand die E-Mail lesen, den Artikelcode suchen, den Bestand prüfen und den Beleg von Hand anlegen. Bei 60 E-Mails am Tag ist das kein Thema für „künstliche Intelligenz", sondern eine Position in Ihren Betriebskosten.

Am anderen Ende derselben Fabrik fordert der Lagerleiter bei der IT einen Bericht an, um die Frage „wie viele Fehlmengen haben wir letzten Monat an welchen Kunden geliefert" zu beantworten, und stellt sich damit in die Warteschlange. Wenn die Antwort drei Tage später kommt, ist die Frage längst nicht mehr aktuell.

Diese beiden Szenen zeigen, wo große Sprachmodelle (LLM — KI-Modelle, die in menschlicher Sprache geschriebenen Text verstehen und wiederum Text erzeugen) in Unternehmenssoftware wirklich nützen. Es geht nicht darum, dass Maschinen entscheiden, sondern darum, die Lücke zwischen dem Freitext, den Menschen schreiben, und den strukturierten Daten, die Systeme erwarten, zu schließen. In diesem Beitrag betrachten wir die KI-Integration im Unternehmen anhand von drei Fragen: Was bringt sie uns, was kostet sie, und fließen unsere Daten ab?

01. Was genau leistet ein LLM in Unternehmenssoftware?

Warum ist ein LLM keine entscheidende Instanz, sondern eine Übersetzungsschicht?

Was ein LLM tut, ist im Kern eine Übersetzung. Es überführt Freitext in strukturierte Daten: den Satz „40 Stück vom 20er-Rohr" in das Objekt {artikelcode: BR-020, menge: 40}. Es funktioniert auch in die andere Richtung: Es macht aus einer Tabelle aus der Datenbank eine Zusammenfassung in drei Sätzen, die der Vertriebsleiter lesen kann.

Diese Definition scharf zu halten ist wichtig, denn die meisten Enttäuschungen in der Praxis entstehen genau hier. Fragen Sie ein LLM „welches Zahlungsziel soll ich diesem Händler geben", erzeugt es einen selbstbewussten Satz — aber das ist Sprachproduktion, keine finanzielle Entscheidung. Die Entscheidung muss in Ihren Risikoregeln bleiben.

Wie verbindet man eine nicht-deterministische Komponente mit einem deterministischen System?

Bestands-, Buchhaltungs- und Versandsysteme sind deterministisch: Dieselbe Eingabe liefert immer dasselbe Ergebnis, und das muss auch so sein. Ein LLM dagegen ist probabilistisch; es kann dieselbe Frage in zwei unterschiedlichen Formulierungen beantworten. Der sichere Weg, diese beiden Welten zu verbinden, ist eine klare Grenze dazwischen.

Die Regel lautet: Das LLM schlägt vor, das System validiert, der Mensch bestätigt, und der Schreibvorgang erfolgt durch Code. Das LLM setzt niemals direkt ein INSERT in die Datenbank ab. Seine Ausgabe durchläuft zuerst die Schemaprüfung (existiert der Artikelcode wirklich, ist die Menge positiv, ist das Limit des Händlers frei); danach wird sie dem Menschen auf dem Bildschirm als „bestätigen / korrigieren" vorgelegt.

Praktisch heißt das: Ein Irrtum des LLM führt nicht dazu, dass das System kaputtgeht, sondern dazu, dass eine Benutzerin ein Feld korrigiert. Genau dieses Design macht das Risiko tragbar.

02. Wie die Architektur aufgebaut wird: Wo dockt das LLM an Ihre bestehenden Systeme an?

Wir bauen diese Struktur nicht, indem wir eine Plattform von Grund auf neu errichten, sondern indem wir den Schichten, die Sie ohnehin betreiben, einen Ring hinzufügen. Die .NET-8-REST-API-Schicht, die es in Think WMS und im B2B-Händlerportal bereits gibt, ist der natürliche Anknüpfungspunkt.

Datenquellen MSSQL · Mikro ERP Logo · Dokumente API-Middleware .NET 8 · Rechte und Geschäftsregeln RAG-Schicht Embedding + Vektordatenbank LLM Cloud oder On-Premise Vorschlag (kein Schreiben) Validierungsschicht: Schemaprüfung · Geschäftsregeln · menschliche Freigabe Ohne diesen Durchlauf entsteht kein einziger Datensatz Think WMS Handheld-Terminal Think CRM Vertrieb und Händler B2B-Portal Händler und Außendienst freigegebener Datensatz wird ins ERP geschrieben

Was ist RAG — trainieren wir das Modell mit unseren Firmendaten?

Nein. Das ist das Missverständnis, dem wir am häufigsten begegnen. RAG (Retrieval-Augmented Generation) bedeutet, nicht das Modell mit Ihren Daten zu trainieren, sondern das zur Frage passende Dokument zu finden und es das Modell in diesem Moment lesen zu lassen. Ihr Produktkatalog, Ihre ERP-Prozeduren und technischen Dokumente werden in kleine Abschnitte zerlegt, jeder Abschnitt in eine numerische Repräsentation (Embedding) überführt und in einer Vektordatenbank abgelegt; kommt eine Frage, werden die relevantesten Abschnitte herausgezogen und dem Modell als Kontext übergeben. Das Ergebnis: Wenn Sie Ihre Preisliste aktualisieren, müssen Sie das Modell nicht neu trainieren, Sie tauschen einfach das Dokument aus — und Sie können überprüfen, auf welchem Dokument die Antwort beruht, weil sie die Quelle nennt.

03. In welchen Prozessen entsteht konkreter Nutzen? Fünf Szenarien

Die folgenden Zahlen sind Schätzungen aus Arbeitsaufwandsmessungen in vergleichbaren Prozessen und aus in Pilotprojekten beobachteten Bandbreiten; sie hängen von der Datenqualität des jeweiligen Unternehmens ab. Lesen Sie sie als Ausgangsziele, die in der Machbarkeitsstudie gemessen werden, nicht als feste Zusage.

a) Wie funktioniert die Auftragserfassung in natürlicher Sprache im B2B-Portal?

Heutiger Prozess: Der Händler schickt seine Bestellung als Freitext per E-Mail oder WhatsApp. Ein Kundenbetreuer übersetzt die Produkte in Codes und tippt sie von Hand ins Portal oder ERP. Verwechselte Artikelcodes und fehlende Positionen sind die beiden häufigsten Fehler.

Prozess mit LLM: Der Händler tippt denselben Satz in das Suchfeld des Portals, oder die eingehende E-Mail wird automatisch geparst. Das System gleicht per RAG mit dem Produktkatalog ab und legt den fertigen Warenkorb vor: „Meinten Sie das?" Der Händler bestätigt, und der Auftrag läuft über die Adapterschicht ins ERP.

Messbarer Gewinn: Die 4–6 Minuten manueller Erfassung pro Auftrag sinken etwa um die Hälfte; Retouren und Korrekturen wegen falscher Artikelcodes gehen deutlich zurück. Bei 60 Aufträgen am Tag entspricht das einem erheblichen Teil der Arbeitslast einer Person.

Wo es andockt: B2B-Händlerportal (React-Oberfläche + ERP-agnostische Adapterschicht) und PWA-Außendienstmodul.

b) Lassen sich Gesprächsnotizen in Think CRM automatisch zusammenfassen?

Heutiger Prozess: Der Außendienstler besucht tagsüber fünf Händler und schreibt die Notizen abends — oder eben nicht. Und wenn, dann bleibt ein Satz wie „gesprochen, positiv" übrig; daraus kann der Leiter keine Pipeline lesen.

Prozess mit LLM: Der Außendienstler hinterlässt das Gespräch als Sprachnotiz auf dem Handy oder gibt einen kurzen Freitext ein. Das System macht daraus einen strukturierten Datensatz: besprochene Produkte, Einwandgrund, gewünschtes Zahlungsziel, nächste Aktion und Terminvorschlag. Der Vorschlag wird nach Bestätigung des Verkäufers ins CRM übernommen.

Messbarer Gewinn: 2–3 Stunden Berichtszeit pro Vertriebsmitarbeiter und Woche; wichtiger noch: ein deutlich höherer Anteil tatsächlich erfasster Besuche. Ein leeres CRM liefert auch einen leeren Bericht.

Wo es andockt: Think CRM (B2B-Händler- und B2C-Endkundenmodule).

c) Lässt sich ein Power-BI-Bericht mit einer Frage in Alltagssprache abrufen?

Heutiger Prozess: Der Geschäftsführer fragt „in welcher Produktgruppe ist der Umsatz in der Region Marmara im letzten Quartal gefallen". Die Berichtsanfrage geht an die IT oder den BI-Berater, reiht sich in die Warteschlange ein und kommt Tage später zurück.

Prozess mit LLM: Die Führungskraft formuliert die Frage in natürlicher Sprache. Das LLM erhält das Schema Ihres Datenmodells (Tabellen- und Kennzahlennamen) als Kontext und erzeugt eine DAX- oder SQL-Abfrage; die Abfrage läuft unter Ihren Berechtigungsregeln, und das Ergebnis kommt samt Diagramm zurück. Die erzeugte Abfrage bleibt auf dem Bildschirm sichtbar, damit das BI-Team sie prüfen kann.

Messbarer Gewinn: Bei routinemäßigen, eindimensionalen Fragen sinkt die Antwortzeit von Tagen auf Minuten. Komplexe Analysen bleiben Sache des BI-Beraters — Ziel ist es, die Warteschlange der IT von einfachen Fragen zu befreien.

Wo es andockt: Eine Frage-Antwort-Schicht auf unserem Power-BI-Reporting und der BI-Beratung.

d) Kann ein Lagermitarbeiter mit Handschuhen den Wareneingang per Sprache buchen?

Heutiger Prozess: Der Mitarbeiter nimmt das Handheld, zieht einen Handschuh aus, wählt ein Menü auf dem Bildschirm und tippt die Menge ein. Im Kühllager oder an Linien, die beide Hände erfordern, ist dieser Schritt langsam und fehleranfällig zugleich.

Prozess mit LLM: Der Mitarbeiter spricht: „Wareneingang, zwölf Kartons auf Regal fünf." Die Sprache wird in Text umgewandelt, das LLM überführt sie in das Vorgangsobjekt, das das WMS erwartet, und das Terminal fragt auf dem Bildschirm und per Sprache nach Bestätigung. Nach der Freigabe entsteht die Bestandsbewegung über die .NET-8-API.

Messbarer Gewinn: Bei wiederkehrenden Vorgängen wie Wareneingang und Inventur ein paar Sekunden pro Vorgang — über Tausende Vorgänge je Schicht eine relevante Summe. Der eigentliche Gewinn sind weniger Fehlbuchungen bei Regal und Menge, weil die Hände frei bleiben.

Wo es andockt: Think WMS (Android-Handheld + .NET-8-REST-API).

e) Was bringt ein interner Frage-Antwort-Assistent für ERP-Prozeduren?

Heutiger Prozess: Die Frage „mit welchem Belegtyp haben wir in Mikro die Gutschrift gebucht?" landet auf dem Schreibtisch einer erfahrenen Kollegin. Ist diese Person im Urlaub, steht die Arbeit still. Das Unternehmenswissen steckt in Köpfen, nicht in Dokumenten.

Prozess mit LLM: Prozedurdokumente, ERP-Handbücher und frühere Supportfälle kommen in die RAG-Schicht. Die Mitarbeiterin tippt die Frage, und der Assistent liefert die Antwort zusammen mit Quelldokument und Abschnittsnummer. Eine Antwort ohne Quelle ist keine Antwort.

Messbarer Gewinn: Ein erheblicher Teil wiederkehrender interner Supportfragen wird beim Erstkontakt gelöst; die Einarbeitungszeit neuer Mitarbeitender verkürzt sich. Zusatznutzen: Sie sehen, welche Fragen häufig kommen, und schreiben die Prozedur, die wirklich fehlt.

Wo es andockt: Im Rahmen der IT-Beratung, eingebettet in Ihr bestehendes Portal oder Intranet.

04. Wo liegen die Risiken: Was akzeptieren Sie bewusst?

Was bedeutet Halluzination im Betrieb?

Statt zu sagen, dass sie etwas nicht wissen, können LLMs eine plausibel wirkende Antwort erfinden. Das nennt man Halluzination. Betrieblich heißt das: Es kann einen Artikelcode vorschlagen, den es nicht gibt, oder eine Prozedur selbstbewusst falsch erklären.

Die Lösung liegt nicht im Modell, sondern in der Architektur. Ein Artikelcode wird immer gegen den echten Katalog abgeglichen, ein erfundener Code kommt nicht ins System. Der Dokumentassistent muss Quellen nennen. Und in kritischen Abläufen wird die menschliche Freigabe nicht entfernt.

Wohin gehen unsere Daten, wie sieht es datenschutzrechtlich aus?

Diese Frage gehört ins erste Gespräch. Es gibt drei Optionen, und alle drei bieten ein anderes Verhältnis von Kosten und Vertraulichkeit:

  • Cloud-Modell, Unternehmensvertrag: Man arbeitet mit der Zusicherung, dass die Daten nicht zum Modelltraining verwendet werden. Der schnellste und günstigste Start, aber die Daten gehen an einen Verarbeiter im Ausland.
  • Hosting in der Türkei: Middleware und Vektordatenbank bleiben auf Servern in der Türkei; an das Modell geht nur maskierter, minimal notwendiger Kontext.
  • On-Premise mit offenem Modell: Das Modell läuft auf Ihrem eigenen Server, die Daten verlassen das Gebäude nicht. Erfordert Hardwareinvestition und Wartung; bei sensiblen Inhalten wie Verträgen und Preislisten die bevorzugte Variante.

Welche Option es auch wird: Felder mit personenbezogenen Daten (Name der Händleransprechperson, Telefon, Adresse) vor dem Versand an das Modell zu maskieren, ist bei uns Standard. Datenschutzkonformität ist kein Produktmerkmal, sondern eine Designentscheidung.

Wie werden Token-Kosten planbar?

Die Nutzung eines LLM wird nach der Menge verarbeiteten Textes (Token) abgerechnet. Das lässt die Budgetierung auf den ersten Blick unbestimmt wirken; prozessbezogen gerechnet ist sie jedoch planbar. Das Parsen eines Auftrags oder das Zusammenfassen einer Gesprächsnotiz kostet in der Größenordnung weniger Cent pro Vorgang.

In der Machbarkeitsstudie tun wir Folgendes: Wir nehmen das monatliche Vorgangsvolumen des Prozesses, messen den durchschnittlichen Tokenverbrauch je Vorgang und setzen eine Obergrenze. Limits je Nutzer und Prozess, ein Cache für häufige Fragen, Abschnittsgrenzen bei langen Dokumenten — das sind keine technischen Details, sondern Instrumente der Budgetkontrolle.

Wo wird es nicht eingesetzt?

Ehrlich gesagt ist dieser Teil der Liste genauso wichtig wie die nutzbaren Bereiche:

  • Buchhaltungsbuchungen und Finanzberechnungen: Journalbuchung, Umsatzsteuerberechnung, Kostenrechnung. Das ist Sache der Regelmaschine; ein LLM ist kein Werkzeug für Arithmetik.
  • Amtliche Meldungen und E-Belege: E-Rechnung, E-Lieferschein, behördliche Meldungen. Fehler in Format oder Inhalt haben rechtliche Folgen.
  • Aufgaben mit exaktem, reproduzierbarem Ergebnis: Bestandssalden, Kontenabstimmung, Preisberechnung. Das holt man sich mit einer Abfrage, nicht mit einer Frage an ein Modell.
  • Nicht rückholbare Auslöser: Versand ohne Freigabe starten, automatische Zahlung, Korrespondenz, die direkt zum Kunden geht.

05. Wie wird das paketiert und eingekauft?

Unser Ansatz ist nicht, unter dem Namen „KI-Projekt" ein großes, unklares Budget zu öffnen. KI-Integration im Unternehmen ähnelt eher einer Prozessverbesserung als einem Softwarekauf; deshalb gehen wir einen vierstufigen Weg mit einer Ausstiegsmöglichkeit auf jeder Stufe:

  1. Erhebung und Machbarkeit (1–2 Wochen): Wir beobachten die Prozesse vor Ort und sehen den Zustand von Daten und Dokumenten. Ergebnis: Kandidatenprozesse, erwartete Nutzenspanne, Kostenschätzung und Risikoliste. Das Fazit kann lauten „für diesen Prozess noch nicht sinnvoll"; wir sagen das lieber vorab.
  2. Pilot (4–6 Wochen, eine Abteilung): Ein Prozess, begrenzte Nutzerzahl, messbares Ziel. Das Erfolgskriterium des Piloten wird vorab schriftlich festgelegt: etwa die angestrebte Verkürzung der Auftragserfassungszeit.
  3. Ausrollen: Hält der Pilot, folgt die Übertragung auf weitere Abteilungen und Produkte, dazu Berechtigungen und Schulung.
  4. Monatliche Nutzung und Wartung: Modellnutzungsgebühr, Monitoring, Aktualität der Dokumente und Verbesserung. Dieser Posten ist nicht optional — eine ungepflegte RAG-Schicht veraltet binnen weniger Monate.

Warum verkaufen wir kein separates „KI-Modul"?

Weil die Nutzerin keine künstliche Intelligenz nutzen will; sie will den Auftrag schnell erfassen und den Bericht ohne Wartezeit sehen. Module, die einen eigenen Bildschirm, eine eigene Lizenz und eine eigene Gewohnheit verlangen, bleiben ungenutzt im Regal stehen.

Deshalb betten wir die LLM-Fähigkeit in den Wareneingangsbildschirm des WMS, in das Besuchsformular des CRM und in das Suchfeld des Portals ein. Die Nutzerin lernt kein neues Werkzeug; der Bildschirm, den sie ohnehin benutzt, verlangt weniger Klicks. Die kaufmännische Folge: Die Investition fließt in die Nutzungstiefe eines bereits genutzten Produkts, nicht in ein Modul, das niemand öffnet.

06. Mit welchem Prozess sollten Sie beginnen?

Die Wahl des richtigen Piloten ist die entscheidendste Weichenstellung des Projekts. Beginnen Sie mit einem Prozess, der alle drei Kriterien zugleich erfüllt:

  1. Wiederkehrend: Wird dutzendfach am Tag ausgeführt. Bei einmaligen Aufgaben lässt sich der Gewinn nicht messen.
  2. Textlastig: Die Eingabe ist Freitext, Sprache oder Dokument. Numerische, regelgebundene Aufgaben sind ohnehin das Feld klassischer Software.
  3. Fehler rückholbar: Ein falscher Vorschlag muss korrigierbar sein — solange er als Vorschlag auf dem Bildschirm steht, nicht nachdem der Versand raus ist.

Mit diesen drei Kriterien können Sie Ihre eigenen Prozesse auf eine kurze Liste eindampfen. In den meisten Fertigungs- und Distributionsunternehmen beginnt die Liste mit der Auftragserfassung und dem internen Dokument-Q&A; beide haben hohes Tagesvolumen, Texteingabe und Fehler, die sich am Bildschirm korrigieren lassen.

Ein Hinweis: Wählen Sie beim Erstellen der Liste nicht den „sichtbarsten", sondern den am häufigsten wiederholten Prozess. Eine Demo, die in der Managementsitzung beeindruckt, und eine Funktion, die über eine Schicht hinweg wirklich Zeit spart, sind meist nicht dasselbe. Der Zweck eines Piloten ist keine Vorführung, sondern der Nachweis eines messbaren Unterschieds.

Und die Datenseite muss man von Anfang an sehen. Wo dasselbe Material im Produktkatalog unter drei verschiedenen Namen geführt wird oder Prozeduren nie schriftlich festgehalten wurden, ist die erste Aufgabe nicht, ein LLM einzuführen, sondern diese beiden Punkte zu ordnen. Genau dafür wenden wir in der Erhebung auch die meiste Zeit auf.

Lassen Sie uns gemeinsam klären, wo Sie anfangen: In einem kostenlosen Erstgespräch sprechen wir anhand Ihres aktuellen ERP (Mikro, Logo oder ein anderes), Ihrer Datenqualität und Ihrer Prozesse darüber, welcher Schritt wirklich Nutzen bringt — und wenn er es nicht tut, sagen wir auch das. Unser Team im Gebze GTÜ Teknopark ist jederzeit offen für ein Gespräch über ein System, das im Betrieb tatsächlich funktioniert.

Dabei können wir Ihnen helfen

Entdecken Sie unsere Lösung Künstliche Intelligenz

Für ausführliche Informationen können Sie ein kostenloses Beratungsgespräch buchen.

Seite ansehen Angebot anfordern
Artikel zu Künstliche Intelligenz

Weitere Artikel zu diesem Thema

Künstliche Intelligenz

Unternehmens-KI: ChatGPT mit Ihren Firmendaten sprechen lassen (RAG)

16 Juni 2026 · 8 Min. Lesezeit
Künstliche Intelligenz

OCR für Rechnungen und Verträge: Dokumentautomatisierung mit KI

6 Mai 2026 · 6 Min. Lesezeit
Alle Artikel