Technologien: womit wir entwickeln.
Wir setzen auf verbreitete, offene Technologien. So bleibt Ihre Anwendung wartbar, und jeder erfahrene Entwickler kann sie später weiterführen. Der Quellcode gehört Ihnen.
Sprachen und Werkzeuge
Standard ist Python für Server und KI, TypeScript für die Oberfläche. Bestehende Systeme erweitern wir in ihrer eigenen Sprache.
| Bereich | Was wir einsetzen |
|---|---|
| Server und KI-Logik | Python (FastAPI, Django), für Datenverarbeitung, KI-Anbindung und Schnittstellen |
| Oberfläche im Browser | TypeScript mit React bzw. Next.js, responsiv für Desktop und Smartphone |
| Bestehende Websites | PHP, z. B. für Erweiterungen von WordPress- oder Shop-Systemen |
| KI-Modelle lokal | Offene Modelle wie Qwen, Gemma, gpt-oss, Mistral oder GLM über Ollama, llama.cpp oder vLLM (Liste unten) |
| KI-Modelle Cloud | Schnittstellen etablierter Anbieter, wenn Datenschutz und Anwendungsfall es zulassen |
| Dokumentensuche | Vektordatenbanken (z. B. pgvector, Qdrant) mit Quellenangabe |
| Daten | PostgreSQL, SQLite, Excel- und CSV-Import, Anbindung an bestehende Datenbanken |
| Betrieb | Linux-Server, Docker, Git mit automatischer Auslieferung |
Aktuelle lokale KI-Modelle (Stand Oktober 2026)
„Lokal“ heißt: Das Modell wird einmal heruntergeladen und läuft danach vollständig auf Ihrem Rechner, ohne Internetverbindung zu einem KI-Anbieter. Diese sogenannten Open-Weight-Modelle werden von großen Herstellern kostenlos veröffentlicht, die meisten unter Lizenzen, die auch gewerbliche Nutzung erlauben. Neue Versionen erscheinen alle paar Monate. Wir prüfen sie und tauschen das Modell aus, wenn ein besseres verfügbar ist.
| Modellfamilie | Hersteller | Größen (Auswahl) | Lizenz | Einsatz bei uns |
|---|---|---|---|---|
| Qwen 3.6 / 3.8 | Alibaba | 27B (kompakt), 35B-A3B (MoE) | Apache 2.0 | Allround-Standard: Deutsch, Dokumente, Programmieren, versteht auch Bilder |
| Gemma 4 | 12B, 26B-A4B (MoE), 31B | Apache 2.0 | Sehr gutes Deutsch, Bilder und Audio als Eingabe, läuft schon auf kleiner Hardware | |
| gpt-oss | OpenAI | 20B (3,6B aktiv), 120B (5,1B aktiv) | Apache 2.0 | Schnelles logisches Arbeiten; 20B läuft mit rund 16 GB Speicher |
| Mistral Small 4 / Ministral 3 | Mistral AI (Frankreich) | Ministral 3–14B; Small 4 119B (MoE, ca. 6B aktiv) | Apache 2.0 | Europäischer Anbieter, lange Dokumente (256K Kontext) |
| GLM-5.3-Flash | Z.ai | 320B (MoE, 18B aktiv) | MIT | Starke Agenten- und Programmieraufgaben, braucht größeren Server |
| DeepSeek V4.1-Flash | DeepSeek | 552B (MoE, 8–16B aktiv) | MIT | Sehr lange Texte (bis 1 Mio. Token), nur auf großen Servern sinnvoll |
| Nemotron 3.5 | NVIDIA | 30B (MoE, ca. 3B aktiv) | eigene Herstellerlizenz | Schnelle Agenten auf Workstations |
| Apertus / Olmo 3 | Swiss AI / Ai2 | verschiedene | offen inkl. Trainingsdaten | Wenn Nachvollziehbarkeit der Trainingsdaten wichtig ist |
Was die Zahlen bedeuten: „27B“ heißt 27 Milliarden Parameter. Mehr Parameter bedeuten meist mehr Wissen, aber auch mehr Speicherbedarf. „MoE“ (Mixture of Experts) bedeutet: Das Modell ist groß, rechnet pro Wort aber nur mit einem kleinen Teil („aktiv“). Solche Modelle sind schnell, brauchen aber trotzdem Speicher für das ganze Modell. Durch Komprimierung („Quantisierung“ auf 4 Bit) passt ein 27B-Modell in etwa 16–20 GB Grafikspeicher.
Lizenzen prüfen wir für jedes Projekt. Einige Modelle großer Hersteller haben eigene Lizenzbedingungen mit Einschränkungen. Wir setzen bevorzugt Modelle unter Apache 2.0 oder MIT ein.
Welche Hardware für welches Modell
| Hardware-Klasse | Beispiel | Passende Modelle | Für wen |
|---|---|---|---|
| Einstieg | PC mit 16 GB Grafikkarte oder Mac mit 32 GB | Gemma 4 12B, gpt-oss-20b, Ministral 14B | Einzelplatz, Tests, kleine Teams |
| Büro-Standard | Workstation mit 24–32 GB Grafikkarte, z. B. RTX 4090/5090 | Qwen 27B, Gemma 4 31B, Qwen 35B-A3B | 5 bis 20 Nutzer, Dokumentensuche, Entwürfe |
| Erweitert | 2–4 Grafikkarten oder 128 GB gemeinsamer Speicher (z. B. Mac Studio, AMD Ryzen AI Max, NVIDIA DGX Spark) | gpt-oss-120b, Mistral Small 4 | Viele Nutzer gleichzeitig, anspruchsvollere Aufgaben |
| Rechenzentrum | Server mit 8 Beschleunigern | DeepSeek V4, GLM-5.3, Kimi K3 | Für KMU vor Ort in der Regel nicht wirtschaftlich |
Viele Aufgaben brauchen kein riesiges Modell. Für Dokumentensuche und Entwürfe im Büro reicht meist die Klasse „Büro-Standard“. Hardware liefern wir auf Wunsch aufbereitet aus unserem eigenen Bestand. Mehr dazu unter KI-Server vor Ort.
Die Software hinter der Anwendung
Modelle ausführen (Inferenz)
- Ollama: Einfachster Weg, ein Modell auf einem einzelnen Rechner zu betreiben. Ideal für kleine Teams und Tests.
- llama.cpp: Die schlanke Grundlage vieler Werkzeuge, läuft auch ohne große Grafikkarte, auf Mac, Windows und Linux.
- vLLM: Für Server mit vielen gleichzeitigen Nutzern. Verteilt Anfragen effizient auf eine oder mehrere Grafikkarten.
Oberfläche für Mitarbeiter
- Open WebUI: Chat-Oberfläche im Browser, ähnlich wie ChatGPT, mit Benutzerkonten, Rechten und Dokumentensuche. Läuft auf Ihrem Server.
- Eigene Oberfläche: Wenn die KI in einen Arbeitsablauf eingebettet sein soll, bauen wir sie in TypeScript mit React bzw. Next.js.
Dokumente, Sprache, Suche
- Texterkennung und Dokumentaufbereitung: Docling und Tesseract wandeln PDFs, Scans und Office-Dateien in durchsuchbaren Text um.
- Diktat und Besprechungen: Whisper (lokal über whisper.cpp oder faster-whisper) verschriftlicht Audio auf Deutsch.
- Semantische Suche: Embedding-Modelle wie bge-m3 oder Qwen-Embedding erzeugen die inhaltlichen Fingerabdrücke, gespeichert in PostgreSQL mit pgvector oder in Qdrant.
Programmiersprachen
- Python für Server, Datenverarbeitung und KI-Anbindung, mit FastAPI für Schnittstellen und Django für größere Anwendungen mit Verwaltungsoberfläche.
- TypeScript mit React und Next.js für Oberflächen im Browser, auf Desktop und Smartphone.
- PHP, wenn bestehende Websites, Shops oder WordPress erweitert werden.
- SQL für Datenbanken, Bash und Docker für Installation und Betrieb auf Linux-Servern.
Cloud-Modelle, wenn es passt
Wo keine vertraulichen Daten verarbeitet werden oder die größte Leistung nötig ist, binden wir die Schnittstellen etablierter Anbieter (z. B. Anthropic, OpenAI, Google, Mistral) an, bevorzugt mit Rechenzentren in der EU. Die Anwendung ist so gebaut, dass zwischen lokal und Cloud gewechselt werden kann.
So entsteht Ihre Anwendung
- AnforderungWas soll die Anwendung können, welche Daten gibt es?
- PrototypKlickbar, mit echten Beispieldaten, in wenigen Wochen.
- AusbauRechte, Schnittstellen, Tests.
- AuslieferungAutomatisch über Git, jede Änderung nachvollziehbar.
Häufige Fragen
Warum Python und TypeScript?
Python ist der Standard für KI und Datenverarbeitung, TypeScript für moderne Oberflächen im Browser. Für beide gibt es viele Entwickler. Sie sind also nicht an uns gebunden.
Schreiben Sie auch in anderen Sprachen?
Ja. Wenn Ihr bestehendes System in PHP, Java, C# oder einer anderen Sprache geschrieben ist, erweitern wir es in derselben Sprache, statt alles neu zu bauen.
Wo liegt der Quellcode?
In einem Git-Repository, auf Wunsch in Ihrem eigenen GitHub- oder GitLab-Konto. Jede Änderung ist nachvollziehbar.
Projekt anfragen
Beschreiben Sie Ihr Vorhaben oder Ihr bestehendes System. Wir sagen Ihnen, wie wir es umsetzen würden.
Telefonisch: 030 417 17370
Beschreiben Sie kurz, was Sie vorhaben. Wir melden uns mit einer konkreten Einschätzung.
Danziger Straße 78a
10405 Berlin
Berlin-Prenzlauer Berg