vLLM: Der unsichtbare Turbo hinter modernen KI-Plattformen Wenn wir über Künstliche Intelligenz sprechen, denken die meisten an ChatGPT, Claude oder Gemini. Doch hinter diesen Systemen arbeiten Technologien, die kaum jemand kennt. Eine davon heißt: vLLM. Ich behaupte sogar: vLLM gehört zu den wichtigsten Open-Source-Projekten der gesamten KI-Branche. Warum? Weil es dafür sorgt, dass große Sprachmodelle überhaupt wirtschaftlich betrieben werden können. Was ist vLLM? vLLM ist eine Open-Source-Plattform zum Bereitstellen (Serving) großer Sprachmodelle. Oder einfacher gesagt: vLLM sorgt dafür, dass KI-Modelle möglichst schnell, effizient und kostengünstig auf Anfragen antworten können. Denn ein Sprachmodell zu trainieren ist das eine. Es für tausende oder sogar Millionen Nutzer gleichzeitig bereitzustellen, ist eine ganz andere Herausforderung. Wer hat vLLM entwickelt? Das Projekt entstand 2023 am Sky Computing Lab der University of California, Berkeley. Zu den Hauptentwicklern gehören unt

Langdock: Warum diese Berliner KI-Plattform gerade so viel Aufmerksamkeit bekommt Viele Unternehmen stehen heute vor derselben Frage: Wie bringen wir Künstliche Intelligenz sicher, strukturiert und produktiv in unser Unternehmen? Einzelne Chatbots reichen dafür längst nicht mehr aus. Benötigt wird eine Plattform, die Sicherheit, Governance, verschiedene KI-Modelle und Unternehmensprozesse miteinander verbindet. Genau hier setzt Langdock an. Was ist Langdock? Langdock ist eine Enterprise-KI-Plattform aus Berlin. Das Unternehmen verfolgt ein klares Ziel: Künstliche Intelligenz soll für das gesamte Unternehmen nutzbar werden, nicht nur für einzelne Experten. Dabei versteht sich Langdock als zentrale Plattform für die Einführung, Verwaltung und Skalierung von KI in Organisationen. Im Mittelpunkt stehen: KI-Chat Agenten Workflows Integrationen APIs Governance Sicherheit Alles unter einer gemeinsamen Oberfläche. Wer steckt hinter Langdock? Gegründet wurde Langdock 2023 in Berlin von Lennard

Filmtipp: Meine Stunden mit Leo. Ein Zimmer. Zwei Menschen. Ein Gespräch über das Leben. Es gibt Filme, die laut sind. Und es gibt Filme, die ihre Kraft aus den leisen Momenten schöpfen. Meine Stunden mit Leo gehört eindeutig zur zweiten Kategorie. Fast die gesamte Geschichte spielt in einem einzigen Hotelzimmer. Zwei Menschen treffen aufeinander, die unterschiedlicher kaum sein könnten. Sie: Lebenserfahrung, Disziplin, Zweifel und viele unerfüllte Wünsche. Er: Jung, offen, aufmerksam und erstaunlich einfühlsam. Was zunächst wie eine ungewöhnliche Begegnung beginnt, entwickelt sich zu einem intensiven Kammerspiel über Nähe, Vertrauen und die großen Fragen des Lebens. Zwei Schauspieler, die den Film tragen Der Film lebt fast ausschließlich von seinen beiden Hauptdarstellern: Emma Thompson und Daryl McCormack. Emma Thompson spielt mit einer Ehrlichkeit, die berührt. Jeder Blick, jedes Zögern, jedes Lächeln erzählt eine Geschichte. Daryl McCormack überzeugt mit einer ruhigen Präsenz, die

Neu erschienen: CYBERSECURITY 2030. Ein Blick in die Zukunft der digitalen Sicherheit Nach über 30 Jahren Erfahrung in den Bereichen IT, Cybersecurity und Technologie ist es soweit: Mein neues Buch „CYBERSECURITY 2030 – Überleben in einer Welt aus KI-Agenten, autonomen Angriffen und Deepfakes“ ist ab sofort bei Amazon erhältlich. In den vergangenen Jahren hat sich die IT-Sicherheit stärker verändert als jemals zuvor. Künstliche Intelligenz entwickelt sich rasant. Autonome Angriffe werden Realität. Deepfakes werden immer perfekter. KI-Agenten übernehmen zunehmend Aufgaben, die bisher ausschließlich Menschen vorbehalten waren. Genau diese Entwicklung war der Anlass für dieses Buch. Worum geht es? CYBERSECURITY 2030 ist kein klassisches Fachbuch voller Normen und Paragrafen. Es ist vielmehr ein Praxisbuch für alle, die verstehen möchten, wie sich unsere digitale Welt in den kommenden Jahren verändern wird. Dabei geht es unter anderem um: KI-Agenten als Angreifer und Verteidiger Deepfakes

Ich ordne es Dir praxisnah ein: nicht als Technik-Zauberwort, sondern als Architektur-Prinzip fürs Prompting, damit Claude nicht im Token-Nebel spazieren geht. Headroom bei Claude heißt: Du stopfst das Kontextfenster nicht bis zum Rand voll, sondern lässt bewusst freien Token-Platz für Denken, Antwort, Tools und Korrekturen. Die Idee: Nicht alles reinschütten, sondern sauber portionieren. 🧠⚙️ Claude arbeitet mit einem Kontextfenster: Eingabe, Verlauf, Dokumente, Tool-Ergebnisse und Ausgabe teilen sich diesen Raum. Anthropic beschreibt, dass sich Konversationen über Turns hinweg im Kontext ansammeln und Input plus neue Ausgabe in dieses Fenster passen müssen. Warum spart Headroom Token? Wenn Du Claude zu viel Kontext gibst, passiert oft Folgendes: Claude liest zu viel Irrelevantes, Antworten werden länger, Tool-Aufrufe werden unnötig groß, und bei langen Sessions muss später komprimiert oder neu geladen werden. Headroom ist also kein einzelner Schalter, sondern eine Disziplin im Kontex

KI-TopTen auf LinkedIn: Jeden Montag ein Blick auf die spannendsten KI-Plattformen Vor einigen Monaten entstand eine einfache Idee: Welche KI-Plattformen gehören eigentlich aktuell zu den besten? Jede Woche erscheinen neue Modelle, neue Werkzeuge und neue Start-ups. Fast täglich verändert sich der Markt. Da lag die Frage nahe: Wie bewerten die großen KI-Systeme selbst den Markt? Genau daraus entstanden unsere KI-TopTen, die inzwischen jeden Montag auf LinkedIn erscheinen. Heute verfolgen bereits über 20.000 interessierte Leserinnen und Leser diese kleine Serie. Für mich ist das ein schönes Zeichen dafür, wie groß das Interesse an Künstlicher Intelligenz inzwischen geworden ist. Wie entstehen die KI-TopTen? Das Prinzip ist bewusst einfach gehalten. Jeden Montag befragen wir verschiedene KI-Systeme nach ihren aktuellen TopTen der spannendsten KI-Plattformen. Dazu gehören unter anderem: ChatGPT Claude Perplexity und gelegentlich auch Manus Jede Plattform bewertet den Markt aus ihrer eigen