KI-Trends

Tech Briefing 2026-09-29: Sonnet 5.5 senkt die Kosten, World Labs geht zu AMD, Entscheidungsmodelle zu Hause trainiert

Anthropic liefert ein schnelleres, günstigeres Sonnet, das den Abstand zu Opus deutlich verkleinert, World Labs schliesst sich AMD an, um einen offenen Stack für räumliche KI zu bauen, ein Hobbyprojekt trainiert Jev-artige Entscheidungsmodelle auf einer einzigen Workstation, ein 0,5B-Modell läuft verteilt über sieben ESP32-Chips, und ein Entwickler leitet den Broadcast-Stream der PS5 per DNS-Trick um

Die heutigen Meldungen zeichnen einen einzigen Bogen: Leistungsfähige KI wird immer günstiger, kleiner und rückt näher an die Hardware heran, die Sie ohnehin besitzen. Ein Frontier-Labor liefert ein Modell, das mehr für weniger leistet, ein Pionier der räumlichen KI geht in einem Chiphersteller auf, um einen offenen Stack zu bauen, ein Bastler trainiert produktionsreife Entscheidungsmodelle an einem einzigen Schreibtisch, ein Sprachmodell läuft verteilt über eine Handvoll Mikrocontroller, und ein entschlossener Entwickler beugt eine abgeschottete Konsole allein mit DNS seinem Willen. Hier ist, was geschah, und was zu tun ist.

1. Claude Sonnet 5.5: Mehr Leistung, weniger Geld

Anthropic hat Claude Sonnet 5.5 veröffentlicht, das zweite Modell der 5.5-Familie, positioniert als schnellere und günstigere Ergänzung zu Opus 5.5. Es läuft über 30% schneller als Sonnet 5, hält denselben Listenpreis (2 USD pro Million Input-Tokens, 10 USD pro Million Output), benötigt aber typischerweise deutlich weniger Tokens pro Aufgabe, weshalb Anthropic in der Praxis von bis zu 30% geringeren Kosten berichtet. Bei mehreren Benchmarks liegt es nun nur noch wenige Punkte hinter dem weitaus teureren Opus 5.5.

"Sonnet 5.5 erreicht 70,6% auf Terminal-Bench 4.0, einer Evaluation für agentisches Coding, gegenüber 10,3% bei Sonnet 5." — Anthropic

Am deutlichsten ist der Sprung bei agentischem Coding und Wissensarbeit. Frühe Tester bemerkten, dass das Modell Tool-Aufrufe stärker bündelt, also weniger Schritte und geringere Kosten für dasselbe Ergebnis, und in einem internen Test entwarf es aus reinen Quartalsunterlagen eine versandfertige 10-Folien-Präsentation. Anthropic liefert es zudem mit strengeren Schutzmassnahmen aus: Da seine Cyber-Fähigkeiten nun mit denen von Opus 5 vergleichbar sind, fallen risikoreichere Sicherheitsaufgaben sichtbar auf das ältere Sonnet 5 zurück.

Bedeutung für Ihr Unternehmen: Die interessante Zahl ist nicht der Listenpreis, sondern die Kosten pro fertiger Aufgabe, und die sinken rasch. Wenn Sie sich "zur Sicherheit" auf ein Premium-Modell festgelegt haben, lassen Sie Ihre echten Arbeitslasten erneut auf der Mittelklasse-Option laufen und vergleichen Sie Kosten und Qualität direkt; der Abstand, der den Aufpreis einst rechtfertigte, schrumpft. Setzen Sie die Aufwandsstufen bewusst: niedrig für Routinearbeit, hoch nur dort, wo anhaltendes Urteilsvermögen sich wirklich auszahlt.

Quellen: Introducing Claude Sonnet 5.5 (Anthropic) · Hacker-News-Diskussion

2. World Labs geht zu AMD, und räumliche KI bekommt ein Hardware-Zuhause

World Labs, das 2024 von Fei-Fei Li gegründete Start-up für räumliche Intelligenz, hat eine verbindliche Vereinbarung unterzeichnet, sich AMD anzuschliessen. Li wird Executive Vice President und Chief Scientist und berichtet direkt an CEO Lisa Su, während die Mitgründer Justin Johnson und Ben Mildenhall das World-Labs-Team innerhalb von AMD weiterführen. Erklärtes Ziel ist ein durchgängiges, offenes KI-Ökosystem aus Hardware, Software, Foundation-Modellen und Anwendungen; der Abschluss der Transaktion wird bis Ende 2026 erwartet.

"Um in diese Zukunft zu beschleunigen, müssen wir unsere Anstrengungen und unsere Reichweite skalieren und näher an die Hardware rücken." — World Labs

Der Subtext ist Konsolidierung. World Labs begann letztes Jahr eine enge Partnerschaft mit AMD bei Training und Inferenz auf AMD-GPUs, und beide entschieden, eine vollständige Fusion sei der natürliche nächste Schritt. Es ist ein bemerkenswertes Gegengewicht zum Nvidia-zentrierten KI-Stack und ein Signal, dass "Weltmodelle" für den physischen und räumlichen Bereich vom Forschungsdemo zur produktisierten Infrastruktur werden, gestützt von einem grossen Chiphersteller.

Bedeutung für Ihr Unternehmen: KI-Talente und Hardware konsolidieren sich in wenigen vertikal integrierten Stacks. Das ist gut für offene Alternativen zu einem einzigen dominierenden GPU-Anbieter, bedeutet aber auch, dass Ihre künftige KI-Lieferkette an einer Handvoll Hardware-plus-Modell-Bündeln hängen könnte. Wenn Sie mehrjährige KI-Investitionen planen, gewichten Sie die Portabilität: Bevorzugen Sie offene Modelle und Standardschnittstellen, damit ein Wandel in der Hardwarelandschaft Ihre Anwendungen nicht strandet.

Quellen: World Labs Is Joining AMD (World Labs) · Hacker-News-Diskussion

3. Jeff: Spezialisierte Entscheidungsmodelle, an einem Schreibtisch trainiert

Ein Projekt namens Jeff hat Jev-kompatible Entscheidungsmodelle (0,8B und 2B) veröffentlicht, die vollständig auf lokaler Hardware trainiert wurden und in rund 22–30 ms pro Aufruf entscheiden. Das sind keine Chatbots: Sie beschreiben eine Situation und listen die Optionen in einfachen Worten auf, und das Modell liefert für jede eine kalibrierte Wahrscheinlichkeit, in einem einzigen Vorwärtsdurchlauf, ohne generierten Text zum Parsen. Zero-Shot erreichen die kleinen Modelle bei Klassifikations- und Grounding-Benchmarks weitaus grössere Entscheidungssysteme und übertreffen sie mitunter, während sie bei anspruchsvollen Reasoning-Aufgaben zurückliegen, wie bei dieser Grösse zu erwarten.

"Unser Fine-Tune für Sprachnavigation hob die Genauigkeit auf ungesehenen Daten in unter einer halben Stunde auf einer GPU von 31,7% auf 95,8%." — Jeff-Projekt

Die Schlagzeile ist die Ökonomie. Das 0,8B-Modell trainiert in etwa zwei Stunden auf einer einzigen Workstation-GPU, sämtliche synthetischen Trainingsdaten stammen von einem offenen Modell, und es kamen weder Cloud-GPUs noch Ausgaben geschlossener Modelle zum Einsatz. Das drückt die Kosten für einen privaten, massgeschneiderten Klassifikator, für Support-Routing, Moderationslabels, Nutzerabsichten oder Triage, von einem Cloud-Vertrag auf einen Nachmittag lokaler Rechenzeit.

Bedeutung für Ihr Unternehmen: Ein überraschend grosser Teil der "KI"-Arbeit ist in Wahrheit schnelle, wiederholbare Klassifikation, und dafür brauchen Sie kein riesiges Allzweckmodell. Für Routing und Labeling in grossem Volumen kann ein kleines, feinabgestimmtes Entscheidungsmodell günstiger, schneller, vollständig lokal und leichter zu steuern sein als ein API-Aufruf an ein Frontier-Modell, was zählt, wenn Ihre Daten die Schweiz oder die EU nicht verlassen dürfen. Beginnen Sie damit, die Ja/Nein- und Auswahl-Entscheidungen zu katalogisieren, die Ihre Systeme tausendfach am Tag treffen.

Quellen: Jeff auf GitHub · Hacker-News-Diskussion

4. Ein Sprachmodell, verteilt über sieben Mikrocontroller

Am äussersten Rand der Frage "wie klein geht es" hat ein Entwickler ein 0,5B-Sprachmodell über einen Verbund von sieben ESP32-S3-Mikrocontrollern zum Laufen gebracht, mit 1,58-Bit-(BitNet-)Ternärquantisierung. Ein Chip fungiert als Master (Tokenizer, Embeddings, Sampling); die anderen sechs betreiben je vier Transformer-Schichten, und die Boards reichen Hidden-State-Vektoren über eine schnelle SPI-Daisy-Chain weiter. Es ist eine von Grund auf gebaute Pipeline: eigenes INT4-Embedding-Packing, assembler-optimierte ternäre Matrixoperationen und ein KV-Cache im PSRAM.

"Dieses Projekt betreibt ein zerlegtes 0,5B-LLM über einen Verbund von 7 ESP32s3. Einer fungiert als Master, die anderen als Knoten." — ESP32s3-LLM-Cluster

Es ist ein Bastelprojekt, kein Produkt, aber ein eindrücklicher Beleg: Mit aggressiver Quantisierung lässt sich Transformer-Inferenz über Mikrocontroller verteilen, die nur wenige Franken kosten, ohne GPU, ohne Cloud, ohne Netzwerk-Roundtrip. Genau dieselben Techniken (1,58-Bit-Gewichte, Layer-Sharding, winzige Speicherbudgets) machen KI direkt auf dem Gerät in Sensoren, Geräten und Industrieanlagen praktikabel.

Bedeutung für Ihr Unternehmen: Wenn Ihre Produkte Mikrocontroller enthalten, ist nennenswerte lokale Inferenz keine Science-Fiction mehr. Für latenzkritische oder datenschutzsensible Funktionen können kleine quantisierte Modelle auf dem Gerät die Cloud-Abhängigkeit vollständig beseitigen, das senkt das Datenübertragungsrisiko und funktioniert auch ohne Verbindung. Behalten Sie ternäre Quantisierung im BitNet-Stil im Auge: Sie ist der Hebel, der aus "braucht ein Rechenzentrum" ein "läuft auf dem Board, das Sie ohnehin ausliefern" macht.

Quellen: ESP32s3-LLM-Cluster auf GitHub · Hacker-News-Diskussion

5. Die PS5 zum eigenen Twitch machen, allein mit DNS

Ein Entwickler, der keine Capture-Karte kaufen wollte, leitete den integrierten Broadcast-Stream der PlayStation 5 per DNS-Spoofing auf seinen eigenen Mac um. Die PS5 streamt nur zu einer Handvoll zugelassener Dienste, schlägt den Ingest-Server aber jedes Mal über den Hostnamen nach. Indem er contribute.live-video.net (Twitchs echten RTMP-Ingest) über ein lokales dnsmasq auf seinen Laptop zeigen liess und den Feed mit nginx-rtmp empfing, fing er den 1080p60-Stream der Konsole ab, ohne Hardware und ohne Konto-Tricks.

"Die PS5 hardcodet Twitchs IP nicht, sie schlägt sie jedes Mal über DNS nach. Kontrollieren wir, was DNS zurückgibt, kontrollieren wir, wohin der Stream geht." — Yash Garg

Der Weg dorthin war eine Lehrstunde, wie Anbieter-Abschottung tatsächlich bricht: Das Spoofing von Twitchs TLS-geschütztem Discovery-Endpunkt scheiterte (die PS5 prüft Zertifikate, und man kann keine eigene CA installieren), und YouTubes Klartext-RTMP-Pfad brach nach 60 Sekunden an einem Liveness-Check ab, bis er eine Twitch-Ingest-Subdomain fand, die noch unverschlüsseltes RTMP auf Port 1935 nutzte. Die Bindung hielt nur dort, wo der Verkehr authentifiziert und verschlüsselt war.

Bedeutung für Ihr Unternehmen: Das ist eine klare Erinnerung daran, dass DNS eine Vertrauensgrenze ist. Alles, was Ihre Geräte oder Dienste über den Hostnamen auflösen, kann von demjenigen umgeleitet werden, der den Resolver kontrolliert; unauthentifizierte oder unverschlüsselte Endpunkte sind in einem nicht vollständig vertrauenswürdigen Netz praktisch offen. Erzwingen Sie TLS mit Zertifikatsprüfung auf jeder Maschine-zu-Maschine-Verbindung und behandeln Sie internes DNS als sicherheitskritische Infrastruktur, nicht als blosse Verkabelung.

Quellen: Hijacking the PS5's RTMP stream (Yash Garg) · Hacker-News-Diskussion


Praktische Erkenntnisse

Thema Handlungsempfehlung
Claude Sonnet 5.5 Vergleichen Sie die Kosten pro fertiger Aufgabe, nicht den Listenpreis; benchmarken Sie echte Arbeitslasten auf dem Mittelklasse-Modell und setzen Sie Aufwandsstufen bewusst.
World Labs zu AMD KI-Stacks konsolidieren sich; bevorzugen Sie offene Modelle und Standardschnittstellen, damit ein Hardwarewechsel Ihre Anwendungen nicht strandet.
Zu Hause trainierte Entscheidungsmodelle Katalogisieren Sie Ihre Ja/Nein- und Auswahl-Entscheidungen in grossem Volumen; ein kleiner lokaler Klassifikator schlägt einen API-Aufruf oft bei Kosten, Tempo und Datenhoheit.
LLM auf ESP32-Cluster Beobachten Sie ternäre Quantisierung im BitNet-Stil für Inferenz auf dem Gerät; lokale Modelle senken die Cloud-Abhängigkeit für latenz- und datenschutzkritische Funktionen.
PS5-DNS-Hijack Behandeln Sie DNS als Vertrauensgrenze; erzwingen Sie TLS mit Zertifikatsprüfung auf jeder Maschine-zu-Maschine-Verbindung und härten Sie interne Resolver.

Fazit

Der rote Faden lautet heute: Schwerkraft. KI-Leistung wird aus dem Rechenzentrum heraus und näher an den Rand gezogen, günstigere Modelle, zu Hause trainierte Spezialisten, Inferenz auf Mikrocontrollern, während die Verkabelung, die alles verbindet, DNS, Zertifikate, Hardwarehersteller, still darüber entscheidet, was sicher und was möglich ist. Der Vorteil gehört nicht mehr dem, der am meisten ausgibt, sondern dem, der das richtig dimensionierte Werkzeug zur Aufgabe passt und die Grenzen dazwischen absichert. Welche Ihrer Arbeitslasten laufen noch auf der grossen, teuren Standardoption, nur weil Sie die Alternative noch nicht gemessen haben?

N
Nolen

Use AI to streamline processes, unlock knowledge, and future-proof your business.