Ihr gestohlener API Key muss nur zehn Minuten funktionieren
Gestohlene LLM-API-Keys werden schnell gesperrt. Warum also stehlen? Weil der Missbrauch nach Minuten beginnt und die meisten Teams es erst an der Rechnung merken.
Kategorie: Technologie
KI überholt die Prognosen, bis sie die Welt berühren muss
KI-Prognosen liegen bei Benchmarks und Umsatz um Jahre zurück, halten aber oder schießen übers Ziel hinaus, wo KI auf Stromnetze, Straßen und Menschen trifft.
Billiges Routing, ungeprüfte Annahmen
Routing mit Jev ist billig und schnell. Ob es etwas bringt, hängt von Katalogbeschreibungen ab, die niemand getestet hat, und von Fehlern, die man nicht sieht.
Jev beseitigt die Fehler, die man sieht
Jev nimmt Text entgegen und gibt keinen Text zurück. Sie schicken ihm einen Block Zustand (einen String, ein JSON-Objekt) und eine Reihe typisierter Fragen.
Was ist MTP und warum spielt es eine Rolle?
Multi Token Prediction wird als kostenloser Geschwindigkeitstrick für lokale LLMs verkauft. Man legt in der Inference Engine einen Schalter um, und die Generierung wird um ein Viertel bis zum Dreifachen schneller, ohne Einbußen bei der Ausgabequalität. Soweit stimmt das Versprechen. Es gibt aber einen interessanten […]
Das richtige Modell erkennen Sie erst, nachdem Sie das falsche benutzt haben
Welches Modell soll diese Aufgabe übernehmen? Die Frage hat eine richtige Antwort. Sie kommt erst, wenn Sie sie nicht mehr brauchen.
Tokens sind keine Massenware
Preise pro Token behandeln jedes Token als austauschbar: die Tokens des einen Modells gegen die des anderen, Dollar pro Einheit, vergleichen und auswählen.
Fable lässt sich nicht mit ein paar Prompts extrahieren
Ein vielfach geteilter Post macht die Runde und drängt: Lassen Sie Fable sein „Betriebshandbuch“ aufschreiben, solange es noch gratis ist.
Der Slash-Befehl, der nichts tut
Alle paar Wochen macht eine neue Liste „geheimer“ Claude-Slash-Befehle die Runde: in Newslettern, auf LinkedIn, auf Twitter, in Instagram-Reels.
Sie können nicht über Ihre Prüfinstanz hinausbauen
Die Idee der Softwarefabrik ist alt und kommt immer wieder zurück. Etwa alle zehn Jahre schlägt jemand vor, Software nicht mehr wie Handwerker herzustellen.