CaMeL erklärt: So wehrt es Prompt-Injection-Angriffe ab
Prompt-Injection-Angriffe sind eine ernste Bedrohung für KI-Assistenten, doch mit CaMeL gibt es einen Durchbruch: ein System, das sie durch seine Bauweise wirksam abwehrt.
Kategorie: Wissenschaft
Die entstehenden Präferenzsysteme der KI
Ein Paper von Forschenden des Center for AI Safety, der University of Pennsylvania und der UC Berkeley hat etwas Überraschendes über große Sprachmodelle…
Wie nah ist die Superintelligenz?
Das Streben nach Superintelligenz, also nach der Entwicklung von KI-Systemen, die die kognitiven Fähigkeiten des Menschen deutlich übertreffen, ist zu einem Schwerpunkt von Forschung und Debatte in der KI-Community geworden.
In-Context Scheming bei Frontier-Sprachmodellen
Forschende von Apollo Research haben untersucht, ob große Sprachmodelle (LLMs) zu „Scheming“ fähig sind, also dazu, fehlausgerichtete Ziele verdeckt zu verfolgen.
Test-Time Compute: Die nächste Stufe der KI-Skalierung
Große KI-Labors, darunter OpenAI, verlagern ihren Schwerpunkt weg von der Erstellung immer größerer Sprachmodelle (LLMs).
Ferret-UI 2: Auf dem Weg zu einem universellen UI-Verständnis für LLMs
Ferret-UI 2 ist ein multimodales Large Language Model (MLLM), das dafür gebaut ist, UIs auf iPhone, Android, iPad, Web und AppleTV zu interpretieren, in ihnen zu navigieren und mit ihnen zu interagieren.
LLMs in der Hosentasche: Ein Überblick über CAMPHOR von Apple
Large Language Models (LLMs) verstehen auch komplexe Anfragen und beantworten sie bemerkenswert gut, doch ihre Abhängigkeit von…
Die mathematischen Köpfe der LLMs entzaubert: Schließen sie wirklich logisch?
Große Sprachmodelle (LLMs) sind mit Wucht auf der Bildfläche erschienen und blenden uns mit ihrem sprachlichen Können und ihrer scheinbaren Intelligenz.
Die besten Prompting-Strategien von den Fachleuten bei Anthropic
Prompt Engineering ist die Brücke zwischen menschlicher Absicht und KI-Ausgabe, und es wirkt tief in Branchen wie Gesundheitswesen und Forschung hinein.
KI simuliert den Klassiker DOOM
Stellen Sie sich vor, Sie spielen DOOM, ja, den legendären Ego-Shooter von 1993, und im Hintergrund läuft keine klassische Game Engine, sondern ein neuronales Netz.