Prompt Engineering ist die Kunst, text- oder multimodal basierte Anweisungen („Prompts“) so zu designen, dass generative KI Modelle – von GPT 4.5 bis Gemini 2.5 – zielgerichtet, sicher und kosteneffizient arbeiten. (Bild: KI-generiert)
Definition

Was ist Prompt Engineering?

Prompt Engineering entwickelt sich rasant zu einer der strategisch wichtigsten Disziplinen im Kontext generativer KI. Ob Chatbots, Textgeneratoren oder Code-KI: Wer Maschinen bessere Fragen stellt, bekommt bessere Antworten und somit auch bessere Ergebnisse.

Weiterlesen
Künstliche Intelligenz als Black Box: Wie KI-Modelle zu ihren Ergebnissen kommen, ist für die Nutzer nicht nachvollziehbar. Dies kann zu Missverständnissen führen, wie eine aktuelle Publikation warnt. (Symbolbild) (Bild: ideogram.ai / KI-generiert)
Künstliche Intelligenz in den Naturwissenschaften

Vertrauensfrage: Wie verlässlich ist KI in der Forschung?

Leistungsfähige Katalysatoren, neue medizinische Wirkstoffe oder effizientere chemische Syntheserouten – all dies soll die KI ermöglichen. Doch Künstliche Intelligenz (KI) geht dabei teils ganz eigene Wege, die für menschliche Bediener nicht nachvollziehbar sind. Ein Risiko für folgenschwere Missverständnisse, warnt eine aktuelle Publikation – und gibt Hinweise zum Umgang mit KI-Modellen in der Forschung.

Weiterlesen
Label Flipping greift KI-Modelle dort an, wo sie am verwundbarsten sind. Einzelne manipulierte Labels reichen aus, um neuronale Netzwerke in ihrer Lernphase gezielt zu sabotieren und die späteren Entscheidungen der KI nachhaltig zu verzerren. Sichtbar wird die Bedrohung oft erst, wenn es bereits zu spät ist. (Bild: KI-generiert)
Definition

Was ist Label Flipping?

Label Flipping ist eine Angriffsmethode, die auf das maschinelle Lernen von KI-Modellen abzielt. Sie manipuliert die Label der Daten, mit denen die KI trainiert wird. Dadurch lässt sich das Verhalten der Modelle manipulieren. Label Flipping kann die Performance, Zuverlässigkeit und Genauigkeit der Künstlichen Intelligenz signifikant beeinträchtigen.

Weiterlesen