Mobile-Menu

Verantwortungsvolle und sichere Nutzung generativer KI NIST startet KI-Evaluierungsprogramm

Von Stephan Augsten 1 min Lesedauer

Anbieter zum Thema

NIST National Institute of Standards and Technology
Fsas Technologies GmbH
Board Deutschland GmbH

Das amerikanische National Institute of Standards and Technology hat mit „NIST GenAI“ ein Evaluierungsprogramm gestartet. Ziel ist es, Fortschritte bei generativer Künstlicher Intelligenz (KI) in verschiedenen Bereichen systematisch zu beurteilen und zu bewerten.

Der verantwortungsvolle Umgang mit und die sichere Generierung von Inhalten durch KI stehen im Fokus eines NIST-Evaluierungsprogamms.(© sdecoret - stock.adobe.com)
Der verantwortungsvolle Umgang mit und die sichere Generierung von Inhalten durch KI stehen im Fokus eines NIST-Evaluierungsprogamms.
(© sdecoret - stock.adobe.com)

NIST GenAI soll als übergreifende Plattform dienen, um generative KI-Technologien und deren Auswirkungen besser zu verstehen. Dazu gehören Benchmark-Datensätze, Tests zur Authentizitätserkennung in Medien wie Text, Bild und Audio sowie der Vergleich unterschiedlicher Ansätze. Im Kern geht es bei dem Programm um eine sichere und verantwortungsvolle Nutzung generativer KI-Systeme.

Der erste Testdurchlauf von GenAI fokussiert sich auf die Konvertierung von Text zu Text sowie von Text zu Bild. Einerseits werden Systeme bewertet, die möglichst realistische, von Menschen nicht zu unterscheidende synthetische Inhalte erstellen. Andererseits geht es darum, generierte Inhalte von echten sicher zu unterscheiden.

Die Erkenntnisse aus GenAI fließen in die Arbeit des neuen „US AI Safety Institute“ beim NIST ein. Das Programm steht Forschungsteams weltweit offen. Diese können sich bereits jetzt auf der GenAI-Webseite für die Evaluationen im Bereich Textgenerator und -diskriminator registrieren, wobei ein Account auf Login.gov vorausgesetzt wird.

Das NIST sieht das mehrjährige Evaluierungsprogramm als wichtigen Beitrag, um die Entwicklung verantwortungsvoller generativer KI voranzutreiben. Durch systematische Tests und einen offenen Ansatz sollen Risiken früh erkannt und Chancen bestmöglich genutzt werden.

(ID:50038165)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zu Big Data, Analytics & AI

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte