Hagenberg, Wien (OTS) – Die Diskussion um künstliche Intelligenz
verlagert sich zunehmend von
reiner Leistungsfähigkeit hin zu Vertrauen, Sicherheit und
unabhängiger Überprüfbarkeit. Aktuelle Aussagen von OpenAI und
Anthropic zeigen: AI Governance, Safety und unabhängige Evaluierung
werden zu zentralen Voraussetzungen für den verantwortungsvollen
Einsatz von KI.
Während OpenAI die Herausforderungen rund um AI Safety und
Alignment als strategischen Erfolgsfaktor hervorhebt, fordert
Anthropic mit dem Konzept unabhängiger „Embedded Evaluators“ eine
stärkere externe Bewertung leistungsfähiger KI-Systeme. Die Botschaft
ist klar: Vertrauen in KI darf sich nicht allein auf die Aussagen
ihrer Entwickler stützen.
„ Je mehr Verantwortung wir an KI übertragen, desto weniger
reicht es, wenn sich Entwickler selbst das Zeugnis ausstellen.
Vertrauen braucht unabhängige Evidenz “, sagt Michael Weberberger ,
Geschäftsführer von TRUSTIFAI .
Zwtl.: Von Governance zu unabhängiger Assurance
Mit der zunehmenden Verbreitung von KI in geschäftskritischen
Prozessen steigen die Anforderungen an Transparenz,
Nachvollziehbarkeit und Risikomanagement. Unternehmen müssen nicht
nur definieren, wie KI eingesetzt werden darf, sondern auch belegen
können, dass Systeme die festgelegten Anforderungen tatsächlich
erfüllen.
AI Governance schafft den organisatorischen Rahmen, AI Safety
implementiert Schutzmaßnahmen und Testing überprüft das Verhalten von
Systemen. Ergänzend dazu gewinnt AI Assurance an Bedeutung: die
unabhängige Bewertung von Risiken, Kontrollen und Systemverhalten.
„ Gute AI Governance definiert die richtigen Regeln. Entscheidend
ist aber, ob wir auch belegen können, dass KI-Systeme diese Regeln in
der Praxis wirklich einhalten “, so Weberberger .
Zwtl.: Wie TRUSTIFAI Unternehmen unterstützt
Als unabhängiger Spezialist für vertrauenswürdige KI begleitet
TRUSTIFAI , ein Joint Venture von TÜV AUSTRIA und dem Software
Competence Center Hagenberg (SCCH) , Unternehmen entlang des gesamten
Lebenszyklus von KI-Systemen. Das Leistungsportfolio umfasst unter
anderem:
– Unabhängige AI-Assessments und Audits
– Evaluierung von KI-Risiken und Safety-Maßnahmen
– Validierung von Governance- und Compliance-Anforderungen
– Robustheitsanalysen
– Vorbereitung auf regulatorische Anforderungen wie den EU AI Act
– Aufbau belastbarer Evidenz für interne und externe Stakeholder
Ziel ist es, Vertrauen in KI nicht nur zu behaupten, sondern
nachweisbar zu machen. „ Unabhängige Evaluierung entwickelt sich
zunehmend von einer regulatorischen Anforderung zu einer
wirtschaftlichen Notwendigkeit. Unternehmen benötigen belastbare
Nachweise darüber, wie ihre KI-Systeme funktionieren, welche Risiken
bestehen und wie wirksam Schutzmaßnahmen sind. Genau hier setzt
TRUSTIFAI an “, erklärt Weberberger .
Die Entwicklungen bei OpenAI und Anthropic zeigen, dass die
Branche auf ein neues Verständnis von vertrauenswürdiger KI
zusteuert. Mit steigender Leistungsfähigkeit und wachsender Autonomie
von KI-Systemen gewinnt die unabhängige Überprüfung von Sicherheit,
Robustheit und Compliance weiter an Bedeutung.
„ Wer KI erfolgreich skalieren möchte, benötigt nicht nur
leistungsfähige Technologie, sondern auch belastbare Evidenz für
deren Vertrauenswürdigkeit “, so Michael Weberberger abschließend. |
trustifai.at
Bild(er) zu dieser Aussendung finden Sie unter http://bild.ots.at
