LatticeFlow und DEKRA bewerten Sicherheit von KI-Anwendungen

Das Zürcher Start-up LatticeFlow und die Prüforganisation DEKRA mit Sitz in Stuttgart haben eine Zusammenarbeit im Bereich Sicherheitsbewertung von Anwendungen basierend auf Künstlicher Intelligenz vereinbart. Einer Medienmitteilungzufolge wollen sie KI-Modelle von Unternehmen nach den neuesten ISO-Normen für Datenqualität und Modellrobustheit bewerten.

Dafür kombinieren sie die KI-Entwicklungs- und Einsatzplattform von LatticeFlow mit DEKRAs Erfahrung als Prüf-, Inspektions- und Zertifizierungsunternehmen. Kunden sollen so „eine umfassende und unvoreingenommene Bewertung ihrer KI-Daten und -Modelle erhalten“, heisst es in der Medienmitteilung.

Demnach ist die Prüfung von KI-Anwendungen zeitkritisch, da sich die Einführung von KI in den vergangenen sechs Monaten stark beschleunigt hat. „Dies löste bei prominenten KI-Forschern Sicherheitsbedenken aus, die einen vorübergehenden Stopp gross angelegter KI-Experimente forderten – in der Hoffnung, sicherere und verantwortungsvollere Implementierungen zu gewährleisten", wird Petar Tsankov, CEO von LatticeFlow, in der Medienmitteilung zitiert.

Da ein kompletter Stopp unrealistisch sei, will er Unternehmen stattdessen in die Lage versetzen, „die mit KI verbundenen Risiken zu mindern und den Übergang zu einer sicheren KI-Einführung zu beschleunigen“.

LatticeFlow wurde 2020 als Spin-off aus der Eidgenössischen Technischen Hochschule Zürich (ETH) von einem Team von Forschenden und Experten und Expertinnen für KI gegründet. Es hat die erste skalierbare Plattform zur Bewertung von KI-Daten und -Modellen entwickelt. Diese führt KI-Teams durch den KI-Lebenszyklus, indem sie selbstständig Probleme in den Daten und Modellen der KI findet und behebt. ce/ko