Das Netzwerk vereint alle Interessengruppen - sowohl Technologieunternehmen als auch öffentliche Forschungseinrichtungen -, um gemeinsam an der Offenlegung, Replikation und Entschärfung der dringendsten Sicherheitsprobleme generativer KI-Systeme zu arbeiten. Insgesamt 12 grosse Technologieunternehmen wie unter anderem Apple, Microsoft, IBM, SAP und die Zurich Insurance Group haben sich verpflichtet, ihre Kräfte in dem Netzwerk zu bündeln und so die KI-Sicherheit erheblich zu verbessern.
Digitales Vertrauen schaffen
«Sichere und verantwortungsvolle KI ist ein Muss für ein datengetriebenes und skalierendes Unternehmen wie die Zurich Insurance Group», sagt Ericson Chan, Group Chief Information & Digital Officer bei der Zurich Insurance Group.«Es ist entscheidend, dass wir zusammenarbeiten, vom Training der KI-Modelle bis hin zur Inferenzierung, damit wir auch weiterhin digitales Vertrauen in dieser Ära der Hyperinnovation schaffen.»
Transparentes System
Als vollständig transparentes System soll das Red-Teaming-Netz nach eigenen Aussagen allen Beteiligten ermöglichen, gemeinsam an der Offenlegung und Entschärfung der dringendsten Probleme zu arbeiten. Diese Bemühungen sollen auch den Regulierungsbehörden bei der Entwicklung wirksamer, standardisierter KI-Tests helfen. (pd/hzi/bdw)