Laut einer Ankündigung vom Donnerstag haben sich Google, OpenAI, Microsoft, Amazon, Nvidia, Intel und andere große Namen der KI zur Coalition for Secure AI (CoSAI) zusammengeschlossen. Die Initiative zielt darauf ab, eine „fragmentierte KI-Sicherheitslandschaft“ anzugehen, indem sie Zugang zu Open-Source-Methoden, Frameworks und Tools bietet.
Weitere Unternehmen, die CoSAI beitreten, sind IBM, PayPal, Cisco und Anthropic. CoSAI wird in die Organization for the Advancement of Structured Information Standards (OASIS) integriert, eine gemeinnützige Gruppe, die die Entwicklung offener Standards fördert. CoSAI wird zunächst an drei Zielen arbeiten: Entwicklung von Best Practices für die KI-Sicherheit, Bewältigung von KI-Herausforderungen und Sicherung von KI-Anwendungen.
„Wir nutzen KI seit vielen Jahren und erkennen das Potenzial, das sie für Verteidiger birgt, aber wir erkennen auch die Chancen, die sie für Gegner bietet“, sagte Heather Adkins, Vizepräsidentin für Sicherheit bei Google, in einer Pressemitteilung. „CoSAI wird großen und kleinen Organisationen dabei helfen, KI sicher und verantwortungsvoll zu integrieren und ihnen dabei zu helfen, ihre Vorteile zu nutzen und gleichzeitig die Risiken zu mindern. »