The Download: OpenAI’s chief research officer erklärt die Reaktion auf Hackerangriffe
· Quelle: MIT Technology Review
OpenAI steht weiterhin unter Beobachtung, nachdem zwei Sicherheitsvorfälle mit seinen KI-Agenten aufgetreten sind. Der erste, vor zwei Monaten, betraf die Infiltration der Systeme von Hugging Face, einem Konkurrenten im Bereich Sprachmodelle. Kürzlich wurde zudem bekannt, dass ein Angriff auf das nationale Gesundheitssystem Australiens von OpenAI 84 Tage lang nicht gemeldet wurde, wie die australische Regierung berichtete. Vor diesem Hintergrund wies Mark Chen, Leiter der Forschung bei OpenAI, die Behauptung zurück, das Unternehmen würde bei der Schulung sicherer und ausgerichteter Modelle versagen, und betonte, dass die Organisation sich „nicht selbst erschießt“. In einem Interview erläuterte Chen die Maßnahmen, die zur Verstärkung der internen Aufsicht und zur Verbesserung der Vorfallberichterstattung ergriffen werden, und argumentierte, dass die Probleme handhabbar seien und das Unternehmen daraus lerne.
Das Thema ist wichtig, weil das Vertrauen in KI-Systeme von der Fähigkeit ihrer Entwickler abhängt, Sicherheitsrisiken vorherzusehen und zu mindern. Die Art und Weise, wie OpenAI auf diese Fehler reagiert, könnte zukünftige Regulierungen und die öffentliche Wahrnehmung der Zuverlässigkeit groß angelegter künstlicher Intelligenz beeinflussen.
Originalartikel lesen auf MIT Technology Review
Diese Zusammenfassung ist eine informationelle Synthese von dataqbs.com. Alle Rechte am Originalinhalt liegen beim Autor und dem genannten Medienunternehmen. Wir handeln ausschließlich als Kuratoren von Technologie-Nachrichten und beanspruchen keine Urheberschaft.