Anthropic sagt, diese Themen sind zu gefährlich, um sie mit seinem Fable 5-Modell zu diskutieren.
· Quelle: Ars Technica AI
Die Firma Anthropic hat ihren KI-Modell Fable 5 vorgestellt, das in Bezug auf allgemeine Fähigkeiten über ihre Vorgänger hinausgeht. Allerdings ist der Release dieses Modells mit Sicherheitsvorkehrungen versehen, die darauf abzielen, dass es nicht auf Fragen aus den Bereichen Cyber-Sicherheit, Biologie und Chemie antwortet, da die Firma befürchtet, dass es von Böswichtern missbraucht werden könnte, um Schaden anzurichten. Stattdessen leitet das Modell Fable 5 solche Fragen an ein älteres Modell, Claude Opus 4.8, weiter und warnt den Benutzer, wenn dies der Fall ist.
Anthropic hat diese Sicherheitsvorkehrungen angepasst, um sie strenger zu gestalten, als ideal wäre, was zu einigen falschen positiven Ergebnissen und gelegentlichem Ärger für regelmäßige Benutzer führen kann. Dennoch betrachtet die Firma dies als notwendig, um Situationen zu vermeiden, in denen das Modell möglicherweise Böswichtern bei ihren Aktivitäten assistieren könnte. Es ist wichtig zu betonen, dass Cyber-Sicherheit ein immer relevanteres Thema in der heutigen Gesellschaft ist und Maßnahmen wie diese dazu beitragen können, den missbräuchlichen Einsatz von KI zu verhindern. Die Nachricht ist wichtig, da sie die Notwendigkeit unterstreicht, die ethischen Implikationen des KI-Entwicklungs- und -Einsatzes zu berücksichtigen und wie Unternehmen daran arbeiten, die damit verbundenen Risiken zu minimieren.
Originalartikel lesen auf Ars Technica AI
Diese Zusammenfassung ist eine informationelle Synthese von dataqbs.com. Alle Rechte am Originalinhalt liegen beim Autor und dem genannten Medienunternehmen. Wir handeln ausschließlich als Kuratoren von Technologie-Nachrichten und beanspruchen keine Urheberschaft.