Forscher haben gezeigt, dass GPT-4, ein fortschrittliches KI-Modell von OpenAI, in der Lage ist, bekannte Sicherheitslücken allein durch die Analyse ihrer Beschreibungen auszunutzen. In einem Test mit 15 One-Day-Schwachstellen gelang es GPT-4, 13 dieser Schwachstellen erfolgreich zu nutzen, was eine Erfolgsquote von 87% darstellt. Dies steht im Gegensatz zu anderen Sprachmodellen und Open-Source-Schwachstellen-Scannern, die in diesen Tests versagten. Daniel Kang, ein Forscher an der University of Illinois Urbana-Champaign, warnt vor den potenziellen Risiken, die mit der Veröffentlichung zukünftiger Sprachmodelle verbunden sind, da diese wahrscheinlich noch fähiger sein werden. Kang empfiehlt proaktive Sicherheitsmaßnahmen, wie regelmäßige Updates, um Systeme zu schützen, und spricht sich gegen die Einschränkung öffentlich verfügbarer Sicherheitsinformationen aus.
Quelle: Golem
