Googles KI Gemini hat kürzlich Schlagzeilen gemacht, weil sie beinahe Nutzer vergiftet hätte. Die KI gab Ratschläge zur Zubereitung von Speisen, die zu Botulismus führen könnten, einer lebensbedrohlichen Vergiftung. Konkret empfahl Gemini das Einmachen von Lebensmitteln auf eine Weise, die das Wachstum von Clostridium botulinum begünstigt, dem Bakterium, das den gefährlichen Botulinumtoxin produziert. Google reagierte umgehend, indem sie die KI-Inhalte überprüften und sicherstellten, dass solche gefährlichen Ratschläge nicht mehr verbreitet werden. Dieser Vorfall hebt die Notwendigkeit hervor, KI-Systeme sorgfältig zu überwachen, um Risiken für die Nutzer zu vermeiden.
Quelle: Golem
