Mehrere führende KI-Forscher, darunter Geoffrey Hinton, warnen erneut vor den Risiken autonomer KI-Systeme. In einem Artikel in der Zeitschrift „Science“ äußern sie Bedenken über mögliche Cyberattacken, gesellschaftliche Manipulation, allgegenwärtige Überwachung und sogar die „Auslöschung der Menschheit“. Besonders Sorgen bereiten ihnen KI-Systeme, die eigenständig agieren und unerwünschte Ziele verfolgen könnten.
Diese Warnungen kommen zeitgleich zum KI-Gipfel in Seoul, wo Unternehmen wie Google, Meta und Microsoft einen verantwortungsvollen Umgang mit KI-Technologie zusicherten.
Jan Leike, ehemaliger Entwickler bei OpenAI, kritisiert das Unternehmen für die Priorisierung „glitzernder Produkte“ über die Sicherheit und warnt vor der Entwicklung von Software, die schlauer als Menschen ist. Dem entgegen hält Meta-Forscher Yann LeCun, dass aktuelle Systeme weit davon entfernt seien, die Intelligenz von Menschen oder sogar Hauskatzen zu übertreffen. Er sieht die Dringlichkeit von Sicherheitsmaßnahmen noch nicht gegeben.
Quelle: Spiegel
