OpenAI, das innovative Unternehmen hinter ChatGPT, hat einen bedeutenden Durchbruch in der Stimmimitationstechnologie erreicht, entscheidet sich jedoch aus ethischen Gründen, diese nicht zu veröffentlichen. Die neueste Entwicklung, bekannt als „Voice Engine“, kann mit nur 15 Sekunden einer Audioaufnahme eine überzeugend ähnliche Nachbildung einer Stimme erzeugen. Dies wirft allerdings ernste Bedenken hinsichtlich des Potenzials für Missbrauch auf, insbesondere in Bezug auf Wahlmanipulationen.
Seit 2022 arbeitet OpenAI an der Verfeinerung dieser Technologie, die Text in Sprache umwandelt. Trotz der Fortschritte geht das Unternehmen vorsichtig vor und hat sich gegen eine sofortige Veröffentlichung entschieden. Die Befürchtungen sind nicht unbegründet, wie jüngste Vorfälle zeigen: Fingierte Anrufe, die Stimmen von politischen Figuren imitieren, könnten bereits Einfluss auf Wählerentscheidungen nehmen.
OpenAI betont jedoch nicht nur die Risiken, sondern auch das Potenzial der Technologie. So könnte die Voice Engine beispielsweise das Lesenlernen unterstützen oder die Übersetzung von Videos und Podcasts verbessern, indem sie ein breiteres Publikum erreicht. Ein wichtiger Aspekt dabei ist die Kennzeichnung von KI-generierten Stimmen, um Täuschungen zu vermeiden. Bereits als Reaktion auf manipulierte Inhalte hat der Social-Media-Riese Meta angekündigt, solche Kennzeichnungen einzuführen.
Während die öffentliche Verfügbarkeit der Voice Engine noch ungewiss ist, unterstreicht OpenAI die Notwendigkeit eines offenen Diskurses über die ethischen Implikationen dieser fortschrittlichen Technologien. Das Ziel ist es, einen verantwortungsvollen Umgang mit KI zu fördern und gleichzeitig die Vorteile für die Gesellschaft zu maximieren.
Quelle: Golem
