Der im November 2023 eingeführte GPT-Store von OpenAI, ein Marktplatz für auf generativen KI-Modellen basierende Chatbots, steht bereits kurz nach seinem Start wegen ernsthafter Qualitätsprobleme in der Kritik. Eine Untersuchung von Techcrunch hat ergeben, dass der Marktplatz von Chatbots überschwemmt wird, die möglicherweise Urheberrechte verletzen oder anderweitig problematisch sind. Dies deutet auf unzureichende Kontrollmechanismen seitens OpenAI hin, trotz der Behauptung des Unternehmens, eine Kombination aus automatisierten Systemen, menschlicher Überprüfung und Benutzer-Feedback zur Überwachung der Inhalte zu nutzen.
Besonders problematisch erscheinen die Chatbots, die ohne offizielle Genehmigung auf beliebten Film-, Fernseh- und Videospielserien basieren, was sowohl Urheberrechts- als auch Markenrechtsverletzungen nach sich ziehen könnte. Zusätzlich gibt es im Store zahlreiche GPTs, die behaupten, KI-Inhaltsdetektoren umgehen zu können, was insbesondere im akademischen Bereich für Aufsehen sorgt.
Die Richtlinien von OpenAI verbieten die Erstellung von Chatbots, die sich ohne entsprechende Genehmigung als real existierende Personen oder Organisationen ausgeben. Dennoch findet man im GPT-Store Dutzende solcher Chatbots, die Gespräche mit öffentlichen Personen simulieren, wenn auch teilweise in satirischer Form. Ebenfalls zu finden sind Versuche, die Modelle von OpenAI zu „jailbreaken“, also zu manipulieren, um ihre Funktionsweise zu ändern oder einzuschränken, was weitere Fragen bezüglich der Sicherheit und Integrität des Stores aufwirft.
Die Zukunft des GPT-Stores könnte durch geplante Monetarisierungsoptionen für Entwickler beeinflusst werden, wie Techcrunch berichtet. OpenAI plant, Entwicklern zu ermöglichen, ihre Chatbots zu verkaufen, was die Frage aufwirft, wie das Unternehmen sicherstellen wird, dass Qualität und Rechtskonformität dabei nicht auf der Strecke bleiben.
Quelle: Golem
