Der südkoreanische Geheimdienst hat vor möglichen Risiken für die nationale Sicherheit gewarnt, die von der chinesischen KI-App DeepSeek ausgehen könnten.
Der National Intelligence Service (NIS) hat die Regierung vor den Datenerfassungsmethoden der App gewarnt und behauptet, dass sie Benutzerdaten auf chinesische Server überträgt und Werbetreibenden uneingeschränkten Zugriff gewährt.
Die Behörden in Südkorea haben reagiert und die App in mehreren Ministerien gesperrt. Damit schließen sie sich Australien und Taiwan an, die die Nutzung der App ebenfalls eingeschränkt oder davor gewarnt haben.
Die Bedenken ergeben sich aus der Fähigkeit von DeepSeek, Tastatureingaben zu verfolgen, und seinen inkonsistenten Antworten auf politisch sensible Fragen.
Diese Probleme unterstreichen die wachsende Debatte über den Datenschutz und die weiteren Auswirkungen der KI-gesteuerten Informationskontrolle.
NIS behauptet, Benutzerdaten seien nach China gesendet worden
Das NIS veröffentlichte am Sonntag eine Erklärung, in der es seine Bedenken hinsichtlich der Datenbehandlungspraktiken von DeepSeek darlegte.
Im Gegensatz zu anderen generativen KI-Tools sammelt DeepSeek Berichten zufolge Tastatureingabemuster, die Benutzer identifizieren können, und überträgt diese Informationen an chinesische Server, darunter volceapplog.com .
Nach den chinesischen Cybersicherheitsgesetzen könnte die Regierung diese Daten theoretisch auf Anfrage abrufen.
Das Werbemodell der App hat Sicherheitsbedenken aufgeworfen. Das NIS behauptet, dass Werbetreibende unbegrenzten Zugriff auf Benutzerinformationen haben, was das Risiko eines Missbrauchs der Daten erhöht.
Diese Vorwürfe folgen ähnlichen Bedenken hinsichtlich des Datenschutzes, die zu einer Regulierung anderer chinesischer Technologieunternehmen geführt haben, insbesondere solcher, die KI-gesteuerte Anwendungen betreiben.
Zensur und Fehlinformationen gemeldet
Neben Bedenken hinsichtlich des Datenschutzes wurde DeepSeek wegen Inkonsistenzen in den Antworten auf politisch und kulturell sensible Themen kritisiert.
Das NIS wies auf widersprüchliche Antworten der App bezüglich der Herkunft von Kimchi hin, einem Grundnahrungsmittel in Südkorea.
Als DeepSeek auf Koreanisch gefragt wurde, identifizierte es Kimchi angeblich als koreanisches Gericht. Als dieselbe Frage jedoch auf Chinesisch gestellt wurde, behauptete die App, das Gericht stamme aus China.
Das Problem spiegelt breitere kulturelle Streitigkeiten zwischen China und Südkorea wider, die bereits zuvor zu Online-Debatten geführt haben.
Die selektiven Antworten der App gehen über kulturelle Fragen hinaus. Nutzer haben auch berichtet, dass Fragen zum Vorgehen auf dem Tiananmen-Platz im Jahr 1989 mit ausweichenden Vorschlägen beantwortet werden, das Thema zu wechseln.
Solche Inkonsistenzen werfen Bedenken hinsichtlich der Kontrolle und Zensur von Informationen auf, die in KI-Plattformen eingebettet sind, insbesondere wenn diese Plattformen von den Richtlinien ihrer Heimatländer beeinflusst werden.
Regierungen verschärfen die Kontrolle von KI
DeepSeek ist nicht die erste chinesische KI-Plattform, die wegen Datensicherheit und Inhaltsmoderation unter die Lupe genommen wird.
Regierungen weltweit sind aufgrund von Bedenken hinsichtlich der Datensouveränität und des möglichen Missbrauchs zunehmend vorsichtig geworden, was ausländische KI-Anwendungen angeht, insbesondere solche aus China.
Die Entscheidung Südkoreas, DeepSeek einzuschränken, folgt ähnlichen Maßnahmen Australiens, Indiens und Taiwans, die dem App-Anbieter regulatorische Hürden in den Weg gelegt haben.
Der Schritt ist Teil eines breiteren Trends, bei dem Staaten die Aufsicht über KI-gesteuerte Dienste verschärfen, um potenzielle Sicherheitsverletzungen zu verhindern.
Das chinesische Außenministerium hat in Reaktion auf die wachsenden Einschränkungen die Datenschutzpraktiken des Landes verteidigt und erklärt, dass die Regierung Unternehmen nicht dazu zwinge, Daten rechtswidrig zu sammeln oder zu speichern.
Die Warnungen des südkoreanischen Geheimdienstes deuten darauf hin, dass die Bedenken noch nicht ausgeräumt sind und die geopolitischen Spannungen im Zusammenhang mit der KI-Governance und der Datensicherheit zunehmen.
The post Südkorea kritisiert DeepSeek AI wegen „übermäßiger“ Datenerfassung und Sicherheitsrisiken appeared first on Invezz
