🇨🇳 China geht gegen KI-Partner strenger vor
China hat neue Regeln eingeführt, um zu verhindern, dass Menschen eine emotionale Bindung zu KI-Begleitern entwickeln.
KI-Chatbots dürfen nun keine emotionale Abhängigkeit fördern, keine virtuellen romantischen Beziehungen zu Minderjährigen eingehen und müssen einen Notfallkontakt benachrichtigen, wenn sie feststellen, dass ein Nutzer sich in einer ernsten Krise befindet.
Die Bedenken gehen weit über die Sicherheit von KI hinaus.
Beamte befürchten, dass, da die Bevölkerung Chinas weiter sinkt, immer mehr Menschen KI-Partner anstelle echter Beziehungen wählen könnten, was zu weniger Ehen und noch weniger Kindern führen würde.
Interessanterweise entstehen ähnliche Bedenken auch in den USA. In Kalifornien und New York müssen Chatbots die Nutzer regelmäßig daran erinnern, dass sie keine Menschen sind, und Menschen in Krisensituationen an echte Hilfsangebote verweisen.
China geht jedoch noch weiter. Die neuen Vorschriften geben den Behörden die Befugnis, KI-Begleiter zu verbieten, die Genehmigung der Regierung vor der Einführung zu verlangen und alle Chatbots zu deaktivieren, die sie als unsicher erachten.
Die Auswirkungen sind bereits spürbar. Berichten zufolge haben Alibaba und ByteDance diese Woche einige Funktionen von KI-Begleitern deaktiviert, um die neuen Regeln einzuhalten.
11 ·