La Chine a proposé de nouvelles règles strictes pour l’intelligence artificielle (IA) afin de protéger les enfants et d’empêcher les chatbots de donner des conseils pouvant conduire à l’automutilation ou à la violence.
Conformément à la réglementation prévue, les développeurs devront également veiller à ce que leurs modèles d’IA ne génèrent pas de contenu faisant la promotion des jeux de hasard.
Cette annonce intervient après une forte augmentation du nombre de chatbots lancés en Chine et dans le monde entier.
Une fois finalisées, ces règles s’appliqueront aux produits et services d’IA en Chine, constituant une avancée majeure pour réglementer cette technologie en pleine expansion, qui a fait l’objet d’un examen minutieux cette année en raison de problèmes de sécurité.
Le projet de réglementation , publié ce week-end par l’Administration du cyberespace de Chine (CAC), comprend des mesures visant à protéger les enfants. Il prévoit notamment l’obligation pour les entreprises spécialisées en intelligence artificielle de proposer des paramètres personnalisés, de limiter la durée d’utilisation et d’obtenir le consentement des tuteurs légaux avant de fournir des services d’accompagnement émotionnel.
L’administration a indiqué que les opérateurs de chatbots doivent faire intervenir un humain pour toute conversation relative au suicide ou à l’automutilation et avertir immédiatement le tuteur de l’utilisateur ou un contact d’urgence.
Les fournisseurs d’IA doivent veiller à ce que leurs services ne génèrent ni ne partagent « de contenu qui met en danger la sécurité nationale, porte atteinte à l’honneur et aux intérêts nationaux [ou] compromet l’unité nationale », indique le communiqué.
La CAC a déclaré encourager l’adoption de l’IA, notamment pour promouvoir la culture locale et créer des outils de compagnie pour les personnes âgées, à condition que la technologie soit sûre et fiable. Elle a également sollicité l’avis du public.
La société chinoise d’intelligence artificielle DeepSeek a fait la une des journaux du monde entier cette année après s’être hissée en tête des classements de téléchargement d’applications.
Ce mois-ci, deux start-ups chinoises, Z.ai et Minimax, qui comptent à elles deux des dizaines de millions d’utilisateurs, ont annoncé leur intention de s’introduire en bourse.
