Coalition multipartite pour une IA bénéfique au développement de l’enfant

Reconnaître un moment charnière pour les générations futures

Les moins de 18 ans représentent 30 % de la population mondiale actuelle et 100 % de notre avenir. Au cours de cette phase critique de leur développement, leur cerveau subit de profonds changements : ils apprennent constamment de nouvelles compétences, accumulent des connaissances et développent leurs perspectives sur le monde en interagissant avec leur environnement. Cela les rend particulièrement réceptifs aux opportunités, mais aussi très vulnérables aux influences extérieures, y compris aux technologies numériques. Proposer des approches de l'IA qui soutiennent leur développement cognitif, émotionnel et social au lieu de l'entraver est une obligation légale et éthique et une étape essentielle vers notre avenir collectif.

L'IA remodèle fondamentalement notre monde et offre de nouvelles possibilités d'expression, de connexion et d'apprentissage. Pour les enfants, cela pourrait permettre de débloquer un accès plus équitable à l'éducation à l'échelle mondiale et au-delà des frontières socio-économiques, et de fournir des expériences d'apprentissage personnalisées adaptées aux besoins et aux capacités uniques de chaque enfant. L'IA peut également aider les enfants à réaliser leurs droits dans des contextes spécifiques où ils sont menacés, tels que leurs droits à l'éducation, à la liberté d'expression, d'association et de réunion pacifique, à l'accès à l'information et à la culture, et à la participation aux processus décisionnels pertinents.

L'exploitation du pouvoir de transformation de l'IA dans l'éducation au profit des enfants exige une action délibérée et une collaboration étroite avec les experts en développement de l'enfant, les éducateurs et les enfants. L'intégration incontrôlée des médias numériques dans la vie des enfants peut perturber leur développement en affectant leur attention, en modifiant la gratification différée et la motivation, et en influençant le fonctionnement exécutif et la pensée critique. La capacité de l'IA générative à imiter les relations humaines peut favoriser des interactions parasociales manipulatrices dans le contexte de l'immaturité des enfants, ce qui peut conduire à un attachement malsain aux agents de l'IA et à une altération des compétences sociales. Comme le souligne l'UNICEF, cet équilibre met en évidence un double défi pour les enfants : ceux qui n'ont pas accès risquent d'être laissés pour compte, tandis que ceux qui ont accès restent vulnérables si l'IA n'est pas développée en prenant pour principe directeur l'intérêt supérieur de l'enfant.

Ce moment offre une occasion rare et puissante de donner la priorité aux besoins des enfants à l'ère numérique. Comprendre que la technologie peut renforcer et soutenir les jeunes esprits ou nuire à leur cerveau en développement et à leur bien-être nous permet de tirer activement parti de la recherche pour faire en sorte que l'IA devienne une force de développement positive.

Nous reconnaissons que la trajectoire du développement de l'enfant à l'ère numérique n'est pas encore déterminée, mais qu'il s'agit plutôt d'un chemin que nous sommes collectivement en train de forger. Le façonnage intentionnel et bénéfique de l'interaction de l'IA avec les enfants est primordial pour s'assurer qu'ils atteignent leur plein potentiel et leur bien-être. C'est pourquoi nous lançons cet appel à l'action afin de favoriser une compréhension unifiée et un engagement de la part des diverses parties prenantes pour aborder de manière proactive la manière de soutenir et de protéger le développement sain des enfants à l'ère de l'IA.

Mise en place d'une coalition internationale pour préserver le développement des enfants à l'ère de l'IA

Le Forum de Paris sur la Paix et everyone.ai formons une coalition internationale multipartite qui encourage les dialogues inclusifs et interdisciplinaires entre les gouvernements, les institutions, les entreprises technologiques, les investisseurs, les chercheurs, les éducateurs et les familles. À travers diverses perspectives (sciences humaines, droits de l'homme, technologie et éthique), nous cherchons à soutenir des lignes directrices pratiques et fondées sur des preuves afin de sauvegarder et de promouvoir le bien-être cognitif et socio-émotionnel des enfants à l'ère de l'IA.

Bien que cette coalition s'intéresse spécifiquement à l'intersection de l'IA et du développement de l'enfant, nous reconnaissons les efforts actuels liés à la sécurité en ligne, à la confidentialité des données et à la littératie numérique. Cette initiative, soutenue par le ministre français des Partenariats internationaux et de nombreux gouvernements, sociétés et organisations de société civile, vise à compléter et à développer ces efforts, en offrant une perspective ciblée sur les impacts de l'IA sur les trajectoires de développement.

Cette coalition est guidée par les principes suivants, destinés à éclairer la conception, la mise en œuvre et l'utilisation des systèmes d'IA :

• Sécurité des enfants : Donner la priorité à la sécurité et au bien-être des enfants et les protéger afin de favoriser leur développement optimal, de protéger leur vie privée et de les préserver des contenus nuisibles et violents et des risques en ligne liés aux interactions avec l'IA, y compris l'exploitation et les abus, tout en encourageant la confiance et les pratiques responsables en matière d'IA qui donnent aux enfants les moyens d'agir.

• Une IA qui donne la priorité à l'intérêt supérieur de l'enfant : Défendre les droits de l'enfant et favoriser les solutions d'IA élaborées dans le cadre d'un processus centré sur l'enfant qui donne la priorité à ses besoins en matière de développement. Cet engagement comprend des pratiques transparentes et une surveillance humaine appropriée pour aligner les systèmes d'IA sur les droits et le bien-être des enfants.

• IA éthique, équitable et inclusive : mettre en œuvre une IA qui s'efforce de bénéficier à tous les enfants, quels que soient leurs antécédents, leurs capacités ou leurs besoins, en comblant le fossé numérique. Les systèmes d'IA doivent systématiquement atténuer les préjugés tout au long de leur cycle de vie afin de respecter les droits de l'homme et de garantir l'égalité d'accès.

• Conception d'une IA adaptée à l'âge : Créer et utiliser des solutions d'IA adaptées aux stades cognitifs et socio-émotionnels des enfants, en tenant compte des différences de maturité et de développement entre la petite enfance, les adolescents et les grands adolescents, afin de promouvoir leur bien-être.

• IA équitable et transparente : communiquez clairement les principes et les processus qui sous-tendent la prise de décision en matière d'IA pour les enfants, y compris l'utilisation des données et les critères de formation, de manière à ce que les enfants et leurs tuteurs puissent les comprendre.

• Conception intégrant la famille : Fournir aux soignants des outils pratiques et des ressources de soutien afin qu'ils puissent protéger en toute confiance les expériences des enfants en matière d'IA. Il s'agit également de prendre en compte le point de vue des enfants ( ) dans la conception de l'IA, afin que les produits répondent à leurs besoins et à leurs expériences réels.

• Protection de la vie privée des enfants : Protéger la confidentialité des données des enfants par des garanties solides, y compris des choix éclairés, et veiller à ce que les enfants reçoivent des informations transparentes sur le traitement des données, minimisent la collecte de données personnelles, dépersonnalisent les données et limitent le traitement à ce qui est nécessaire pour l'efficacité du produit, l'amélioration, la recherche éthique et le respect des obligations légales pour les objectifs poursuivis.

Objectifs et actions

Pour concrétiser notre vision commune, nous collaborerons dans le respect des droits de l'enfant tels qu'ils sont consacrés par la Convention relative aux droits de l'enfant et ses trois protocoles facultatifs, afin d'atteindre les objectifs suivants :

1. Établir, par le biais d'un dialogue continu et structuré avec toutes les parties prenantes, des lignes directrices communes qui évaluent l'impact et atténuent les risques des produits d'IA utilisés par les enfants. Ce cadre sera permanent et évoluera au fur et à mesure que notre compréhension s'améliorera. Il guidera le développement et le déploiement responsables de l'IA, en donnant la priorité à la sécurité et au bien-être des enfants tout en offrant des opportunités équitables à tous les acteurs.

2. Exploiter les preuves scientifiques pour évaluer systématiquement les avantages et les risques des produits d'IA et encourager les études à long terme sur les effets de l'IA sur les enfants en termes de développement, de psychologie et de société.

3. Créer un réseau collaboratif d'experts afin de fournir des conseils continus par le biais de comités et de consultations spécialisés, facilitant la prise de décision éclairée, encourageant l'innovation et garantissant que les solutions d'intelligence artificielle sont alignées sur les besoins et les droits des enfants en matière de développement.

4. Faciliter les collaborations internationales transdisciplinaires entre toutes les parties prenantes, tout en reconnaissant les forces et les défis propres à chaque secteur.

5. Promouvoir l'éducation et la maîtrise de l'IA en élaborant des lignes directrices complètes, des pratiques pédagogiques et des programmes éducatifs qui permettent aux éducateurs, aux parents, aux soignants et aux enfants d'acquérir les connaissances et les outils nécessaires pour naviguer dans l'IA de manière sûre et responsable.

Ces objectifs évolueront naturellement au fil du temps afin de refléter au mieux les nouvelles connaissances et le paysage changeant de l'IA.

Nous invitons les autres organisations et les personnes qui partagent cet engagement à nous rejoindre dans cette entreprise cruciale en participant activement aux efforts de collaboration visant à façonner un avenir où l'IA donne des moyens d'action à nos enfants et les protège.

Notre coalition

Les participants à ce jour à la coalition, coordonnée par le Forum de Paris sur la Paix et everyone.ai :

- Entreprises de la tech : Open AI, Google, Anthropic, Hugging Face, PlugnPlay, Vivendi, evidence B
- Gouvernements : France, Danemark, Norvège, Chili, Mexique, Sénégal, Bulgarie, Togo, Islande
- ONGs, fondations et société civile : McGovern Foundation, Common Sense Media, 5Rights, Girl Effect, AI4good, Tralalère, Joan Ganz Cooney Center, Children and Screens, NSPCC, Edtech France, Respect Zone, AI4good, Fondation Enfance, We Protect, The Future Society, ICMEC, e-Enfance, InnovateEDU, Access to Knowledge for Development Center (The American University in Cairo)

L'UNICEF et l'UNESCO sont également étroitement associés à ce travail.

Cette coalition comprend également des experts de renom tels que : Stuart Russell, Sonia Livingstone, Luc Julia, Gregory Renard,Mathilde Cerioli, David Harris, Laurence Devillers, Florence Gsell.