Considérations éthiques relativement à l’utilisation de l’IA et de l’IA générative par les enfants et les ados

Exploitées entre autres dans le contexte des algorithmes de recommandation et, désormais, dans la production de contenu en temps réel grâce à l’IA générative, les données personnelles sont trop peu protégées, voire leur collecte est en contravention des lois. Or, le profilage est un enjeu majeur de sécurité, particulièrement pour les enfants et les jeunes, alors qu’il favorise le ciblage publicitaire, la personnalisation (avec des temps de connexion plus long), le harcèlement et la prédation. Plus encore, les effets directs de l’IA générative sur la santé mentale et le sain développement socio-affectif des jeunes sont de plus en plus documentés. Pourtant, certains usages, entre autres pour favoriser les apprentissages, peuvent avoir des effets bénéfiques si des précautions suffisantes sont prises afin d’assurer la sécurité et le bien-être des enfants et des ados. Dans le cadre de cette communication seront présentés les modes de fonctionnement généraux de l’IA et de l’IA générative, les enjeux de vie privée en lien avec les enfants et les ados ainsi que les effets négatifs et positifs de certaines pratiques sur leur développement. Nous conclurons avec certaines considérations pour un usage responsable de ces technologies dans le contexte scolaire pour bénéficier des effets positifs de ces technologies et limiter les méfaits.