Encadrer l'usage de l'intelligence artificielle à l'école et à garantir la transparence, l'équité et la souveraineté dans le système éducatif

La proposition de loi vise à garantir les droits des élèves en matière d'intelligence artificielle, en assurant une information claire et un droit à l'intervention humaine sur les décisions prises par ces systèmes. Elle cherche également à sécuriser les usages pédagogiques et à protéger la souveraineté du système éducatif en imposant l'hébergement des données dans l'Union européenne et en instaurant une gouvernance éthique.

Les élèves et leurs représentants légaux sont directement concernés par la proposition de loi, qui vise à garantir leurs droits en matière d'information et d'intervention sur les décisions prises par des systèmes d'intelligence artificielle. Le texte encadre également les établissements d'enseignement, en imposant des règles de transparence et de protection des données personnelles. Enfin, le ministère de l'Éducation nationale est impliqué dans la mise en œuvre d'un cadre d'usage de l'intelligence artificielle en éducation.

• Formation des élèves à l'usage responsable de l'IA. La loi impose une formation des élèves sur l'utilisation responsable des outils numériques, incluant l'intelligence artificielle, avec délivrance d'une attestation en classe de cinquième et de troisième.
• Protection des données scolaires. Les données scolaires doivent être hébergées dans l'Union européenne, garantissant ainsi la sécurité et la souveraineté numérique du système éducatif.
• Transparence et explicabilité des outils d'IA. La proposition de loi garantit aux élèves et à leurs représentants un droit à l'information, à l'intervention humaine et à l'explicabilité des résultats fournis par les systèmes d'intelligence artificielle.

La proposition prévoit une entrée en vigueur progressive, en cohérence avec le calendrier d'application du règlement européen.

La proposition de loi modifie plusieurs dispositions du code de l'éducation, notamment l'article L. 312-9, qui encadre déjà l'usage des outils numériques et intègre une formation des élèves à un usage responsable des outils numériques, y compris l'intelligence artificielle. Elle précise également la formation des élèves au numérique et impose la transparence dans les registres des traitements de données.

La proposition de loi vise à garantir les droits des élèves en matière d'intelligence artificielle, à sécuriser les usages pédagogiques et à protéger la souveraineté du système éducatif. Elle prévoit des mesures pour assurer la transparence, l'explicabilité des résultats des outils d'IA, ainsi que l'hébergement des données dans l'Union européenne.