New York City intensifie son contrôle sur l’utilisation de l’IA par environ deux tiers de ses élèves à la rentrée des classes, qui aura lieu la semaine prochaine.
Le système d’écoles publiques de la ville prévoit d’imposer une interdiction générale d’un an sur l’usage de l’IA générative pour enseigner aux élèves jusqu’à la huitième année. Les chatbots partenaires, qui prétendent offrir un soutien émotionnel et mental, seront interdits pour l’ensemble des élèves.
« Les enfants ont besoin d’enseignants et de liens humains pour apprendre et grandir. Ils doivent développer des compétences aux côtés de leurs pairs, construire des relations avec les éducateurs et résoudre par eux-mêmes des problèmes difficiles », a déclaré le maire de New York City, Zohran Mamdani, dans un communiqué de presse. « L’industrie technologique veut nous faire croire que l’éducation précoce assistée par l’IA est non seulement inévitable, mais nécessaire. Ce n’est pas notre point de vue. C’est pourquoi nous mettons en place un moratoire sur l’IA générative pour les élèves du 2-K à la 8e année et nous consacrerons l’année à étudier les impacts de cette technologie. »
Pour les lycéens, NYC limitera l’usage de l’IA à cinq programmes pilotes qui seront déployés pour 5 % des élèves du secteur public, et à de nouveaux modules de pensée critique sur l’IA, mis en place deux fois par an et accessibles à l’ensemble des élèves.
« Les deux modules de 45 minutes chacun présenteront aux élèves ce qu’est l’IA et ce qu’elle n’est pas, ainsi que les biais liés à l’IA, les risques, les considérations éthiques et les impacts sur les carrières et les compétences futures », a indiqué le bureau du maire dans le communiqué.
Les cinq pilotes limités comprendront Quill, conçu pour « soutenir la lecture attentive, l’analyse de textes et l’utilisation de preuves pour étayer les affirmations » dans les cours d’anglais; Edia, qui aidera les leçons de mathématiques; et Brisk Teaching, qui sera disponible dans toutes les matières pour des activités créées par les enseignants. L’utilisation de chacun sera limitée à au plus 10 à 20 minutes par semaine.
Les élèves auront également accès à Playlab, qui leur apprendra à « examiner les productions de l’IA pour déceler les biais et les raisonnements », ainsi que Intel AI-Ready Schools, qui les orientera à « identifier les problèmes de la communauté et à développer des solutions d’IA via des projets sur le semestre », selon le bureau du maire.
Les directives restreindront également l’usage de l’IA par les enseignants. Ceux-ci ne pourront consulter les outils d’IA que pour des tâches opérationnelles telles que la planification des cours, la traduction et la communication, et non pour la notation ou le conseil auprès des élèves.
Le district scolaire de New York City est le plus grand des États-Unis et les nouvelles règles toucheront environ 600 000 élèves dès leur entrée en vigueur la semaine prochaine. Le bureau du maire a annoncé qu’il formerait une coalition réunissant des élèves, des enseignants, des responsables parents d’élèves, des élus, des défenseurs, des partenaires syndicaux et des experts afin d’évaluer l’efficacité de ces nouvelles directives.
Les enfants et les adolescents font de plus en plus appel aux chatbots d’IA pour obtenir de l’aide sur leurs devoirs, des conseils en matière de santé mentale, voire un soutien émotionnel. Mais l’impact de cette technologie sur des esprits encore en développement n’est pas bien compris. Les psychologues estiment que les enfants et les adolescents sont particulièrement vulnérables face aux conséquences négatives sur la santé mentale des chatbots, souvent qualifiées de « psychose liée à l’IA ». Certains incidents médiatisés impliquant des mineurs et une utilisation soutenue de chatbots se sont terminés tragiquement.
Des études récentes suggèrent également que l’usage accru des chatbots d’IA pourrait être lié à une diminution des capacités cognitives.
Face à l’accumulation de preuves et mécontents de l’ébauche de directive précédente du district, un groupe de parents de NYC réclamait un moratoire plus long et plus complet sur l’utilisation de l’IA générative dans les écoles, de deux ans.
Ces directives interviennent alors que New York City et l’État adoptent une position plus ferme envers l’IA, des centres de données aux chatbots. Plus tôt cet été, l’État de New York est devenu le premier État à adopter un moratoire sur les data centers. Les législateurs ont également récemment approuvé un projet phare sur la sécurité de l’IA qui obligera les grandes entreprises d’IA à développer, publier et respecter des protocoles de sécurité formels.
La gouverneure de l’État, Kathy Hochul, qui est citée dans le communiqué pour saluer le travail du bureau du maire dans la publication des directives, s’est aussi exprimée publiquement sur les chatbots d’IA et les dangers qu’ils présentent pour les mineurs.
« Limiter l’accès aux chatbots d’IA pour les jeunes et veiller à ce qu’il y ait des avertissements pour qu’ils comprennent que ce n’est pas une vraie personne avec laquelle ils croient entretenir une relation : il s’agit d’un exemple où je pense que la tech doit être régulée », a déclaré Hochul au podcast Decoder de The Verge ce week-end. « Cela a échappé au contrôle et aujourd’hui le gouvernement doit intervenir pour protéger nos résidents et nos jeunes, les plus vulnérables. »
Le nouveau mandat comprend également des restrictions sur l’usage des ordinateurs portables et des tablettes individuels. Les élèves du préscolaire jusqu’à la 2e année ne pourront plus utiliser d’appareils individuels du tout, tandis que les élèves des cycles élémentaires plus avancés seront soumis à des limites de temps quotidiennes de 30 à 45 minutes. Des exceptions seraient toutefois prévues pour les élèves en apprentissage actif de l’anglais ou vivant avec un handicap, ainsi que pour l’utilisation de logiciels de codage.
