Conséquences des usages massifs

Les problèmes et les risques liés au développement et aux usages massifs des Systèmes d’Intelligence Artificielle (SIA) sont nombreux : empreinte écologique, impact sur la santé mentale et sur les apprentissages, pollution informationnelle, flou concernant la gouvernance quant au développement, multitudes des biais et hallucinations, questions liées à la protection des données et de la propriété intellectuelle, conditions de travail des travailleuses et des travailleurs dans l’industrie de l’IA, risque de destruction d’emploi. Ainsi, l’APMEP se prononce pour un moratoire sur le développement sans contrôle démocratique et sur les usages massifs des SIA.

Souhaits et demandes

En attendant la mise en place de ce moratoire, l’APMEP souhaite que l’institution communique auprès de la communauté éducative (parents, personnels d’éducation, élèves, personnels de direction...) sur la dangerosité de l’usage des SIA sans guidage par les professeurs/experts en termes d’apprentissage.

L’APMEP souhaite également qu’une formation sur les problèmes et les risques liés aux SIA et sur moyens de sensibiliser les élèves à ces sujets soit déployée pour les professeurs de Mathématiques (et les autres personnels d’éducation).

L’APMEP demande à être partenaire dans les décisions institutionnelles quand aux usages demandés/imposés à la profession concernant les SIA.

L’APMEP sera très attentive aux textes scientifiques présents et futurs permettant d’estimer la plus-value pédagogique de SIA en regard des problèmes et des risques du développement et de l’usage de ceux-ci.

Pistes pour un futur groupe de travail

• IA développée en France sans recours à de la sous-traitance
  (conditions de travail, gouvernance)
• Données hébergées en France
  (RGPD, pillage des données)
• Comité scientifique pour les données d’entrainement (biais) avec respect de la propriété intellectuelle
  (pillage des créations humaines)
• Filigramme/logo pour tout document inventé par l’IA
  (pollution informationnelle)
• IA pas en libre accès pour les élèves et paramétrable par le prof : pas de réponse directe, limiter le nombre de prompt, etc.
  (apprentissage, santé mentale, destruction d’emploi)
• Développement et usage compatible avec les objectifs de la COP de Paris
  (voir des contraintes écologiques plus contraignantes…)