A mesura que la IA s’integra en la societat, i més concretament en l’educació, sorgeixen preocupacions sobre el seu impacte ètic i la necessitat d’establir una regulació adequada.
Tant el Reglament d'Intel·ligència Artificial a Europa (previst per entrar en vigor el 2026) com l'Estratègia Nacional d'Intel·ligència Artificial a Espanya (aprovada el maig del 2024) plantegen una sèrie de mesures a implementar per tal de promoure la innovació alhora que es protegeixen els drets i valors fonamentals i s’asseguren la transparència en l'ús de dades i algoritmes i el desenvolupament d'una societat equitativa i sostenible; tot això sempre sota una avaluació constant d'aquesta tecnologia.
En la mateixa línia, diverses institucions estan abordant aquest tema amb l’objectiu de crear un ecosistema educatiu on la IA s’usi de manera responsable, segura i beneficiosa per a tots. El juliol del 2024 l’INTEF va presentar una Guia sobre l’ús de la IA en l’àmbit educatiu, en la qual es descriuen 10 principis a tenir en compte a l’hora de fer ús de la IA en els centres educatius, principis que ja recollia la Comissió Europea a les Directrius ètiques sobre l'ús de la intel·ligència artificial i de les dades a l'educació i a la formació per als educadors (2024) i la UNESCO a la Guia per a l'ús de IA generativa en educació i en recerca (2023). Aquests principis són:
Integració respectuosa i sostenible
La IA s’ha d’utilitzar en benefici de la humanitat, evitant causar danys a les persones o al medi ambient.
Transparència i consciència
Els sistemes d'IA han de ser transparents en el seu funcionament i decisions, permetent que les persones comprenguin com funcionen i per què prenen certes decisions.
Equitat i no discriminació
Hem de desenvolupar i utilitzar sistemes d'IA de manera justa i equitativa, evitant qualsevol discriminació o biaix cap a persones o grups específics.
Robustesa i seguretat
Els sistemes d'IA han de ser robustos i segurs, protegits contra atacs que puguin posar en perill les persones o la societat.
Privacitat i protecció de dades
La IA ha de respectar la privacitat de les persones i protegir les seves dades personals, assegurant-ne un ús responsable i ètic.
Supervisió humana
La IA ha de ser supervisada per humans, garantint que les persones mantinguin el control sobre el seu desenvolupament i ús, evitant decisions autònomes que puguin tenir efectes negatius sobre la societat.
Compatibilitat amb els valors humans
La IA ha de ser dissenyada per ser compatible amb els valors humans i la dignitat, respectant l’autonomia, la llibertat i la privacitat de les persones.
Promoció del benestar social
La IA s’ha d’utilitzar per promoure el benestar social i el desenvolupament sostenible, contribuint a resoldre problemes globals com la pobresa, el canvi climàtic i les malalties.
Aprenentatge col·laboratiu
En implementar un sistema o eina d'IA, s’ha de fomentar la participació de diversos agents per garantir la inclusió de diferents perspectives i valors.
Reflexió i anticipació
Ha d’haver-hi una avaluació contínua sobre l'impacte ètic i social de la IA, anticipant possibles riscos i desafiaments futurs, i promovent un diàleg obert i transparent entre tots els interessats.
D’altra banda, la UNESCO ha publicat també en 2024 un Marc de competència en intel·ligència artificial per a docents, que defineix els coneixements, habilitats i valors que els docents hem de dominar en aquesta era. Desenvolupat sota els principis de protecció dels drets dels docents, potenciació de l’agència humana i promoció de la sostenibilitat, el marc identifica 15 competències distribuïdes en cinc dimensions: mentalitat centrada en les persones, ètica de la IA, fonaments i aplicacions de la IA, pedagogia de la IA, i IA per a l’aprenentatge professional. Aquestes competències es classifiquen en tres nivells de progressió: Adquirir, Aprofundir i Crear. Aquest marc pot servir de guia per al desenvolupament de marcs nacionals de competències en IA i de programes de formació del professorat. A més, proporciona estratègies perquè els docents adquireixin coneixements sobre IA, apliquin principis ètics i afavoreixin el seu creixement professional.
De la mateixa manera, la UNESCO ha publicat també el Marc de competència en intel·ligència artificial per a alumnes, amb l’objectiu de guiar als educadors a l'hora d’incloure l’aprenentatge de la IA dins el currículum d’ensenyar a l’alumnat a fer-ne un ús creatiu i responsable. El marc posa èmfasi en el judici crític de les solucions d'IA, la consciència de les responsabilitats cíviques en l'era de la IA, els coneixements fonamentals sobre IA per a l'aprenentatge continuat, i el disseny d'una IA inclusiva i sostenible.
Per acabar, és essencial que els centres educatius estableixin normes clares i ètiques sobre l'ús de la IA. Els centres educatius han de desenvolupar polítiques que regulin quan i com es pot utilitzar la IA en les tasques i exàmens, i fomentar la consciència sobre els riscos del plagi, la desinformació i la dependència tecnològica. S'ha d'ensenyar als estudiants sobre els límits de la IA i com utilitzar-la de manera responsable i complementària a les seves capacitats humanes. Per tant, es fa evident la necessitat per part dels centres educatius de redactar el seu propi Reglament sobre l’ús responsable de la IA (tal vegada aquest podria ser un nou objectiu del Pla digital de centre!). Aquest podria ser un possible guió.