Com hem vist en el mòdul anterior, la integració de la IA a l’educació comporta nombroses oportunitats, però planteja també desafiaments importants que cal afrontar:
Falta de competència
Falta de competència tant per part de l’alumnat com per part del professorat. Cal que els docents ens formem per aprendre a usar la IA de manera ètica i eficaç i a la vegada formem al nostre alumnat implementant tasques a l'aula que promoguin la reflexió, el pensament crític, la resolució de problemes i la creativitat.
Bretxa d'accés a la IA
Bretxa d'accés a la IA per part d’aquell alumnat que no té accés a dispositius tecnològics o/i connexió a internet, que hem de mirar de resoldre des dels centres educatius amb mesures com puguin ser els sistemes de préstec o la reutilització de dispositius.
Dependència excessiva de les eines d'IA per a l'aprenentatge
Hi ha el risc que l'alumnat es torni massa dependent de les eines d'IA per resoldre problemes, fet que podria reduir la seva capacitat de pensament crític i limitar la seva creativitat i autonomia durant el procés d'aprenentatge. A més, aquesta dependència podria disminuir la interacció amb els docents i altres estudiants, afectant negativament el desenvolupament de les seves habilitats socials i emocionals. Davant això, cal que els docents equilibrem l’ús de la IA amb mètodes pedagògics tradicionals que fomentin el desenvolupament de competències com el pensament crític, la creativitat, la resolució de problemes complexos, l'ètica i el judici moral, la interacció social, el lideratge i l’empatia.
De la mateixa manera, una dependència excessiva de la IA per part dels docents també pot provocar l’atròfia de les seves competències essencials i deshumanitzar l’ensenyament.
Privacitat i seguretat de dades
En un context educatiu basat en la IA, la recopilació i gestió de dades personals de l’alumnat és inevitable. Tot i això, si aquestes dades no es manegen adequadament, podrien estar exposades a riscos de privacitat i seguretat, cosa que podria comprometre el seu futur personal o professional. Les autoritats educatives han d’especificar els aspectes relacionats amb la IA dins les seves polítiques de protecció de dades i els docents hem de vetllar per tal de protegir-les i garantir un entorn d’aprenentatge segur.
Limitació d'enfocaments diversos i heterogenis
Els algorismes utilitzats en les eines d'IA poden introduir biaixos en el contingut que es presenta, cosa que podria afectar la capacitat dels estudiants per desenvolupar una visió completa i equilibrada del món que els envolta. Aquesta qüestió són els desenvolupadors d’eines d’IA qui l’han de resoldre, però mentrestant podem ajudar a identificar els biaixos i proporcionar contingut alternatiu.
Falta de qualitat i precisió del contingut generat per la IA
L'ús d'eines d'IA generativa, com els sistemes de generació de text o imatges, pot provocar la creació de materials de baixa qualitat o amb errors; això podria perjudicar l'experiència d'aprenentatge dels estudiants. És important fer ús d’altres fonts i fer conscients a l’alumnat que la IA no és una font de qualitat.
Propietat intel·lectual dels continguts generats per intel·ligència artificial
La legislació actual sobre propietat intel·lectual no aborda de manera clara les obres creades amb IA. Sembla prudent considerar que l'usuari que genera el prompt té algun dret sobre el contingut creat per la IA sota la seva guia, però no una apropiació total, sinó amb l'obligació ètica de garantir l'accés públic al coneixement. A més en usar continguts generats amb IA ho hem de posar a les referències i hem d’acostumar al nostre alumnat a fer-ho també.
Imprecisions en l’avaluació
Els sistemes d’avaluació automatitzada presenten limitacions a l’hora d’avaluar correctament respostes complexes o creatives, per això cal sempre supervisió per part dels docents.
En conclusió, el sistema educatiu ha d’integrar la IA, però ho ha de fer de manera equilibrada, responsable segura i efectiva, combinant el millor dels dos mons: la innovació tecnològica i l'educació humanista, amb l'objectiu de formar individus competents, adaptables i amb un aprenentatge significatiu que els prepari per als reptes del futur.