Avaluació i IA
Els detectors d’IA no serveixen com a prova i les institucions proposen avaluar el procés
Els programes que prometen descobrir si un treball l’ha escrit una intel·ligència artificial s’equivoquen, també amb l’alumnat que no l’ha usada, i ni els seus propis fabricants aconsellen sancionar-hi. Este reportatge explica què diuen els estudis, el Reglament europeu, la protecció de dades i les guies educatives, i proposa un pla sense cost per a avaluar amb garanties en qualsevol matèria: declarar quins usos s’admeten, demanar evidències del procés i escoltar l’alumnat.
Un percentatge que pareix un veredicte
Un detector de text generat no comprova qui ha escrit un treball: estima, a partir de com està escrit, la probabilitat que s’assemble a allò que sol produir un model de llenguatge. El resultat arriba com un percentatge o una etiqueta, i eixa forma numèrica li dona una aparença d’objectivitat que no té. Un text correcte i previsible pot assemblar-se al que escriu una màquina sense haver passat per ella, i un text generat i retocat després pot passar per humà. Per això, un detector dona, com a molt, un indici que cal contrastar, mai una prova.
El problema ja ha eixit de les aules. El diari va contar el debat sobre la «caça de bruixes» dels detectors en el sector editorial, publicat el 2 de novembre de 2026: editorials que passaven manuscrits per detectors, autors acusats que no sabien com demostrar que no havien usat IA i dos novel·les de 1946 i 1969 que el mateix detector va assenyalar primer amb rastres d’IA i després com a humanes. En el grup ChatGPT-IA-edu, la conversa es va traslladar a l’avaluació de l’alumnat. Una postura defenia comprovar l’autoria coneixent la persona i contrastant amb altres formats sobre el mateix tema; una altra, fixar abans un marc clar sobre quins usos de la IA s’autoritzen i quines evidències pot aportar la persona acusada. Hi va haver acord en el segon: aclarir què es permet i per a què.
Què mesuren els estudis
L’estudi més citat el van signar Weixin Liang, James Zou i altres investigadors de la Universitat de Stanford a la revista Patterns el juliol de 2023: «GPT detectors are biased against non-native English writers». Van passar per set detectors 91 redaccions de l’examen TOEFL escrites per persones que tenen l’anglés com a segona llengua. De mitjana, els detectors van classificar com a generades per IA més del 61 % d’eixes redaccions humanes; 18 de les 91 (el 19,8 %) van ser assenyalades pels set alhora, i 89 (el 97,8 %) per almenys un. En canvi, 88 redaccions d’alumnat estatunidenc de huité curs es van classificar quasi sense errors. Els autors desaconsellen amb fermesa usar estos detectors en contextos educatius o d’avaluació.
Eixe mateix any, Debora Weber-Wulff i set coautors van provar catorze eines, entre elles les comercials Turnitin i PlagiarismCheck, en l’estudi «Testing of Detection Tools for AI-Generated Text», publicat a l’International Journal for Educational Integrity. La seua conclusió és que les eines disponibles «are neither accurate nor reliable»: tendeixen a classificar com a humà allò generat, i basta retocar o disfressar el text perquè funcionen prou pitjor.
Per al castellà hi ha dades més recents. Sheila Queralt, Beatriz Esparcia, Marco R. Lessi, Lucía Sánchez-Vecina i Laura Úbeda Cuspinera van publicar el setembre de 2025, a la revista Intelética, «¿IA, Humano o híbrido?: Fiabilidad de herramientas de detección de IA en textos multiautoría». Amb 180 textos en espanyol, humans, generats amb ChatGPT, Gemini i Grok, i mixts, van comparar Originality.ai, GPTZero i Copyleaks. Originality.ai va tindre el millor rendiment global i GPTZero, la menor taxa de falsos positius, però cap de les tres va aconseguir una fiabilitat acceptable amb els textos híbrids, i les autores van observar classificacions errònies fetes amb alta confiança.
Què adverteixen els fabricants
OpenAI, l’empresa de ChatGPT, va llançar el gener de 2023 el seu propi classificador de text i el va retirar el 20 de juliol d’eixe any. Segons la nota afegida a el seu anunci, ho va fer per la seua baixa precisió: en les seues proves, identificava com a probablement generat el 26 % dels textos escrits per IA i etiquetava així, per error, el 9 % dels humans.
Turnitin, el detector més estés en universitats, admet al seu blog que el risc d’error no és zero. El març de 2023, la seua directora de producte, Annie Chechitelli, escrivia que, com que la taxa de falsos positius no és zero, el docent «will need to apply your professional judgment» («haurà d’aplicar el seu criteri professional»). El juny de 2023 donava les seues pròpies xifres: menys de l’1 % de falsos positius per document en els que tenen almenys un 20 % d’escriptura amb IA i al voltant del 4 % per frase, i demanava usar el resultat «to initiate a conversation, not to draw a conclusion» («per a iniciar una conversa, no per a traure una conclusió»). Són dades de la pròpia empresa.
GPTZero és encara més explícit a la seua pàgina de limitacions: «These results should not be used to punish students» («Estos resultats no s’han d’usar per a castigar l’alumnat»). Afig que la seua precisió és major amb textos paregut als del seu conjunt d’entrenament, majoritàriament prosa en anglés escrita per adults, i que el text molt editat és més difícil de classificar.
El marc europeu i espanyol
El Reglament europeu d’intel·ligència artificial considera d’alt risc, en el punt 3 del seu annex III, els sistemes destinats a avaluar els resultats de l’aprenentatge i els destinats al seguiment i la detecció de comportaments prohibits dels estudiants durant els exàmens. Alt risc no significa prohibit, sinó subjecte a obligacions estrictes, entre elles la supervisió humana. Segons la Comissió Europea, a la seua pàgina actualitzada el 19 d’octubre de 2026, eixes obligacions s’han ajornat al 2 de desembre de 2027, mentre que la d’alfabetització en IA s’aplica des del 2 de febrer de 2025.
La protecció de dades afig dos cauteles. Sense referir-se als detectors, l’Agència Espanyola de Protecció de Dades recorda en el seu blog que l’article 22 del RGPD reconeix el dret a no ser objecte d’una decisió basada únicament en un tractament automatitzat, que no val «inventar-se» una participació humana i que la persona que supervisa pot caure en el biaix d’automatització, és a dir, acceptar sense qüestionar el que diu la màquina. A més, en un assumpte pròxim, el de les classes i exàmens en línia, l’AEPD indica que les eines les trien el centre o l’administració educativa, amb l’assessorament del seu delegat de protecció de dades, i que el professorat hauria d’usar les que es posen a la seua disposició.
Entre les administracions educatives, la que es pronuncia amb més claredat és Catalunya. Les seues Orientacions per a l’ús de la intel·ligència artificial als centres educatius, publicades pel Departament d’Educació i Formació Professional el setembre de 2026 i ressenyades a la Biblioteca del diari, justifiquen la seua prudència, entre altres raons, en el fet que els detectors no donen garanties suficients, sobretot fora de l’anglés, i conclouen que són desaconsellables: «els millors detectors continuen sent les persones». També estableixen que la IA no ha de qualificar ni determinar el grau d’assoliment, per tractar-se d’un ús d’alt risc segons el Reglament europeu.
En l’àmbit estatal, la Guía sobre el uso de la inteligencia artificial en el ámbito educativo de l’INTEF, en la seua versió 2.0 publicada el 8 de setembre de 2026, tracta la integritat acadèmica i inclou un model de declaració d’ús de la IA i un qüestionari perquè l’alumnat reflexione sobre la seua relació amb ella. El diari no ha trobat en altres guies autonòmiques un pronunciament tan exprés sobre els detectors com el català.
Del producte al procés
L’alternativa que més es repeteix en les institucions no és vigilar millor, sinó avaluar d’una altra manera. L’informe del comité del MIT sobre la IA en l’ensenyament, datat el 13 d’agost de 2026 i explicat a la Biblioteca del diari, demana que el professorat revise primer els seus objectius d’aprenentatge i només després dissenye avaluacions adaptades a la IA. Proposa exàmens orals, portafolis semestrals i treballs fora de l’aula acompanyats d’una conversa en classe, i que cada assignatura tinga una política clara sobre la IA, comunicada amb un format estàndard.
Sobre la vigilància, l’informe recomana no refiar-se dels detectors, recorda que poden confondre amb IA l’escriptura de les persones que no tenen l’anglés com a llengua materna i assenyala que el propi comité disciplinari del MIT no considera suficient, per si sol, el resultat d’un detector. Prefereix altres evidències: plataformes que guarden l’historial de versions, lliuraments parcials amb dates i comentaris del docent en diverses etapes, no només sobre el producte final.
Per a decidir quin ús s’admet en cada tasca hi ha una eina molt difosa, l’AI Assessment Scale, creada per Mike Perkins, Jasper Roe, Leon Furze i Jason MacVaugh i revisada el desembre de 2024 en un article signat, entre altres, per Perkins, Roe i Furze. Té cinc nivells: sense IA, planificació amb IA, col·laboració amb IA, ús ple de la IA i exploració amb IA. Els seus responsables la presenten com una eina per a decidir quin paper té la IA en una tasca i redissenyar-la, i està traduïda a més de trenta llengües.
Un pla per a qualsevol matèria
Les guies no presenten la IA només com una amenaça en l’avaluació. Les Orientacions catalanes admeten que ajude a crear instruments d’avaluació, a corregir respostes inequívoques o a detectar errors freqüents, sempre amb dades pseudonimitzades, i demanen dissenyar activitats que exigisquen interpretació i una posició personal. La decisió sobre una nota o una sanció l’ha de prendre una persona que puga canviar-la, no un programa.
Amb això, un docent pot començar sense pagar res. Primer, decidir i escriure en cada tasca quins usos de la IA s’admeten i per què, amb una escala senzilla com la de cinc nivells, i demanar a l’alumnat que declare com l’ha usada; el model de l’INTEF serveix de punt de partida. Segon, demanar evidències del procés: un esquema previ, esborranys, l’historial de versions del document o lliuraments per etapes amb comentaris.
Tercer, afegir una explicació breu, oral o escrita a classe, en què l’alumne conte amb les seues paraules què va fer, per què va prendre les seues decisions i què va aprendre; serveix igual en primària, en ESO o en FP. Quart, redissenyar alguna tasca perquè depenga del treballat a l’aula, de dades pròpies o d’una opinió argumentada. I, si alguna cosa no encaixa, conversar abans d’acusar.
Allò que convé no fer està igual de clar: qualificar amb IA, sancionar pel percentatge d’un detector o pujar treballs de l’alumnat a serveis que el centre no ha autoritzat. Quan hi haja dubtes sobre una eina, el delegat de protecció de dades de l’administració educativa pot assessorar.
Claus
- Un detector de text generat dona, com a molt, un indici: els estudis independents el troben poc fiable i especialment injust amb l’alumnat que escriu en una segona llengua.
- En castellà, cap dels tres detectors provats per Queralt i el seu equip el 2025 va ser fiable amb textos mixtos de persona i IA.
- Els propis fabricants adverteixen: OpenAI va retirar el seu classificador el 2023 per baixa precisió, Turnitin demana usar el resultat per a conversar i GPTZero, no per a castigar.
- El Reglament europeu considera d’alt risc la IA que avalua l’aprenentatge, i Catalunya desaconsella els detectors i qualificar amb IA.
- L’alternativa és avaluar el procés: usos d’IA declarats per tasca, esborranys i historial de versions, lliuraments per etapes i una explicació oral breu.
Fonts: GPT detectors are biased against non-native English writers (Liang et al., Universitat de Stanford, Patterns, 2023), Testing of Detection Tools for AI-Generated Text (Weber-Wulff et al., International Journal for Educational Integrity, 2023), ¿IA, Humano o híbrido?: Fiabilidad de herramientas de detección de IA en textos multiautoría (Queralt et al., Intelética, 2025), New AI classifier for indicating AI-written text (OpenAI, 31-01-2023, amb nota de retirada del 20-07-2023), Understanding false positives within our AI writing detection capabilities (Turnitin, 16-03-2023), Understanding the false positive rate for sentences of our AI writing detection capability (Turnitin, 14-06-2023), What are the limitations of GPTZero's AI classifier? (GPTZero, centre d’ajuda), Reglamento (UE) 2024/1689 de Inteligencia Artificial (DOUE, al BOE), Ley de IA: marco regulador (Comissió Europea, actualitzada el 19-10-2026), Evaluación de la intervención humana en las decisiones automatizadas (AEPD, blog, 04-03-2024), ¿Pueden los centros educativos impartir clases y realizar exámenes online sin el consentimiento de los interesados? (AEPD), Orientacions per a l’ús de la intel·ligència artificial als centres educatius (Generalitat de Catalunya, 2026; còpia a la Biblioteca digital), Guía sobre el uso de la inteligencia artificial en el ámbito educativo, versión 2.0 (INTEF, setembre de 2026), Nueva versión de la «Guía sobre el uso de la inteligencia artificial en el ámbito educativo» (INTEF, 08-09-2026), Report of MIT's Ad Hoc Committee on AI Use in Teaching, Learning, and Research Training (MIT, 13-08-2026), The AI Assessment Scale (Perkins, Roe, Furze i MacVaugh), The AI Assessment Scale Revisited: A Framework for Educational Assessment (Perkins, Roe, Furze et al., arXiv, 12-12-2024).
Llig la conversa original en ChatGPT-IA-edu
Traducció al valencià de l’article publicat originalment al Diario de IA Educativa el 15 de novembre de 2026. © 2026 Juan José de Haro i Raül Torres. Llicència CC BY-SA 4.0. Redactat amb IA a partir del que es parla en tres grups de docents en Telegram (ChatGPT-IA-edu, Vibe Coding Educativo i EduMedia-IAG); cada dada es comprova en la seua font original. Les fonts de l’apartat «Fonts» conserven el títol original.