El Parlament Europeu ha tornat a obrir la porta perquè empreses com Google, Meta o Microsoft analitzin de manera automatitzada les comunicacions privades dels seus usuaris amb l’objectiu declarat de detectar material d’abús sexual infantil. La mesura es coneix popularment com a Chat Control 1.0 i s’ha presentat, una vegada més, com una excepció temporal i limitada. Tanmateix, quan una excepció permet inspeccionar missatges, correus electrònics, imatges i altres comunicacions personals de milions de persones que no són sospitoses de cap delicte, el problema deixa de ser només tècnic o jurídic i es converteix en una redefinició de què significa tenir una conversa privada a Europa.
Abans de continuar, convé precisar què ha passat realment, perquè dir que la norma ja ha estat definitivament aprovada seria prematur. El 9 de juliol de 2026, el Parlament Europeu va adoptar en segona lectura una versió modificada de la posició del Consell. El text torna ara als governs dels estats membres, que disposen de tres mesos per acceptar les esmenes del Parlament. Si no les accepten íntegrament, s’obrirà una fase de conciliació entre les dues institucions. Per tant, el procediment encara no ha acabat, però el Parlament ja ha acceptat el principi essencial de la norma: permetre que les plataformes tornin a escanejar voluntàriament les comunicacions privades.
Una excepció temporal que es nega a morir
L’origen del problema es remunta al 2021, quan la Unió Europea va aprovar el Reglament 2021/1232 com una derogació temporal de la Directiva ePrivacy. Aquesta directiva protegeix la confidencialitat de les comunicacions electròniques i, en condicions normals, impedeix que els proveïdors processin el contingut i determinades dades de les comunicacions sense una base jurídica adequada.
L’excepció del 2021 permetia que alguns proveïdors continuessin utilitzant voluntàriament tecnologies de detecció de material d’abús sexual infantil, incloent-hi sistemes que comparen imatges amb bases de dades de contingut conegut i altres mecanismes més problemàtics destinats a identificar contingut desconegut o possibles converses de captació sexual de menors. La mesura havia de ser provisional mentre la Unió Europea preparava una legislació permanent, però aquesta legislació no va arribar a temps i l’excepció es va prorrogar fins al 3 d’abril de 2026.
Quan va arribar aquella data, el Parlament i el Consell no havien aconseguit pactar una nova extensió. El Parlament havia proposat limitar l’escaneig a comunicacions específiques, excloure el xifratge d’extrem a extrem, restringir-lo a material ja identificat i exigir que els objectius fossin persones o grups assenyalats per una autoritat judicial. En altres paraules, havia intentat transformar un sistema indiscriminat en un mecanisme molt més semblant a una investigació dirigida. El Consell no va acceptar aquestes limitacions i les negociacions van fracassar, de manera que el Parlament va rebutjar l’extensió el 26 de març i la derogació va expirar el 3 d’abril.
El que ha passat després és revelador. Com que jurídicament ja no es podia “prorrogar” una norma expirada, el Consell va decidir recuperar-ne el text gairebé sencer i presentar-lo com un nou reglament autònom, amb les dates actualitzades i amb vigència prevista fins al 3 d’abril de 2028. No és una interpretació crítica del procediment, sinó la descripció que en fa el mateix Consell en la seva documentació: calia tornar a adoptar el text de la regulació caducada perquè una norma que ja havia expirat no es podia estendre.
Així és com una mesura excepcional que havia de durar uns anys s’acosta ja a una dècada de vida potencial, sempre justificada perquè la legislació definitiva encara no està preparada. El patró és conegut: es presenta una limitació de drets com una resposta urgent, s’estableix una data de caducitat per reduir la resistència política i, quan arriba el moment de retirar-la, la situació provisional es converteix en imprescindible.
Com s’ha aprovat una norma que la majoria volia rebutjar
La part més inquietant d’aquest episodi no és només el contingut, sinó la manera com s’ha tramitat. El Consell va enviar la proposta de nou al Parlament perquè fos examinada en segona lectura i es va activar un procediment urgent que va evitar el recorregut ordinari per comissió, on normalment es negocien, estudien i introdueixen esmenes amb més detall.
En aquesta fase del procediment legislatiu europeu no n’hi havia prou amb una majoria simple per rebutjar la posició del Consell, sinó que calia una majoria absoluta de tots els membres del Parlament, és a dir, 360 vots. En la votació inicial, 314 eurodiputats van votar a favor de rebutjar el text, mentre que 276 hi van votar en contra i 17 es van abstenir. Per tant, hi havia una majoria clara dels diputats que van votar partidària de rebutjar-lo, però no es va arribar al llindar extraordinari de 360 vots i, en conseqüència, la proposta no va ser rebutjada.
Aquesta distinció pot semblar una subtilesa parlamentària, però políticament és enorme. La majoria dels representants que van emetre un vot no volien acceptar la posició del Consell i, malgrat això, el mecanisme procedimental va permetre que continués endavant. El resultat no és il·legal, perquè forma part de les regles de la segona lectura, però és difícil presentar-lo com una expressió clara de suport democràtic a l’escaneig de comunicacions.
El Parlament sí que va aconseguir introduir una protecció important, perquè queden fora de l’abast les comunicacions a les quals s’apliqui, s’hagi aplicat o s’hagi de continuar aplicant xifratge d’extrem a extrem. Això protegeix, almenys en aquesta versió, serveis com Signal o els xats xifrats de WhatsApp. Tanmateix, l’exclusió del xifratge no converteix la resta de la norma en acceptable, perquè encara deixa exposades enormes quantitats de comunicacions no xifrades d’extrem a extrem, com ara correus electrònics, missatges directes de determinades plataformes, contingut emmagatzemat al núvol i serveis en què el proveïdor conserva accés al text o als fitxers.
“Voluntari” no significa innocu
Els defensors del reglament insisteixen que l’escaneig és voluntari, ja que la norma no obliga directament totes les empreses a inspeccionar les comunicacions. Aquesta formulació és jurídicament correcta, però políticament enganyosa, perquè la qüestió rellevant no és si l’Estat opera directament els escàners, sinó si la legislació autoritza empreses privades a analitzar sistemàticament les comunicacions dels ciutadans sense una sospita individualitzada.
En aquest model, la confidencialitat d’una conversa depèn de la política comercial del proveïdor. Una empresa pot decidir que totes les imatges, tots els fitxers adjunts o determinades converses passin per sistemes automatitzats de classificació. L’usuari no negocia aquesta decisió i, en la pràctica, l’accepta dins d’unes condicions del servei que gairebé ningú llegeix i que no ofereixen cap alternativa real si la plataforma és necessària per treballar, estudiar o comunicar-se.
El caràcter voluntari també dilueix la responsabilitat pública. Quan l’escaneig el fa una empresa, els governs poden afirmar que no han ordenat la vigilància, mentre que les plataformes poden justificar-la dient que la legislació europea l’autoritza i que respon a un objectiu legítim. Entre una cosa i l’altra, s’estableix una infraestructura privada de supervisió massiva sense que cap institució n’assumeixi completament el cost democràtic.
El problema tècnic dels falsos positius
No tots els sistemes de detecció són iguals. Comparar l’empremta digital d’una imatge amb una base de dades de material ja confirmat és tècnicament més acotat que intentar descobrir material desconegut mitjançant intel·ligència artificial. Encara més problemàtic és pretendre identificar automàticament converses de grooming, perquè això exigeix interpretar llenguatge, relacions personals, edats, intencions, ironia i context.
Un sistema que treballa sobre milions o milers de milions de comunicacions pot tenir una taxa d’error aparentment molt baixa i, tot i així, generar enormes quantitats de falsos positius. Si un classificador s’equivoca només en una fracció minúscula dels casos, però examina totes les fotografies familiars, tots els missatges entre adolescents, totes les consultes mèdiques i totes les converses íntimes d’una gran plataforma, acabarà assenyalant persones innocents de manera inevitable.
Les conseqüències no són abstractes. Un fals positiu pot fer que contingut privat sigui revisat per treballadors de l’empresa, contractistes, organitzacions externes o autoritats policials. També pot provocar el bloqueig d’un compte, la conservació de dades, una denúncia automàtica o l’obertura d’una investigació. Encara que el cas s’acabi arxivant, la persona afectada ja haurà perdut la confidencialitat de les seves comunicacions i haurà quedat atrapada en un procés que pot ser difícil d’entendre i encara més difícil d’impugnar.
A més, els materials que poden confondre aquests sistemes no són marginals. Fotografies legítimes de fills petits, converses entre menors, educació sexual, consultes mèdiques, contingut artístic o comunicacions entre víctimes i professionals poden compartir característiques superficials amb allò que els classificadors intenten detectar. Com més ambiciós és el sistema i més enllà va del material ja conegut, més context necessita interpretar i més gran esdevé el risc d’error.
Una infraestructura de vigilància no coneix el principi de finalitat
El principal problema de privacitat no és únicament que els sistemes puguin equivocar-se, sinó que normalitzen una arquitectura en què les comunicacions privades són inspeccionables per defecte. Una vegada les plataformes han desplegat mecanismes capaços d’analitzar missatges, classificar imatges, identificar patrons lingüístics i generar denúncies, la infraestructura ja existeix. Canviar-ne l’objectiu es converteix en una decisió política o administrativa molt més fàcil que construir-la des de zero.
Avui la finalitat declarada és detectar abusos sexuals infantils, una causa que genera una adhesió emocional gairebé automàtica i que fa especialment difícil qüestionar els mitjans utilitzats. Demà es pot argumentar que la mateixa tecnologia hauria de detectar terrorisme, narcotràfic, discurs d’odi, infraccions de propietat intel·lectual, desinformació, avortaments il·legals en algun estat membre o qualsevol altra categoria que un govern consideri prioritària.
Això no implica que l’ampliació sigui inevitable, però negar-ne el risc seria ignorar la història de les tecnologies de vigilància. Les eines creades per combatre els delictes més greus tendeixen a expandir-se cap a altres usos quan ja han estat legitimades, finançades i integrades en els sistemes. El principi de limitació de finalitat funciona molt millor sobre el paper que davant d’una infraestructura tècnica que permet inspeccionar una població sencera a un cost marginal.
També cal considerar la seguretat. Qualsevol sistema capaç d’accedir al contingut abans del xifratge, després del desxifratge o dins dels servidors del proveïdor amplia la superfície d’atac. La base de dades de coincidències, els canals de denúncia, els sistemes de revisió humana i els registres generats pels classificadors es converteixen en objectius d’alt valor per a atacants, governs autoritaris i empleats maliciosos. Una arquitectura dissenyada per trobar contingut il·legal pot acabar exposant precisament les persones més vulnerables que diu voler protegir.
L’excepció del xifratge no està garantida per sempre
La versió aprovada pel Parlament exclou les comunicacions xifrades d’extrem a extrem, i això és una victòria rellevant per als defensors de la privacitat. Tanmateix, seria un error considerar resolta la batalla sobre el xifratge, perquè Chat Control 1.0 és només la regulació provisional.
Des del 2022, la Comissió Europea impulsa una regulació permanent per prevenir i combatre l’abús sexual infantil en línia, habitualment coneguda pels crítics com a Chat Control 2.0. Aquesta proposta pretén crear obligacions més àmplies per als serveis digitals, incloent-hi avaluacions de risc, ordres de detecció, retirada i bloqueig de contingut, notificacions obligatòries i la creació d’un centre europeu especialitzat. Les negociacions interinstitucionals continuen obertes i el mateix Parlament afirma que la majoria dels elements del futur règim permanent ja van ser acordats durant la presidència xipriota del Consell, encara que queden qüestions decisives per resoldre.
El conflicte central continua sent fins on pot arribar la detecció i si és possible obligar a escanejar comunicacions protegides amb xifratge d’extrem a extrem. Els partidaris d’aquestes mesures acostumen a presentar l’anàlisi al dispositiu, abans que el missatge sigui xifrat, com una manera de preservar formalment el xifratge. Tanmateix, aquesta distinció és semàntica més que real, perquè una comunicació que és examinada automàticament abans de ser enviada no és confidencial, encara que el canal de transport posterior estigui criptogràficament protegit.
A la pràctica, el xifratge d’extrem a extrem només garanteix privacitat quan els dispositius dels participants són els únics que poden accedir al contingut i quan el programari no actua com un informador incorporat. Introduir un escàner obligatori al telèfon equival a traslladar el control des del servidor fins a la butxaca de l’usuari, no pas a eliminar-lo.
Protegir els infants no exigeix vigilar tothom
El debat sovint es presenta com una tria entre privacitat i protecció dels menors, però aquesta oposició és falsa. Es poden perseguir els abusadors, retirar material il·legal, investigar xarxes criminals, reforçar les unitats policials, millorar la cooperació transfronterera, accelerar les ordres judicials i destinar recursos a la prevenció i l’atenció de les víctimes sense convertir totes les converses privades en objectes potencials d’inspecció.
De fet, la vigilància indiscriminada pot consumir recursos que serien més útils en investigacions dirigides. Les autoritats han de processar denúncies automatitzades, separar els falsos positius dels casos reals i gestionar grans volums d’informació de qualitat desigual. Mentrestant, els criminals més sofisticats no tenen cap obligació d’utilitzar Gmail, Messenger o qualsevol altra plataforma cooperativa, perquè poden recórrer a serveis propis, arxius xifrats, sistemes descentralitzats, xarxes anònimes o canals que queden fora de l’abast de les empreses regulades.
Això crea una asimetria difícil de justificar, perquè els ciutadans corrents perden confidencialitat quan utilitzen serveis comercials convencionals, mentre que els delinqüents que constitueixen l’objectiu prioritari tenen incentius evidents per migrar cap a sistemes que no escanegen res. La vigilància massiva és especialment atractiva políticament perquè produeix xifres, alertes i declaracions d’activitat, però això no significa necessàriament que sigui la millor manera de protegir víctimes potencials.
El precedent és més important que la data de caducitat
Chat Control 1.0 es tornarà a presentar com una solució provisional fins que arribi el règim permanent, previsiblement el 2028 o abans si les institucions aconsegueixen aprovar-lo. Tanmateix, la data de caducitat és menys tranquil·litzadora quan ja hem vist com funciona el procés: la mesura temporal del 2021 es va prorrogar, va expirar, va ser rebutjada i, quan el resultat polític no va satisfer el Consell, es va recuperar amb un nou embolcall jurídic i mitjançant un procediment en què una majoria simple de diputats no va ser suficient per aturar-la.
El precedent que queda és que la confidencialitat de les comunicacions pot ser suspesa de manera general, no perquè existeixi una sospita concreta ni una ordre judicial individual, sinó perquè una empresa decideix desplegar tecnologies d’anàlisi sobre tots els seus usuaris. També queda el precedent que una excepció a un dret fonamental pot mantenir-se durant anys mentre les institucions discuteixen com convertir-la en permanent.
No cal minimitzar la gravetat de l’abús sexual infantil per oposar-se a aquesta norma. Al contrari, precisament perquè es tracta d’un delicte gravíssim, les polítiques per combatre’l haurien de ser eficaces, proporcionades, sotmeses a control judicial i dirigides contra persones o xarxes sobre les quals existeixin indicis. Escanejar preventivament les comunicacions de tothom substitueix aquests principis per una presumpció difusa segons la qual qualsevol conversa pot ser inspeccionada perquè, estadísticament, alguna contindrà un delicte.
Europa acostuma a presentar-se com el territori mundial que protegeix amb més fermesa la privacitat i els drets digitals. Chat Control demostra, però, que aquesta protecció és molt menys sòlida quan els governs invoquen una causa prou sensible. La pregunta no és si volem protegir els infants, perquè això no està en discussió. La pregunta és si acceptem que, per fer-ho, les nostres converses deixin de ser realment nostres.