Vicepresidenta de la Comissió Europea
La CE proposa vetar l’ús d’intel·ligència artificial quan sigui una “amenaça” a la seguretat i als drets dels ciutadans
La Comissió Europea proposa prohibir “en principi” que la policia pugui fer servir la identificació biomètrica remota en directe en espais públics. Entre les normes sobre intel·ligència artificial que l’executiu europeu ha presentat aquest dimecres hi ha aquesta prohibició en considerar que la identificació biomètrica remota comporta un possible “alt risc” contra els valors europeus.
Per aquest motiu, la Comissió Europea proposa que qualsevol ús de la identificació biomètrica remota estigui subjecta a usos “més estrictes” que en altres casos. “No hi ha espai per a la vigilància massiva en la nostra societat”, ha dit la vicepresidenta de la Comissió Europea Margrethe Vestager. Entre les “excepcions” en què l’executiu comunitari sí proposa permetre l’ús de la identificació biomètrica remota en directe hi ha quan es busca un infant perdut, en cas “d’específic i imminent” acte terrorista o per identificar la persona que ha comès un delicte greu.
El marc legislatiu proposat per l’executiu europeu planteja classificar els usos de la intel·ligència artificial segons el “risc” que comporten. Així, la Comissió Europea vol prohibir aquells que tinguin un “risc inacceptable”, és a dir, que són una “amenaça” a la seguretat, els mitjans de subsistència i els drets de la ciutadania.
Entre els que l’executiu comunitari planteja prohibir hi ha sistemes i aplicacions que manipulen el comportament humà. Per exemple, joguines que incitin els infants a tenir “comportaments perillosos” o sistemes que permeten als governs fixar una puntuació social.
En un grau inferior hi ha els usos de “risc alt”, que són els que es fan servir per a infraestructures crítiques com el transport, l’educació, la seguretat de productes, l’ocupació, l’administració de justícia o la gestió migratòria. En aquests casos hi haurà “obligacions estrictes” abans que es puguin comercialitzar, com per exemple garantir un “bon grau” de seguretat i sistemes adequats d’avaluació i mitigació de riscos, entre d’altres.
Pel que fa als usos de “risc limitat”, l’executiu comunitari planteja que calguin “requeriments específics de transparència”. Per exemple, s’haurà d’informar els usuaris si estan conversant amb una màquina per tal que decideixin si volen continuar.
Finalment, la Comissió Europea defensa que els usos amb “risc insignificant”, en el qual diu que es troben la majoria, com per exemple els filtres de correu brossa, es poden seguir utilitzant sense una normativa més estricta perquè “representen un risc insignificant o nul per als drets o la seguretat de la ciutadania”.