La norma, acordada per la Unió Europea, pretén garantir que els sistemes d'IA utilitzats a la regió siguin segurs per als usuaris
Després d'uns quants dies de negociacions, la Unió Europea ha arribat a un acord per aprovar la llei europea d'intel·ligència artificial (IA). Es tracta d'una norma pionera al món, ja que per primera vegada es regula aquesta nova tecnologia capaç de dur a terme operacions molt semblants a les que realitza la ment humana .
La idea central de la llei és regular la IA sobre la base del nivell de perill que comporta el seu ús, és a dir, a la capacitat que té aquesta tecnologia per causar mal a la societat . La UE ha acceptat que com més gran sigui el risc associat, més estrictes seran les normes aprovades.
#TRILOGUE | DEAL! DEAL! DEAL! @EUCouncil and @Europarl_EN have reached a provisional agreement on the artificial intelligence act #AIAct
— Presidencia española del Consejo de la UE (@eu2023es) December 8, 2023
The regulation aims to ensure that AI systems placed and used in the EU are safe and respect fundamental rights and european values. pic.twitter.com/F1YoFf5x60
Una de les principals regulacions té a veure amb els sistemes didentificació biomètrica , que són tecnologies que utilitzen característiques físiques dels individus per verificar i autenticar la seva identitat . És el cas de les empremtes dactilars o el reconeixement facial .
La llei europea d'IA permetrà als cossos policials accedir a les cambres d'identificació biomètrica d'edificis públics quan sigui per garantir la seguretat nacional i sempre que hi hagi autorització judicial . Per exemple, per identificar autors de delictes relacionats amb el terrorisme, el tràfic de persones o l'explotació sexual.
A més, la norma prohibirà que els sistemes d'IA categoritzin els usuaris per creences polítiques, religioses, filosòfiques o per la seva raça i orientació sexual . Tampoc no estaran permesos els sistemes que puntuen les persones en funció del seu comportament o característiques personals.
Com passa amb la resta de normes de la Unió Europea , la llei d'intel·ligència artificial ara haurà de ser ratificada pel Parlament Europeu i el Consell de la UE , la institució que representa els governs europeus. La normativa hauria d' entrar en vigor d' aquí a dos anys i no seria efectiva fins al 2026 .
La mayor parte de la legislación de la Unión Europea 🇪🇺 se adopta mediante lo que se conoce como procedimiento legislativo ordinario 📋. Te contamos en qué consiste 👇https://t.co/XlLok5g2lW
— Junior Report (@JuniorReport_) December 7, 2023
La regulació de ChatGPT
Un dels principals temes de conversa durant la negociació de la nova llei ha estat la intel·ligència artificial generativa , és a dir, els sistemes capaços de generar text, imatges o vídeos o demanda. Parlem de tecnologies com ChatGPT , de l'empresa OpeanAI, o Bard , de Google.
Aquests sistemes són capaços de crear continguts molt realistes en qüestió de segons, encara que aquests textos puguin estar carregats dinformació falsa . El mateix passa amb altres eines d'IA que poden crear fotos, vídeos i àudios que mai no han passat a la realitat .
La normativa europea obligarà aquestes empreses a ser transparents sobre el seu funcionament , compartint informació sobre com són entrenades les màquines . Les companyies també han de garantir que les dades que s'han emprat per entrenar els seus sistemes respectin els drets d'autor .
A més, els resultats generats per la IA han de ser marcats perquè se sàpiga que procedeixen d'una màquina . El propòsit d'aquesta marca és reforçar la lluita contra la desinformació , protegint els usuaris en línia de possible informació falsa i fomentant un ús més crític de l'entorn digital.
Amb aquesta normativa, l'objectiu de la UE és doble: per una banda, vol protegir la seguretat , la salut i els drets fonamentals de la ciutadania; de l'altra, busca garantir a les empreses tecnològiques una estabilitat a llarg termini per afavorir la inversió i innovació a la regió .
🤫Un secreto: estos estudiantes no existen, son productos de la #IA.
— Junior Report (@JuniorReport_) June 30, 2023
En un mundo donde la #desinformación impulsada por IA es real, es vital enseñar a los estudiantes a detectarla. ¡Junto a @veri_fi_cat hacemos exactamente eso! 👇 pic.twitter.com/KYXSrTdIue
Més enllà d'escriure textos
Quan parlem d'intel·ligència artificial és normal que pensem en eines com ChatGPT : en els darrers mesos aquest sistema ha ocupat els titulars dels mitjans de comunicació per la seva novetat. Tot i això, la IA engloba multitud de tecnologies que s'utilitzen cada dia arreu del món.
El reconeixement facial del nostre telèfon mòbil, la traducció automàtica que realitza Google Translate, els robots que netegen i freguen el terra, els assistents de veu com Alexa que responen a les nostres preguntes… La intel·ligència artificial està incorporada en una gran varietat d'articles.
Una de les seves utilitats més noves és al camp de la medicina , on ha mostrat un gran potencial per transformar la manera com es diagnostiquen, tracten i gestionen algunes malalties. La IA ha demostrat ser molt útil a l'hora d' analitzar imatges mèdiques com a radiografies.
Un estudi recent publicat a The Lancet ha revelat que el cribratge amb IA detecta un 20% més de càncers de mama en comparació amb la lectura de les mamografies duta a terme pels radiòlegs. Els algorismes que utilitzen la intel·ligència artificial poden identificar patrons subtils que podrien passar desapercebuts per a l'ull humà .
La intel·ligència artificial presenta tant riscos com oportunitats, i el seu impacte depèn en gran mesura de com es desenvolupa, implementa i gestiona . Per això una llei que en reguli el funcionament és tan important.
