Govern Obert i Bon Govern

Entrem a conèixer què suposa el nou Reglament Europeu d'IA (AI Act):

1. Per què és important?

L’ús de sistemes d’intel·ligència artificial (IA) en l’àmbit local —des de la gestió de tràmits fins a la predicció de necessitats socials— pot aportar eficiència, però també comporta riscos. El nou Reglament Europeu d’IA (AI Act) estableix obligacions clares per garantir que aquests sistemes siguin segurs, fiables i transparents.

2. Quines obligacions tenen els ens locals?

Els ens locals que utilitzin sistemes d’IA basats en models de propòsit general (com ara assistents virtuals, sistemes de predicció, etc.) han de:

• Exigir documentació del model al proveïdor del sistema (transparència sobre com funciona, quines dades s’han utilitzat, quines limitacions té).
• Garantir que el sistema compleix amb els drets fonamentals, especialment si es tracta d’un sistema de risc alt (per exemple, en àmbits com la salut, l’educació o la contractació pública).
• Sol·licitar informació addicional si és necessari per entendre el funcionament del model i assegurar el compliment normatiu.
• Respectar la confidencialitat de la informació rebuda, incloent propietat intel·lectual i secrets comercials.

3. Què és la documentació del model?

És un conjunt d’informació tècnica i funcional que el proveïdor del model ha de mantenir actualitzada i posar a disposició dels usuaris institucionals. Inclou:

• Finalitat del model
• Dades utilitzades per entrenar-lo
• Capacitats i limitacions
• Mesures de seguretat i control de qualitat

4. Com poden preparar-se els ajuntaments?

• Revisar els contractes amb proveïdors de sistemes d’IA per assegurar que inclouen les obligacions de transparència.
• Designar responsables interns per supervisar l’ús de la IA.
• Formar el personal tècnic i jurídic en el compliment del Reglament d’IA.
• Consultar la Diputació per suport i orientació en la implementació d’aquests requisits.

Des de Diputació ja hem treballat alguns aspectes de l'estretègia municipal en matèria d'intel·ligència artificial. Coneix-los a través del web de Local.ia.
També podeu llegir aquesta nota del Consorci AOC i les Preguntes i respostes sobre el codi de bones pràctiques per l'IA d'ús general de la Comissió Europea.