EU har med sin nye forskrift om kunstig intelligens, AI, pålagt de som markedsfører slike produkter, å overholde en risikonorm. Spania er med naturligvis som en del av EU.
Tilbyder må være innforstått med begrepene, uakseptabel risiko, høy risiko, begrenset risiko og minimal risiko. Risikomomentet baserer seg på EUs sine verdier, som retten til ikke-diskriminering, databeskyttelse eller personvern.
Skal overvåkes
Hver kategori, vil ha sine egne underkategorier og egne tydeliggjorte anvisninger om bruk og anbefalte retningslinjer.
EU setter også krav til at systemene skal overvåkes av mennesker og ikke nødvendigvis ha automatisk tilsyn eller overvåking maskinelt gjennom automatisering.
Sikkerhetstiltak
EU kommer også med retningslinjer for biometrisk overvåking, hvor ansiktsgjenkjenning kan være aktuelt. For å innhente tillatelse for bruk av slike systemer, må en rekke sikkerhetstiltak være godkjent, da en slik overvåking anses som «høy risiko. Rettslig godkjennelse eller autorisasjon er med andre ord nødvendig.
Denne type overvåking knyttes gjerne til «søk etter savnede personer», eller forebygging mot et eventuelt terrorangrep. Det er heller ikke tillatt under risikoanalysen å oppbevare informasjon av menneskers seksuelle legning.
Millionbøter
Programvarer, som allerede er i bruk som ChatGPT, programvare som benytter AI, anses så langt som mindre risiko.
Selskaper som Apple, Meta og Google må forholde seg til EUs lovgivning på dette området, og brudd på EUs regelverk kan føre til bøter i millionklassen i euro.
Lovgiveren, EU, ber om åpenhet fra utviklere av disse programvarene og at de retter seg etter de forskrifter som er innført, og som er basert på gjensidig tillitt mellom myndigheter og programvare industrien.
