Mher Hakobyan, Advocacy Advisor i Amnesty International, svarte på avstemningen i Europaparlamentet om hvordan man styrer systemer for kunstig intelligens (AI) under EU-lov som regulerer bruken av kunstig intelligens (AI-lov):
«Europaparlamentet gjorde det klart i dag at menneskerettigheter må stå i sentrum av denne teksten ved å stemme for å forby ulike AI-baserte praksiser som er uforenlige med menneskerettighetene.
Europaparlamentet har i dag gjort det klart at menneskerettigheter må stå i sentrum av denne teksten
Mher Hakobyan, Amnesty International
«Forbudet mot biometriske fjernidentifikasjonssystemer i sanntid er et stort skritt fremover. Denne teksten forbyr imidlertid ikke masseovervåking a posteriori, bare begrense bruken til rettshåndhevelse, med strenge begrensninger. Tekstutkastet vil også forby ulike skadelige bruk av AI-systemer som diskriminerer marginaliserte samfunn. Disse inkluderer teknologier som hevder å «forutsi» kriminalitet, sosiale vurderingssystemer som hindrer enkelte individer i å få tilgang til viktige offentlige eller private tjenester, og følelsesgjenkjenningsteknologier brukt av rettshåndhevelse, rettshåndhevelse og grenseovervåking for å «identifisere» individer. mistenkelige personer.
«Selv om tekstutkastet tar sikte på å begrense EUs eksport av AI-systemer som anses å være en uakseptabel fare for menneskerettighetene, kan det på den annen side tillate tilbydere å omgå lovgivning i tilfeller der deres teknologier er utviklet kun for eksport, noe som kan gjøre EU medvirkende til menneskerettighetsbrudd begått utenfor landets grenser. AIs tekstutkast avstår videre fra å forby diskriminerende profileringssystemer som trekker oppmerksomhet til folk på farten som «en fare» og prediksjonssystemer som brukes for å forhindre migrasjon, til tross for oppfordringer fra Internasjonalt Amnesty og andre medlemmer av sivile samfunn at disse teknologiene er forbudt.
«Det er bekymringsfullt at tekstutkastet tillater tilbydere av kunstig intelligens-systemer som brukes til rettshåndhevelse, migrasjonshåndtering, sosial beskyttelse og andre områder av høy betydning å omgå lovgivning ved å gi dem muligheten til å bestemme om systemene deres representerer eller ikke representerer en høy risiko for menneskerettighetene. . Derfor kan AI-loven reduseres til bare et «veiledningsdokument» for høyrisiko AI-teknologier, i stedet for å være en effektiv regulering.
«Amnesty International oppfordrer EU til å respektere sine forpliktelser under folkeretten. EU må sikre reell åpenhet og ansvarlighet for bruk og eksport av AI-systemer, så vel som deres innvirkning på menneskerettighetene, og må sikre at registrerte har lik tilgang til disse teknologiene og har rett til å be om erstatning i tilfelle skade »
informasjonskomplement
EU-kommisjonen presenterte 21. april 2021 et tekstforslag styrer bruken av kunstig intelligens. EUs råd, som representerer medlemslandenes nasjonale regjeringer, har allerede vedtatt sin posisjon i desember 2022. Europaparlamentet har til hensikt å ferdigstille sitt standpunkt i juni i år, hvoretter de tre institusjonene må bli enige om innholdet i en felles tekst.
Amnesty International, som en del av koalisjonen av sivilsamfunnsorganisasjoner ledet av European Digital Rights Network (EDRI), ba om vedtakelse av en Europeiske forskrifter som respekterer menneskerettighetene på kunstig intelligens-teknologier og -praksis.
«Gamer. Faller mye ned. Ivrig baconfan. Webaholic. Ølgørd. Tenker. Musikkutøver.»