Gratë dhe të huajt me origjinë të Ndryshëm, më shpesh etiketohen si “Mashtruese” nga Inteligjenca Artificiale e Agjencisë së Sigurimeve Sociale

Një përdorim i diskutueshëm i Inteligjencës Artificiale (AI) nga Agjencia e Sigurimeve Sociale ka nxjerrë në pah pasaktësi shqetësuese në përzgjedhjen e individëve për hetime lidhur me ndihmat financiare. Sipas një raportimi nga SvD, gratë etiketohen dy herë më shpesh si “në rrezik” nga sistemi i AI, edhe pse statistikat e vitit 2017 tregojnë se gratë dhe burrat bëjnë gabime në të njëjtën masë.

Përveç kësaj, individët me origjinë të huaj, ata me arsim të ulët ose të ardhura të ulëta janë etiketuar gjithashtu më shpesh si “në rrezik”. Kur një individ identifikohet si i tillë, ndihmat financiare mund të ndalohen dhe dosja kalon për një hetim të thelluar.

Moritz Hardt, drejtor në Institutin Max Planck për Sistemet Inteligjente, shprehu shqetësimin se përdorimi i këtyre kritereve nga Agjencia duket të jetë i gabuar dhe i padrejtë. Ai theksoi se është shqetësuese që të etiketohen katër individë me origjinë të huaj për çdo suedez.

Nga ana tjetër, Anders Viseth, shef i fushës në Agjencinë e Sigurimeve Sociale, mbrojti sistemin, duke theksuar se çdo individ i përzgjedhur për kontroll kalon një proces të drejtë ligjor. “Juristët tanë bëjnë një vlerësim të detajuar të secilit rast,” tha Viseth për gazetën, duke siguruar se çdo rast shqyrtohet në mënyrë të barabartë dhe të drejtë.