Människorättsgrupper har kritiserat ansiktsigenkänning under lång tid men det är inte förrän nu med de stora demonstrationerna efter George Floyds död som företagen agerar. Argumentet som länge har framförts av medborgarrättsgrupper (och av AI-experter) är att ansiktsigenkänning påverkar icke-vita människor på två sätt: för det första kommer det att sikta in sig mer på svarta än andra – precis som alla andra tekniska hjälpmedel som används av en institution som präglas av rasism. För det andra fungerar ansiktsigenkännings-tekniken sämre på personer med mörk hudfärg, vilket innebär att det oftare blir fel och fler oskyldiga kommer att arresteras.

IBM:s CEO Arvind Krishna säger att IBM vill starta en nationell dialog (i USA) om ansiktsigenkänning och att företaget motsätter sig användning av teknik, inklusive ansiktsigenkänningsteknologi för ”massövervakning, rasprofilering, kränkningar av grundläggande mänskliga rättigheter och friheter”. Business Insider har talat med Eva Blum-Dumontet, en forskare som specialiserat sig på IBM och hon menar att formuleringarna som företaget använder ger visst utrymme för att sälja ansiktsigenkänning i framtiden.

– Vi måste se vad det betyder i praktiken. Det är värt att komma ihåg att mycket av det arbete som IBM gör faktiskt skräddarsys för sina kunder, så det är möjligt att vi inte ser slutet på att IBM gör ansiktsigenkänning, de ändrar kanske bara etiketten, säger hon.

I onsdags följde Amazon efter IBM och beslutade att avbryta försäljningen av sin mjukvara för ansiktsigenkänning till polisen under ett år. ”Vi förespråkar att regeringar bör införa starkare förordningar för att hantera den etiska dimensionen av ansiktsigenkänningsteknologi och under de senaste dagarna verkar kongressen redo att ta sig an denna utmaning. Vi hoppas att detta ettåriga avbrott kan ge kongressen tillräckligt med tid för att implementera lämpliga regler”, skriver företaget.

Dagen efter deklarerade Microsoft att företaget inte säljer teknik för ansiktsigenkänning till den amerikanska polisen och har åtagit sig att inte sälja det förrän en nationell lag som reglerar dess användning har införts.

– Vi måste verkligen utnyttja detta ögonblick för att få igenom en stark nationell lag för att hantera ansiktsigenkänning som grundas i skyddet av de mänskliga rättigheterna, säger Microsofts styrelseordförande Brad Smith.