Heeft de 'AI Act' invloed op jouw organisatie?
Met de nieuwe stroomversnelling waarin kunstmatige intelligentie (AI) is beland, opent zich een hele nieuwe wereld vol mogelijkheden. Zo ook voor de manier waarop we werken.
Rik Mulder van YNNO windt er geen doekjes om: “We staan aan de vooravond van een revolutie in hoe organisaties functioneren, gedreven door technologieën zoals automatisering en kunstmatige intelligentie.”
AI Act
De Europese telecomministers hebben in Brussel een akkoord bereikt over de zogenoemde kunstmatige intelligentie verordening (AI Act). Daarmee krijgen de mogelijkheden van deze technologie voor ontwikkelaars, ondernemers en consumenten in de EU én Nederland een extra impuls. Het gaat onder andere om basisafspraken over de werking van deze producten en de ondersteuning van gebruikers van deze AI-systemen, zoals mkb’ers.
De AI Act is vooral bedoeld is voor de ontwikkelaars van AI-applicaties. Maar als je tools laat bouwen of inrichten, dan geldt de act ook voor jou. De reikwijdte van de wet hangt er ook vanaf wat je met AI doet, ook al gebruik je standaardtools. De precieze regels en standaarden moeten allemaal nog worden uitgewerkt, maar logischerwijs vallen toepassingen in kritieke en risicovolle sectoren, zoals medische zorg en infrastructuur, eerder in de hoog-risico categorie.
Bias
De wet noemt specifiek het gebruik van AI in recruitment en personeelsmanagement als hoog-risico. Dit komt onder andere door 'bias', bias is een fenomeen waarbij een AI, omdat het getraind is op materiaal van mensen, een 'voorkeur' krijgt. In de ergste gevallen denk je hierbij aan politieke voorkeur, seksisme en racisme. Dat geeft ook direct de schaal van het probleem aan: de ingebakken vooroordelen zijn lastig te bepalen en eruit te filteren. Nog niet duidelijk is of AI-tools voor bijvoorbeeld customer experience management hierdoor ook als hoog-risico zullen worden aangemerkt.
Staatssecretaris Alexandra van Huffelen (Koninkrijksrelaties en Digitalisering): “Met dit akkoord zorgen we aan de ene kant voor innovatie voor de markt, maar beschermen we ook de fundamentele rechten van burgers. Burgers moeten altijd weten wanneer er kunstmatige intelligentie wordt ingezet. Ook moeten burgers altijd een klacht in kunnen als ze denken dat ze benadeeld worden door een AI-systeem. Vandaag zetten we een belangrijke stap.”
Lees alles over de AI Act hier.
