AI aan de telefoon moet voortaan direct zeggen dat het geen mens is
Wie vanaf vandaag wordt gebeld door een kunstmatige intelligentie, hoeft daar niet langer naar te gissen. Op grond van nieuwe Europese regels moeten AI-telefonisten en andere AI-systemen die rechtstreeks met mensen communiceren zich direct aan het begin van het gesprek bekendmaken. De nieuwe verplichting maakt deel uit van de Europese AI Act en is zondag in werking getreden.
De regels gelden voor bedrijven en organisaties die AI inzetten voor klantcontact, bijvoorbeeld via telefonische assistenten of chatbots. Zij moeten duidelijk maken dat de gebruiker met een AI-systeem communiceert en niet met een mens. Daarmee wil de Europese Unie voorkomen dat mensen onbewust met kunstmatige intelligentie in gesprek zijn. Dat is ook in Nederland vaak het geval, vooral bij oudere generaties.
De nieuwe regels gelden niet alleen voor bedrijven die AI telefonisch inzetten. Ook foto's, video's, geluidsfragmenten en andere met AI gecreëerde content moet in veel gevallen ook zo aangekondigd worden. Nieuwe AI-systemen moeten zich direct aan de regels houden, bestaande systemen krijgen een korte overgangsperiode om de technische kant te regelen.
Reden voor de strengere regels is het tegengaan van misleiding, fraude en fakebeelden. Wie zich niet aan de regels houdt, kan uiteindelijk hoge boetes tegemoet zien.
De transparantieregels zijn onderdeel van de AI Act, de Europese wet waarmee Brussel kunstmatige intelligentie wil reguleren. De wet legt ontwikkelaars en gebruikers van AI stapsgewijs nieuwe verplichtingen op, afhankelijk van het risico dat een AI-toepassing met zich meebrengt.
