‘Spraakherkenning is handig, maar niet zonder risico’

Steeds meer apps worden geleverd met spraakherkenning aan boord. Die trend is inmiddels ook zichtbaar bij enterprisesoftware. Praten tegen een ERP- of voorraadsysteem wordt straks heel gewoon. Dat levert echter forse risico's op, die zich niet zo gemakkelijk laten oplossen.

Hiervoor waarschuwt Erik Remmelzwaal, directeur bij DearBytes. Meer en meer aanbieders van enterprisesoftware voegen spraakherkenning toe aan hun applicaties. Denk aan banken die voice recognition toepassen bij de klantenservice. Klanten moeten onder meer hun rekeningnummer doorgeven aan een computer en aangeven waarvoor zij bellen. Of kijk naar pakketbedrijven die klanten via spraakherkenning helpen bij het volgen van hun zending. Deze manier van werken levert voor deze bedrijven een aanzienlijke productiviteitsverbetering op. Daar staat volgens Remmelzwaal echter tegenover dat deze ondernemingen door het gebruik van voice recognition met een aantal risico's te maken krijgt.

1. Onbekendheid over software

Vrijwel geen enkele leverancier van bedrijfsapplicaties ontwikkelt zelf een 'engine' voor spraakherkenning. In de regel wordt hiervoor opensourcesoftware gebruikt. Dit is een snelle en efficiënte manier van werken.

Daar zit echter ook een keerzijde aan, omdat gebruikers hiermee niet weten hoe de software precies in elkaar zit. Gaat het hier inderdaad enkel en alleen om software die spraak omzet in commando's en zoekopdrachten? Of vinden er ook andere verwerkingen plaats? En zo ja, welke zijn dit dan precies? En welke risico's leveren die extra functies op hun beurt weer op?

Zolang organisaties niet weten welke functies een bepaalde engine of software heeft, is het onmogelijk om te weten of het gebruik ervan veilig is. Zo kan het zijn dat cybercriminelen infiltreren in opensourceprojecten. Aangezien er vaak sprake is van slechte of incomplete documentatie, moeten bedrijven de complete broncode onderzoeken op afwijkingen. Daar hebben zij vaak geen tijd voor en ook geen kennis voor beschikbaar.

2. Governance- en compliancevraagstuk

Organisaties weten niet wat er precies met de data gebeurt die bij het gebruik van de engine voor spraakherkenning worden gegenereerd. Zo is vaak nog onduidelijk of data beschikbaar zijn voor het opensourceproject en of de leverancier van de enterprisesoftware inzage heeft in deze gegevens.

Het is dus cruciaal dat de gebruikersorganisatie zelf kan bepalen waar deze data worden opgeslagen. Zij moeten daarom weten wat de aanbieder heeft gedaan om te voorkomen dat deze informatie in handen valt van onbevoegden zoals cybercriminelen of concurrenten.

Door het gebruik van systemen voor spraakherkenning ontstaat dus al snel een governance- en complianceprobleem. Een organisatie die geen goede grip heeft op zijn data en processen kan al snel in problemen komen met toezichthouders. Met alle risico's van dien als het gaat om vergunningen en certificeringen.

Riskant

"Het simpelweg toevoegen van spraakherkenning aan enterprisesoftware is riskant", meent Remmelzwaal. "Het is van cruciaal belang dat de gebruikersorganisatie een zeer goed beeld heeft van de maatregelen die zijn softwareleverancier heeft genomen om te voorkomen dat data in verkeerde handen vallen."

"Maar ook in het kader van de Europese privacywetgeving (GDPR) en compliancevraagstukken moeten organisaties goed naar dit probleem kijken", vervolgt de directeur. "Gebeurt dit niet, dan is de kans groot dat de productiviteitswinst al heel snel volledig teniet wordt gedaan door problemen met klanten, partnerbedrijven en toezichthouders."