Nederlandse techbedrijven omarmen AI, maar onderschatten risico's
Nederlandse technologiebedrijven lopen voorop in de toepassing van generatieve AI, maar blijven achter in het beheersen van de risico's die daarmee samenhangen. Dat blijkt uit onderzoek onder beslissers in de Nederlandse techsector van Hiscox Nederland, verzekeraar in de techsector.
Volgens het onderzoek maakt 61 procent van de Nederlandse techbedrijven gebruik van generatieve AI, vaak in combinatie met big data (58 procent). AI wordt zowel intern toegepast voor productiviteit (74 procent), als extern voor productontwikkeling (73 procent).
Tegelijk beschouwt slechts 8 procent AI als een direct bedrijfsrisico, ondanks zorgen over datalekken, transparantie en naleving van wetgeving, aldus Hiscox. Meer dan de helft van de bedrijven vreest datalekken (51 procent) of gebrek aan transparantie (53 procent) bij AI-toepassingen, terwijl 52 procent zorgen heeft over naleving van wetgeving.
Veel bedrijven ontwikkelen AI-toepassingen intern (24 procent) en missen daarbij externe toetsing door onderzoeksinstellingen. Dit vergroot de kans op bias, juridische complicaties en onvoldoende naleving van regelgeving zoals de AI Act en GDPR.
Externe zekerheid
Cyberaanvallen worden door 52 procent van de ondervraagde bedrijven genoemd als het grootste risico, ver boven IT-storingen (13 procent) en projectfalen (12 procent). Bijna een op de vijf bedrijven rapporteerde de afgelopen drie jaar een cyberincident.
Toch richten maatregelen zich vooral op interne oplossingen zoals software-upgrades (60 procent) en controles (49 procent). Slechts een beperkt deel kiest voor externe zekerheid via verzekeringsoplossingen, aldus de verzekeraar.
Volgens Yasin Chalabi van Hiscox Nederland kunnen de juridische en financiële gevolgen van een cyberincident of AI-fout groot zijn. “Een integrale aanpak, met zowel interne risicobeheersing als externe dekking, is essentieel.”
Nieuwe EU-regels grotendeels onbekend
Opvallend is dat 47 procent van de bedrijven niet bekend is met de nieuwe EU-richtlijn productaansprakelijkheid, die ook geldt voor software, AI-modellen en digitale diensten.
Deze herziening vergroot de kans op schadeclaims en legt meer verantwoordelijkheid bij producenten en distributeurs. Slechts 20 procent van de ondervraagden zegt hier enige kennis van te hebben.
Gerelateerd
Deloitte-onderzoek: AI versnelt werk, maar organisaties worstelen met rendement
Organisaties zetten kunstmatige intelligentie steeds breder in, maar slagen er nog niet altijd in daar optimaal rendement uit te halen. Vooral de inrichting van...
Pheijffer: meer transparantie nodig over miljardeninvesteringen in AI
Techbedrijven investeren miljarden in AI, maar hun financiële verslaggeving maakt lang niet altijd duidelijk welke risico’s daarmee gepaard gaan. Hoogleraar Marcel...
Het onzichtbare AI-risico
Het risico op misplaatst vertrouwen in AI is reëel, weet Joris Joppe. Maar het is net zo belangrijk om te kijken naar de organisatie achter de software die wordt...
DNB: impact van AI op accountants is groot
Een aanzienlijk deel van de Nederlandse beroepsbevolking heeft een beroep waarin de opmars van AI voor grote verandering kan zorgen. Dat geldt ook voor accountants....
AP waarschuwt voor risico's bij inzet AI door incassobureaus
De Autoriteit Persoonsgegevens (AP) ziet mogelijke risico's bij de inzet van kunstmatige intelligentie door incassobureaus, omdat die steeds vaker algoritmes en...
