AI is een systeemtechnologie die grote impact heeft op alle domeinen en sectoren van onze samenleving, en zal alle beleidsterreinen van de overheid raken.5 Generatieve AI is een specifieke vorm van AI. Het helpt mensen bij het genereren van tekst, computercode, beeld en audio en is nu al een krachtig verlengstuk van het analytisch en scheppend vermogen van mensen gebleken. Zeker sinds de lancering van chatbot ChatGPT eind 2022, en de introductie van andere generatieve AI-tools zoals Google Bard, Midjourney en DALL-E, is het gebruik van AI onderdeel gaan uitmaken van het dagelijks leven van veel mensen in Nederland. In combinatie met aanverwante technologieën biedt generatieve AI veelbelovende mogelijkheden voor de aanpak van maatschappelijke en wetenschappelijke vraagstukken. Zo kan het bijdragen aan het adequaat en efficiënt stellen van medische diagnoses, het verbeteren van de zorg en het bijdragen aan geneeskundig onderzoek. Economen voorspellen een groei van productiviteit, niet alleen voor grote bedrijven, maar ook voor het midden- en kleinbedrijf (mkb), omdat toepassingen taken zoals het uitvoeren van financiële analyses en juridische processen op kostenefficiënte wijze beschikbaar gemaakt worden. In de culturele sector wordt generatieve AI ingezet ter ondersteuning van het creatieve proces, onder andere bij het maken van marketingcontent of bij het genereren van beschrijvingen van kunstwerken. Tegelijkertijd zijn er grote risico’s, en kan de verwezenlijking van publieke waarden en grondrechten zoals transparantie, privacy, autonomie en nondiscriminatie onder druk komen te staan door onverantwoorde ontwikkeling en het gebruik of misbruik van generatieve AI. Generatieve AI kan bijvoorbeeld worden ingezet voor de creatie en verspreiding van desinformatie; het kan discriminatoire dynamieken versterken en het kan sociaaleconomische ongelijkheden versterken. Het gebruik van generieke AI kan ook systemische risico’s tot gevolg hebben als verstoring van vitale processen. De ontwikkelingen in generatieve AI gaan onverminderd hard door. Grote mogendheden en techbedrijven onderkennen de potentie van dergelijke geavanceerde AI-systemen en investeren aanzienlijke bedragen in de verdere ontwikkeling ervan. Impact en onderliggende vraagstukken Generatieve AI zal (grote) impact hebben op economie, maatschappij en op zowel centrale overheden als decentrale overheden. Het is belangrijk daarbij op te merken dat de toepassingsmogelijkheden van generatieve AI niet altijd op voorhand als kans of risico te bestempelen zijn. Of het zich uiteindelijk als kans of als risico manifesteert, hangt af van de specifieke ontwikkeling, de toepassing van de technologie en de intenties dan wel expertise van de gebruiker. Dit benadrukt het belang van adequate regie op ontwikkeling en gebruik van generatieve AI vanuit de overheid. i. Kansen en mogelijkheden Generatieve AI biedt diverse mogelijkheden om processen te optimaliseren en gebruikers te ondersteunen bij een breed scala aan taken. Het kan bijdragen aan het verbeteren van efficiëntie, kostenbesparing, betere besluitvorming, betere dienstverlening en tal van innovatieve oplossingen. De brede inzetbaarheid biedt kansen voor burgers, bedrijven, de overheid en de samenleving als geheel. Gezien de algehele potentie van de technologie voor de samenleving en de economie, zet het kabinet in op het stimuleren van verantwoord experimenteren en verantwoord gebruik van generatieve AI-modellen en systemen in verschillende sectoren en domeinen. Generatieve AI kan leiden tot productiviteitsgroei. Ook zullen naar verwachting nieuwe taken en verantwoordelijkheden binnen organisaties en in de economie als geheel ontstaan als gevolg van de inzet van generatieve AI. Dit kan leiden tot nieuwe werkgelegenheid en daarmee het ontstaan van nieuwe beroepsgroepen, wat een voortdurende ontwikkeling van vaardigheden en expertise in de samenleving vergt. Bovendien zal de taakinhoud van veel werk veranderen. Daar ligt een kans om werk te verbeteren door repetitieve taken te automatiseren en meer ruimte te maken voor bijvoorbeeld sociale interactie of creatief denkwerk. In verschillende industriële processen kan generatieve AI bijvoorbeeld snel een groot aantal ontwerpalternatieven produceren. Hierdoor kan onder andere in de maakindustrie het ontwerpproces mogelijk aanzienlijk versneld worden. De impact van (generatieve) AI op werk zal naar verwachting breed voelbaar zijn. Daarnaast kan de inzet van generatieve AI binnen organisaties bijdragen aan de verbetering van interne organisatorische procedures en dienstverlening. Mits met inachtneming van juridische en ethische overwegingen, kan de inzet ervan ten goede komen aan heldere en inclusieve communicatie met gebruikers, verhoogde efficiëntie in juridische en administratieve procedures, en verbeterde besluitvorming op basis van datagedreven beleidsvorming en -evaluatie. Ook de overheid kan van deze inzet van generatieve AI profiteren en zo haar dienstverlening proactief maken en optimaliseren. Pagina 4 van 15 Kenmerk 2024-0000026119 In het kader van leren en ontwikkelen kan generatieve AI bijvoorbeeld ondersteuning bieden bij het analyseren van (een grote hoeveelheid) documenten, het uitleggen van complexe concepten en het genereren van oefenmateriaal. Dit draagt bij aan een meer gepersonaliseerde benadering van leren en biedt gebruikers de mogelijkheid om hun kennis op diverse terreinen uit te breiden. Ook binnen de context van wetenschappelijk onderzoek kan generatieve AI bijdragen aan het bedenken, verbeteren en versnellen van onderzoeksmethodes, bijvoorbeeld in het ontdekken of verfijnen van nieuwe concepten voor medicijnontwikkeling. De impact van generatieve AI is niet beperkt tot specifieke vakgebieden en heeft de potentie om een breed scala aan wetenschappelijke disciplines te ondersteunen. Generatieve AI kan daarmee als probleemoplosser bijdragen aan het oplossen van grote maatschappelijke problemen. Ondanks zorgen over het energiegebruik van (generatieve) AI-technologie, staat daartegenover potentiële bijdrage die (generatieve) AI kan leveren aan de duurzaamheidstransitie. Generatieve AI kan bijvoorbeeld worden ingezet voor de analyse van natuurlijke ecosystemen of het voorspellen van klimaattrends. Tot slot kan de inzet van generatieve AI worden ingezet om administratieve processen te ondersteunen en te versnellen, klantenservices te ondersteunen, computercode te schrijven en industriële processen te automatiseren. Dit geeft gebruikers meer ruimte voor inhoudelijke werkzaamheden en draagt op deze manier bij aan een verhoogde algehele kwaliteit van uitgevoerde taken. ii. Risico’s en uitdagingen Het gebruik van generatieve AI kan negatief van invloed zijn op publieke waarden zoals non-discriminatie, privacy en transparantie. Als het leidt tot aantasting van ons informatie-ecosysteem is het daarmee van invloed op de democratie en onze rechtsstaat. Voor een goed functionerende democratie zijn goed geïnformeerde burgers en een gemeenschappelijke visie op de realiteit belangrijke randvoorwaarden, evenals een brede steun voor democratische instituties. Een niet te onderschatten uitdaging bij generatieve AI vormt de eventuele vooringenomenheid en selectiviteit die als gevolg van de gebruikte trainingsdata en modelparameters in de systemen verankerd kan zijn. Dat zet gelijke behandeling en non-discriminatie onder druk. Ook groeit het risico op desinformatie doordat generatieve AI het creëren en verspreiden ervan vergemakkelijkt.6 Een voorbeeld hiervan is het eenvoudig kunnen produceren van deepfakes. Ook bestaan er zorgen over mogelijke schendingen van rechten op het gebied van privacy, gegevensbescherming en auteursrechten. 6 Autoriteit Persoonsgegevens (2023). Rapportage AI- & algoritmerisico’s Nederland (RAN) – najaar 2023. Pagina 5 van 15 Kenmerk 2024-0000026119 Wat werk betreft, zijn er zorgen over de impact van generatieve AI op werkgelegenheid, de kwaliteit van werk en inkomensverdeling. Zowel op de korte als lange termijn kan generatieve AI leiden tot werkloosheid. Hoewel er nieuwe taken en banen bijkomen en niet alleen maar banen verloren gaan, zullen deze niet altijd direct toegankelijk zijn voor werkenden die door automatisering hun baan verliezen. Hier ligt een opgave om mensen te ondersteunen met het blijven ontwikkelen van hun vaardigheden voor de arbeidsmarkt. Het samenspel tussen generatieve AI en arbeid beïnvloedt bovendien de kwaliteit van werk. Zoals gezegd kan AI werkinhoud verrijken. Maar er is ook een risico dat het taken doet verschralen, de autonomie van werkenden inperkt en de menselijkheid van werkrelaties onder druk zet.7 Daarbij kan generatieve AI impact hebben op de verdeling van inkomen en werkzekerheid op de langere termijn.8 Daarmee is generatieve AI een potentiële aanjager van polarisatie op de arbeidsmarkt en van toenemende inkomensongelijkheid. Hier ligt onder andere een opgave van digitale inclusie. Als alle mensen handvaten geboden wordt om nieuwe technologie te begrijpen en gebruiken, kunnen zij ook beter inspelen op de veranderingen die dat met zich meebrengt.9 Een andere uitdaging betreft machtsconcentratie. De opkomst van generatieve AI-technologie versterkt de al bestaande dynamiek in digitale markten, waarmee het risico op misbruik van marktmacht toeneemt. De meest gebruikte modellen en diensten in Nederland zijn afkomstig van een klein aantal techbedrijven, die beschikken over grote hoeveelheden data, computerkracht en ontwikkelcapaciteit. Deze bedrijven hebben hierdoor een voorsprong en kunnen generatieve AI integreren met hun (bestaande) diensten (ecosysteemvorming) of marktmacht overhevelen om hun positie te verstevigen. Ondanks dat de betreffende bedrijven onderling hevig concurreren, kan dit leiden tot verhoogde toetredingsdrempels, hetgeen potentieel belemmerend is voor een productieve marktwerking. Dit kan bijvoorbeeld leiden tot oneerlijke handelspraktijken, hogere prijzen voor toegang en gebruik van AI-toepassingen en AI-infrastructuur, en minder keuzemogelijkheden voor consumenten en innovatie. We zijn als Nederland op dit moment grotendeels afhankelijk van taalmodellen uit niet-Europese landen, zoals geschetst in de Agenda Digitale Open Strategische Autonomie.10 Dit kan een risico opleveren op het moment dat deze modellen niet stroken met onze Europese normen en waarden. De uitdaging is dan ook om een markt te creëren waarin generatieve AI-toepassingen worden aangeboden die aan alle Nederlandse en Europese waarden en wetten voldoen. Daarnaast zetten we volop in op de ontwikkeling en het gebruik van publieke en open alternatieve modellen die deze waarden en normen respecteren.