^DeAndereKrant

Het idee is dat ambtenaren daarbij ook “niet-openbare‚ gevoelige informatie” invoeren in het systeem‚ zei Weil. Dat kan volgens hem op een veilige manier‚ want het systeem draait binnen Microsoft’s Azure Government Cloud – een ‘streng afgeschermde omgeving die voldoet aan de hoogste beveiligingsnormen’‚ als je Microsoft mag geloven. ChatGPT Gov is nog niet officieel goedgekeurd door de autoriteiten‚ maar Weil verwacht dat de nieuwe regering van Trump het project van harte zal ondersteunen. Trump heeft aangekondigd zwaar in te willen zetten op AI. Meteen na zijn inauguratie op 21 januari presenteerde hij samen met OpenAI-baas Sam Altman en een andere Big Tech-miljardair‚ Larry Ellison van Oracle‚ het project Stargate‚ dat moet leiden tot 500 miljard dollar aan investeringen in AI in de VS. Daarnaast heeft hij Elon Musk aangesteld om de Amerikaanse overheid minder bureaucratisch en efficiënter te maken‚ deels met behulp van AI.

Veel waarnemers tonen zich bezorgd over de macht die de Amerikaanse overheid met ChatGPT Gov zal krijgen en het mogelijke misbruik daarvan. Felipe Milon‚ een collega van Weil‚ zei bij de lancering van ChatGPT Gov dat hij verwacht dat met name overheidsdepartementen die met gevoelige informatie werken‚ zoals defensie‚ justitie‚ politie en gezondheidszorg‚ baat zullen hebben bij het nieuwe instrument. Larry Ellison van Oracle deed op 15 januari tijdens een conferentie rond Stargate in Washington DC geruchtmakende uitspraken over hoe hij de toekomst van de wetshandhaving ziet. “De Amerikaanse politie zal zich voortaan op haar best moeten gedragen, omdat we alles opnemen, observeren en registreren. Burgers zullen zich voortaan op hun best moeten gedragen, omdat we alles opnemen, observeren en registreren”‚ zei hij onder meer. Volgens Ellison zullen politiediensten en burgers voortaan in real-time worden gevolgd via AI-gebaseerde data-analyse. “Politieauto’s worden uitgerust met AI-gestuurde camera’s die direct verdachte gedragingen registreren en automatisch meldingen sturen naar de bevoegde instanties. Bij een overval of inbraak kan een autonome drone direct worden ingezet en sneller ter plaatse zijn dan een politieauto. Hierdoor zijn gevaarlijke achtervolgingen overbodig. Amerika zal de veiligste staat ter wereld worden.”

Ondernemer Wilco Stollenga, medeoprichter van TurnNext ai, die zich al jaren verdiept in de impact van technologie op de samenleving, beschouwt de ontwikkelingen in Amerika met zorg. “Ellisons speech werpt een existentiële vraag op: hoe verhoudt ChatGPT Gov zich tot privacy en burgerrechten?” Volgens Stollinga laat Ellisons uitspraak zien hoe AI-systemen fundamentele vrijheden kunnen ondermijnen. “AI brengt talloze databronnen samen. Afzonderlijk lijken je interacties met ChatGPT of je Google-zoekopdrachten onschuldig, maar gecombineerd vormen ze een krachtig profiel. Over tien jaar kan iemand anders aan de macht komen, en dan ligt al die data er wél — klaar om gebruikt te worden.”

Volgens Stollinga is goede regulering nodig om de risico’s van AI te beperken. “Zonder heldere wetgeving worden burgers speelballen van een ongecontroleerd AI-regime. In Europa wordt vaak geklaagd over de strenge AI-regulering in de Europese AI Act, een wet die risico’s van AI beoordeelt en grenzen stelt aan misbruik, maar dit scenario onderstreept waarom juridische kaders onmisbaar zijn.”

In tegenstelling tot Europa, waar regels bestaan over het gebruik van AI voor surveillance, kunnen bedrijven als Oracle in de VS zonder substantiële beperkingen grootschalige AI-integraties doorvoeren‚ stelt Stollinga. Terwijl de VS AI zonder zware regelgeving in overheidsprocessen integreert, kiest Europa een voorzichtiger pad. De Europese AI Act classificeert AI-systemen op basis van risiconiveaus en stelt strenge grenzen aan toepassingen met een hoog maatschappelijk risico, waaronder AI-gestuurde surveillance.

Het probleem voor Europa is wel dat door de regulering de ontwikkeling van AI wordt afgeremd. Stollinga: “De ontwikkelingen op het gebied van AI gaan razendsnel en het is de vraag of we deze groei ethisch verantwoord kunnen bijbenen. Nederland loopt achter op de rest van Europa en Europa staat op achterstand ten opzichte van China en de VS. De vraag is of we nog een onafhankelijke strategie kunnen ontwikkelen in Europa of dat we gevangen blijven in de greep van Amerikaanse technologie en geopolitieke belangen.”

Stollinga staat niet alleen in zijn kritiek. Een andere AI-expert‚ Timnit Gebru‚ waarschuwt: “De Amerikaanse overheid omarmt ChatGPT Gov zonder zich bewust te zijn van de ethische implicaties. We missen fundamentele waarborgen over hoe deze systemen opereren. Hoe zit het bijvoorbeeld met het menselijk toezicht hierop? ChatGPT maakt nog altijd extreem veel fouten. En hoe zit het met burger- en privacyrechten?”

Privacy-expert en klokkenluider Edward Snowden twitterde direct na de toespraak van Ellison: “AI zoals ChatGPT Gov betekent dat de staat een ongekende surveillance-mogelijkheid krijgt. Dit is Orwelliaans.”

Raoul Rahimbaks, CEO van Atomeus Group en expert in digitale transformatie, vat het dilemma tegenover De Andere Krant als volgt samen: “Voor mij ontstaat een goede maatschappij niet door méér controle zoals Altman met ChatGPT Gov beoogt, maar door het versterken van normen, waarden en sociale omgang met elkaar. AI moet ons ondersteunen, niet overheersen.”

Rahimbaks waarschuwt: “Als ChatGPT Gov straks diep in het overheidsapparaat is door­gedrongen, is er geen weg meer terug. De vraag is niet alleen of dit leidt tot een effi­ciëntere staat, maar of we bereid zijn de controle over onze fundamentele vrijheden op te geven voor bureaucratische snelheid.”