Het Amerikaanse Pentagon overweegt om Grok, de AI-chatbot van Elon Musk, te gebruiken voor militaire toepassingen. Maar volgens Cybernews-hoofdredacteur Jurgita Lapienytė is het grootste risico daarbij niet een opstandige robot—maar gewone mensen die zonder nadenken het advies van een fout zelfverzekerd algoritme volgen. Dat schrijft ze in een opiniestuk voor Cybernews.
Volgens Lapienytė zijn er meerdere problemen met de inzet van Grok. Zo is de veiligheid van het systeem discutabel: het moederbedrijf xAI beschikt over een relatief klein veiligheidsteam vergeleken met concurrenten, en elk AI-systeem dat aan militaire netwerken wordt gekoppeld, opent een nieuw aanvalsoppervlak. Hackers – van hobbyisten tot statelijke actoren – zouden hun vingers aflikken bij de kans Grok te misbruiken via hacks, ‘prompt injections’ of zwakke schakels in de leveringsketen.
Maar er is ook een sociaal risico. Wat als beleidsmakers Grok inzetten voor het analyseren van militaire informatie? Het klinkt efficiënt, maar de geschiedenis leert dat zelfs menselijke leiders niet altijd even zorgvuldig omgaan met gevoelige data – denk aan het moment waarop een medewerker van Trump per ongeluk oorlogsplannen appte naar een journalist. Als daar nu ook nog een praatgrage AI bij komt, is het kwaad snel geschied.
Grok is bovendien geen toonbeeld van betrouwbaarheid. De chatbot produceerde eerder al zelfverzekerde onzin, inclusief racistische uitlatingen en andere schimmige content. Volgens Lapienytė is het de vraag of een model dat zulke fouten maakt, geschikt is voor gebruik door het Amerikaanse ministerie van Defensie.
Het Pentagon zelf heeft nog niet inhoudelijk gereageerd op de zorgen. Waarom het nu precies kiest voor Grok en niet voor een AI-oplossing met meer veiligheidsreputatie, blijft onduidelijk. Musk’s chatbot staat vooral bekend om zijn brutale stijl en directe integratie met X (voorheen Twitter). Of dat een voordeel is bij nucleaire besluitvorming, valt te betwijfelen.
