ChatGPT en de nieuwe AI veroorzaken opwindende en angstaanjagende problemen op het gebied van cybersecurity

Generatieve kunstmatige intelligentie transformeert cybersecurity en helpt zowel aanvallers als verdedigers. Cybercriminelen maken gebruik van AI om geavanceerde en nieuwe aanvallen op grote schaal uit te voeren. En verdedigers gebruiken dezelfde technologie om kritieke infrastructuur, overheidsorganisaties en bedrijfsnetwerken te beschermen, aldus Christopher Ahlberg, CEO van threat intelligence platform Recorded Future.

Generative AI heeft geholpen bij het innoveren en ontwikkelen van nieuwe aanvalstrategieën voor kwaadwillende actoren, waardoor ze één stap voorblijven op cybersecurityverdedigingen. AI helpt cybercriminelen bij het automatiseren van aanvallen, het scannen van aanvalsoppervlakken en het genereren van inhoud die resoneert met verschillende geografische regio's en demografieën, waardoor ze een breder scala aan potentiële slachtoffers in verschillende landen kunnen targeten. Cybercriminelen hebben deze technologie aangenomen om overtuigende phishing-e-mails te maken. AI-gegenereerde tekst helpt aanvallers bij het produceren van zeer gepersonaliseerde e-mails en tekstberichten die waarschijnlijker zijn om doelwitten te misleiden.

"Ik denk dat je niet erg creatief hoeft te zijn om te beseffen, man, dat dit daadwerkelijk kan helpen [cybercriminelen] auteurs te worden, en dat is een probleem," zei Ahlberg.

Verdedigers gebruiken AI om aanvallen af te weren. Organisaties gebruiken deze technologie om lekken te voorkomen en proactief netwerkzwakheden op te sporen. Het automatiseert ook taken dynamisch, zoals het instellen van alerts voor specifieke trefwoorden en het detecteren van gevoelige informatie online. Bedreigingsjagers gebruiken AI om ongebruikelijke patronen te identificeren en grote hoeveelheden gegevens samen te vatten, waarbij ze verbanden leggen tussen meerdere bronnen van informatie en verborgen patronen.

Het werk vereist nog steeds menselijke experts, maar Ahlberg zegt dat de generatieve AI-technologie die we zien in projecten zoals ChatGPT kan helpen.

"We willen de analysecyclus versnellen om ons te helpen analyseren op het snelheidsniveau van gedachten," zei hij. "Dat is een zeer moeilijke taak om te doen en ik denk dat we hier een doorbraak zien, wat behoorlijk spannend is."

Ahlberg besprak ook de mogelijke bedreigingen die zeer intelligente machines met zich mee kunnen brengen. Naarmate de wereld steeds digitaler en meer verbonden wordt, kan het vermogen om de realiteit te buigen en percepties te vormen worden misbruikt door kwaadwillende actoren. Deze bedreigingen beperken zich niet tot nationale staten, waardoor het landschap nog complexer en asymmetrischer wordt.

AI heeft het potentieel om te helpen beschermen tegen deze opkomende bedreigingen, maar het brengt ook zijn eigen set risico's met zich mee. Zo kunnen machines met hoge verwerkingscapaciteiten systemen sneller en effectiever hacken dan mensen. Om deze bedreigingen tegen te gaan, moeten we ervoor zorgen dat AI defensief wordt gebruikt en met een duidelijk begrip van wie er de controle heeft.

Naarmate AI meer geïntegreerd wordt in de samenleving, is het belangrijk dat wetgevers, rechters en andere besluitvormers de technologie en de implicaties ervan begrijpen. Het opbouwen van sterke samenwerkingen tussen technische experts en beleidsmakers is cruciaal bij het navigeren door de toekomst van AI in threat hunting en daarbuiten.

De mogelijkheden, uitdagingen en ethische overwegingen van AI in cybersecurity zijn complex en voortdurend in ontwikkeling. Het waarborgen van onpartijdige AI-modellen en het behouden van menselijke betrokkenheid bij de besluitvorming zal helpen bij het beheersen van ethische uitdagingen. Waakzaamheid, samenwerking en een duidelijk begrip van de technologie zullen van cruciaal belang zijn om de mogelijke langetermijnbedreigingen van zeer intelligente machines aan te pakken.

Ahlberg maakte zich ook zorgen over China, Rusland en economische tegenstanders die autonome machines inzetten. Deze landen zullen waarschijnlijk de ontwikkeling van AI niet vertragen of ethische overwegingen delen. Hoewel het hebben van de mogelijkheid om "de stekker uit te trekken" bij dergelijke machines een slimme veiligheidsmaatregel is, suggereert hij dat de integratie van technologie in de samenleving en de wereldeconomie het waarschijnlijk moeilijk zal maken om los te koppelen. Ahlberg benadrukt de noodzaak om producten en machines te ontwerpen met duidelijkheid over wie ze controleert.

"Het grote ding dat het internet deed in dit alles is dat het internet min of meer de plek werd waar alle informatie ter wereld naartoe migreerde," zei Ahlberg. "Deze grote taalmodellen doen behoorlijk magische dingen... om die denkcyclus te versnellen."

Hij voegde eraan toe: "In de komende 25 jaar wordt de wereld een afspiegeling van het internet."