21 februari 2024

AI maakt het moeilijker om echte e-mails van oplichting te onderscheiden, waarschuwt Brits cybersecuritybureau

Het wordt steeds moeilijker om te bepalen of e-mails echt zijn of verzonden door oplichters en kwaadwillende actoren, waaronder berichten die computergebruikers vragen hun wachtwoorden te resetten, waarschuwt het Britse cybersecuritybureau. Het National Cyber Security Centre (NCSC) zei dat mensen moeite zouden hebben om phishing-berichten te identificeren – waarbij gebruikers worden misleid om wachtwoorden of persoonlijke gegevens over te dragen – vanwege de verfijning van AI-tools.

Generatieve AI, de term voor technologie die overtuigende tekst, spraak en afbeeldingen kan produceren vanuit eenvoudige handgetypte prompts, is algemeen beschikbaar voor het publiek via chatbots zoals ChatGPT en gratis te gebruiken versies die bekend staan als open source modellen. Het NCSC, onderdeel van het GCHQ-spionagebureau, zei in zijn laatste beoordeling van de impact van AI op de cyberdreigingen waarmee het VK wordt geconfronteerd, dat AI “bijna zeker” het volume van cyberaanvallen zou verhogen en hun impact in de komende twee jaar zou vergroten.

Het NCSC zei dat generatieve AI-tools al hebben geholpen om benaderingen van potentiële slachtoffers overtuigender te maken door het creëren van nep “lokaasdocumenten” die niet de vertaal-, spelling- of grammaticafouten bevatten die phishing-aanvallen vaak verraden – hun inhoud is vervaardigd of gecorrigeerd door chatbots. Het zei echter dat generatieve AI – die naar voren kwam als een bekwaam coderingstool – de effectiviteit van ransomware-code niet zou verbeteren, maar zou helpen bij het doorzoeken en identificeren van doelwitten.

Veelgestelde vragen

Wat is phishing?
Phishing is een vorm van internetfraude waarbij oplichters proberen om gevoelige informatie zoals wachtwoorden of creditcardnummers te verkrijgen door zich voor te doen als een betrouwbare entiteit in een elektronische communicatie.

Wat is generatieve AI?
Generatieve AI is een type kunstmatige intelligentie dat in staat is om overtuigende tekst, spraak en afbeeldingen te produceren vanuit eenvoudige handgetypte prompts. Het wordt vaak gebruikt in chatbots en andere interactieve toepassingen.

Wat is een lokaasdocument?
Een lokaasdocument is een nepdocument dat wordt gebruikt om potentiële slachtoffers te lokken. Het kan eruitzien als een legitiem document, maar het bevat vaak kwaadaardige code of links naar kwaadaardige websites.

Wat is ransomware?
Ransomware is een soort kwaadaardige software die een computer of netwerk infecteert en de gegevens erop versleutelt, waardoor de gebruiker geen toegang meer heeft tot zijn eigen gegevens. De aanvaller eist vervolgens losgeld in ruil voor de decryptiesleutel.