Sora: een historische ontwikkeling, maar mét beveiligingsrisico’s

Javvad Malik 1200x675

De introductie van Sora door OpenAI markeert een mijlpaal in videobewerking. De revolutionaire technologie is opwindend, maar roept tegelijkertijd vragen op over de gevolgen van de rol van AI bij het maken van digitale content en cybersecurity.

 Het potentieel van Sora om videoclips van een minuut uit tekstinvoer te genereren is verbluffend. De toevoeging van dynamische elementen zoals reflectie, textures en physics introduceert een nieuwe dimensie van authenticiteit aan AI-gegenereerde content. Op de OpenAI-website staan verschillende voorbeelden, zoals een stijlvolle vrouw die door een neonverlichte straat in Tokio loopt en een oldtimer die over een onverharde weg scheurt. Op het eerste gezicht zien deze video’s er authentiek uit. Maar hoe nauwkeuriger we deze video's bekijken, hoe meer onvolkomenheden we ontdekken.  

Ethische vragen

Met de introductie van Sora wordt de grens tussen digitale creatie en realiteit steeds vager. Deze vervaging roept ethische vragen op. Met name over hoe AI-gegenereerde content kan worden gebruikt of misbruikt. Want hoewel de technologie een revolutie kan betekenen en tijd en middelen kan besparen, brengt het tegelijkertijd het risico van het verstrekken van verkeerde informatie met zich mee. Denk bijvoorbeeld aan gevoelige contexten zoals verkiezingen of het beïnvloeden van de publieke opinie. 

De imitatie van publieke figuren of het maken van fictieve, maar zeer echt lijkende gebeurtenissen kan ernstige gevolgen hebben als het kwaadwillig wordt ingezet. We hebben eerder al voorbeelden gezien van gewijzigde video’s die werden gebruikt om argwaan te wekken. Zo bleek een paar jaar geleden dat de Amerikaanse House Speaker Nancy Pelosi in een nepvideo vloekte, waardoor geruchten over haar gezondheidstoestand werden aangewakkerd.  

En hoewel OpenAI watermerken toevoegt om aan te tonen dat het om AI-generatie gaat, blijft de dreiging van manipulatie om deze indicator te verbergen bestaan. Sora zou videoproductie kunnen democratiseren, waardoor makers hun visies kunnen namaken zonder zich wat te hoeven aantrekken van de normale barrières van videocreatie. Dit onderstreept de dringende behoefte aan strikte ethische richtlijnen en degelijke cybersecurity-maatregelen om mogelijk misbruik tegen te gaan. 

AI-bewustzijn

Nu er steeds meer AI-tools komen, kunnen deze gemakkelijk worden gebruikt om aanvallen veel overtuigender te maken. De cybersecurity-industrie heeft een proactieve aanpak nodig om kaders op te stellen die ervoor zorgen dat AI wordt ontwikkeld met de juiste voorzorgsmaatregelen. Ook is het belangrijk dat mensen getraind worden in hoe AI-aanvallen eruit zien, hoe ze te herkennen zijn en hoe erop gereageerd moet worden. We moeten zorgen voor veilig online gedrag en een sterke security culture waarin mensen waakzaam zijn voor dit type dreigingen.

Javvad Malik, Lead Security Awareness Advocate bij KnowBe4

Meer over
Lees ook
Storage-virtualisatie: nieuw wapen in strijd tegen cybercriminelen

Storage-virtualisatie: nieuw wapen in strijd tegen cybercriminelen

Wanneer een DDoS-aanval op de organisatie plaatsvindt of cybercriminelen op een andere manier proberen de business-operatie van een bedrijf of overheidsorganisatie negatief te beïnvloeden, reageren veel IT-afdelingen door tal van security-tools in te zetten. Wie IT-beveiliging echter vooral vanuit oogpunt van business continuity bekijkt, komt al s1

ESET publiceert voorbeelden van scam-mails

ESET publiceert voorbeelden van scam-mails

Sommige scam-mails zijn bijna hilarisch amateuristisch. Maar andere pogingen zijn soms griezelig 'echt' en nauwelijks te onderscheiden van legitieme mails. Een mooi voorbeeld publiceert ESET op zijn website We Live Security: een mail van een Chinese firma die zich voordoet als een 'domain name registration supplier' die bedoeld is om te checken of1

Biometrie voor enterprise security: zinvol of onzinnig?

Nu steeds meer smartphones voorzien worden van biometrische sensoren, komt ook de vraag op wat dit soort security-maatregelen betekenen voor enterprise-organisaties? Richard Moulds, vice president Strategy bij Thales e-Security, vraagt zich in een artikel op Help Net Security af of biometrie voor zakelijk gebruik zinvol is. Of juist onzinnig? Een interessant punt dat Moulds aanstipt is de vraag of het aantal tokens bij gebruik van fingerprint scanners wel groot genoeg is. Bij gebruik van traditionele hardware tokens kunnen we putten uit een nagenoeg onbeperkt aantal tokens. Maar bij gebruik v1