Artificiële intelligentie (AI) is nuttig gebleken in de strijd tegen COVID-19. Het is zinvol geweest bij het samenvoegen van onderzoek om potentiële onderzoeksgebieden te onderscheiden. De autoriteiten hebben het gebruikt voor contactopsporing en het is ook onderzocht als een diagnostisch hulpmiddel. Helaas speelt AI echter ook een rol in het belasten van de gezondheidszorg op een moment dat de sector alle hulp nodig heeft die hij kan krijgen.
In deze post kijken we hoe deepfakes extra druk kunnen leggen op overbelaste gezondheidsvoorzieningen.
Wat zijn deepfakes?
Deepfakes is een term die wordt gebruikt om de inhoud te beschrijven, meestal afbeeldingen en video's, die door AI is gewijzigd. De AI gebruikt een bestaand stukje inhoud als referentie. De software brengt verschillende functies en punten binnen de inhoud in kaart.
De persoon die de software gebruikt, creëert een nieuw stukje inhoud. De AI wijzigt vervolgens de nieuwe inhoud, zodat deze zo goed mogelijk aansluit bij de kenmerken van het originele stuk. Het doel is om de nieuwe inhoud over de oude heen te leggen, waarbij de verschillende punten met elkaar overeenkomen, zodat de nieuwe inhoud vrijwel naadloos lijkt.
We zien dat deze technologie meestal wordt gebruikt om een nieuw gezicht over oude beelden te leggen of om iemand iets te laten zeggen dat hij of zij eigenlijk nooit heeft gezegd.
Wat is de bedoeling?
De bedoeling is dat u deze techniek kunt gebruiken om overtuigende beelden te maken. De filmindustrie gebruikt deze technologie bijvoorbeeld om de achtergrond van bepaalde beelden in te vullen, of om het gezicht van een overleden acteur boven reeds gefilmde inhoud te plaatsen.
Deze technologie werd gebruikt, zij het relatief ineffectief, om een jonge prinses Leia te laten verschijnen in Star Wars: Rogue One. Hoewel de fans hier niet enthousiast over waren, toonde het aan dat deepfakes wel degelijk potentieel hebben op een filmset.
Waarom zou dit gevaarlijk kunnen zijn?
Meer zorgwekkend is echter het gebruik van deepfakes om nepnieuws te verspreiden. Deze clip van Barack Obama, geproduceerd door BuzzFeed en met in de hoofdrol Jordan Peele, benadrukt het potentiële gevaar. De video werd gemaakt om te laten zien hoe deepfake-technologie kan worden gebruikt om nepnieuws te verspreiden.
Als u de hele video heel aandachtig bekijkt, zult u merken dat er iets niet helemaal klopt. Maar als u alleen maar de gewijzigde clip ziet, zou u waarschijnlijk niet beseffen dat de clip niet echt is. Als u slechts een paar seconden van de beelden op uw telefoon afspeelt, lijken deze op het eerste gezicht behoorlijk overtuigend.
Daar ligt het gevaar. Valse video's zoals deze zijn al gebruikt om publieke figuren in diskrediet te brengen en om desinformatie te verspreiden.
Waarom zijn deepfakes gevaarlijk voor de gezondheidszorg?
In de eerste plaats is nepnieuws (ook fake news genoemd) op zich al gevaarlijk omdat het verkeerde informatie verspreidt. Nepvideo's waarin wordt beweerd dat alcohol, overmatige hitte of overmatige kou bijvoorbeeld het coronavirus doodt, zijn al schadelijk gebleken. Er is geen wetenschappelijk bewijs om deze beweringen te staven en toch zijn ze allemaal viraal gegaan.
Een ander gebied waar verkeerde informatie gevaarlijk kan zijn, is de manier waarop het de acties en reacties van mensen op door regelgevers ingestelde controlemaatregelen beïnvloedt. Toen anti-quarantaine-demonstranten de toegang tot ziekenhuizen blokkeerden en zorgpersoneel beletten van en naar hun werk te gaan, was dit gebaseerd op een legitieme beweging, niet op deepfakes. Maar het is niet moeilijk om te zien dat iemand de kracht van de technologie kan gebruiken om een herhaling van de chaos te creëren.
Wat is er erger dan nepnieuws voor de gezondheidszorg?
Wat misschien wel het meest schadelijk is voor de gezondheidszorg, is dat criminelen deepfakes gebruiken als clickbait voor sites die geïnfecteerd zijn met malware. Nepvideo's hebben de kracht om viraal te gaan, vooral wanneer iedereen bang is voor het virus.
Cybercriminelen gebruiken de kracht van deze technologie om meer slachtoffers te maken. De typische modus operandi is dat ze een miniatuur van de video met een link plaatsen. De miniatuur en de titel maken het slachtoffer erg nieuwsgierig naar de inhoud van de video, zodat ze erop doorklikken.
Zodra ze naar de site gaan, wordt hun computer blootgesteld aan malware zoals ransomware, keyloggers of spyware. Als ze geen adequate cyberbeveiliging hebben, wordt hun computer geïnfecteerd en worden ze geconfronteerd met de gevolgen.
Nu weten de meeste mensen beter dan door te klikken naar een onbekende site. Maar dat weerhoudt cybercriminelen er niet van om meer gerichte aanvallen uit te voeren.
Denk eens na over dit scenario. U ontvangt een bericht dat schijnbaar afkomstig is van een gerenommeerde organisatie, zoals de Wereldgezondheidsorganisatie, of van regelgevende instanties in uw land over contactopsporing voor COVID-19. Het bericht toont een miniatuurafbeelding van uw receptie, met een wazig beeld van iemand die op een van uw collega's lijkt. Zou u niet in de verleiding komen om de link te bekijken?
Slotopmerkingen
Cybercriminelen gebruiken verschillende tactieken om hun slachtoffers te laten doorklikken naar kwaadaardige links of om toegangsgegevens vrij te geven. Hoewel sommige hackers en ransomware-groepen tijdens deze crisis hebben verklaard de gezondheidszorg met rust te laten, profiteren anderen ten volle van de situatie.
Welk ziekenhuis kan het zich veroorloven om in deze periode zijn vitale systemen te laten blokkeren door ransomware? Hoeveel kunnen het risico lopen dat de namen van COVID-19-positieve patiënten uitlekken? Deepfakes zijn nog maar een ding dat de reeds overbelaste zorgsystemen meer onder druk zet.
Opmerking: Dit blogartikel werd geschreven door een externe medewerker om onze lezers een gevarieerder aanbod te geven. De standpunten uiteengezet in dit artikel van een externe medewerker zijn enkel die van de medewerker en komen niet noodzakelijk overeen met die van GlobalSign.
