Door vooraf een strikvraag te bedenken kunnen mensen zich bewapenen tegen AI-fraude

31-05-2023 10:00 | 4 maanden geleden Binnenland
Peter de Kock

Dit is een expertquote via ANP Expert Support
Pandora Intelligence
Aanleiding: Marion werd opgelicht met stem van zoon: 'Hij liep net op tijd de woonkamer binnen' | RTL Nieuws

Mensen die vrezen dat ze het slachtoffer worden van oplichting met behulp van moderne technologie als deepfakes of ChatGPT, kunnen hier simpele voorzorgsmaatregelen tegen nemen. De politie waarschuwde vorige week voor het eerst over oplichting waarbij de stem van een familielid elektronisch wordt nagebootst door middel van deepfake-techniek.

Omdat fraudeurs vaak werken met een script dat op vooraf ingestelde aannames berust, is voor het doelwit relatief eenvoudig de oplichtingspoging te ontregelen. Dat kan door het verhaal dat de oplichter heeft uitgestippeld, in de war te schoppen.

Je moet het scenario dat de dader heeft uitgedacht, naar jouw hand zetten. Dat kan heel makkelijk door over iets totaal anders te beginnen. Bijvoorbeeld: vraag naar het gebroken pootje van de kat, of begin over die ene tweedehands Peugeot. Als het maar totaal niet in het verhaal past. Omdat je daar in het heetst van de strijd niet altijd aan denkt, kun je dit soort vragen vooraf al verzinnen. Die schrijf je desnoods in een notitie waar je makkelijk bij kunt.

Zeker als een crimineel gebruik maakt van Large Language Models, de techniek achter ChatGPT, dan zal de computer zich geen raad weten met de wedervraag. Bij de vrouw die in RTL Nieuws vertelde over de poging om met vervalste stem van haar zoon geld afhandig te maken, viel de oplichter ook door zo'n onverwachte plotwending door de mand.

Dit is een expertquote van een deelnemer van de dienst ANP Expert Support. De ANP-redactie is niet verantwoordelijk voor deze quote. Zie anp.nl/experts
Pandora Intelligence
plaats:
Leusden
website:
https://www.pandoraintelligence.com/nl/

Andere quotes van deze organisatie

Aanklacht tegen makers van ChatGPT leidt af van de werkelijke vraag

Onlangs klaagden Amerikaanse schrijvers de makers van ChatGPT aan. Ze beweren dat ChatGPT, een geavanceerd taalmodel dat mensachtige tekst kan genereren, inbreuk maakt op hun auteursrecht door content te produceren die lijkt op hun eigen werk. Maar dat is niet wat deze rechtszaak interessant maakt. Het echte onderwerp is de vraag wat kunstmatige en menselijke intelligentie van elkaar onderscheidt.

Schrijvers brengen een boodschap over die vaak complex van aard is en de lezer iets vertelt over de wereld. Dat vereist creativiteit en de kunst om nuance, emotie en betekenis over te brengen in taal. In het Latijns schrift gebeurt dat via 26 letters, een handvol leestekens, spaties en witregels. Met deze beperkte set aan ingrediënten, weten goede schrijvers hun lezers te enthousiasmeren, te verbazen en te ontroeren. 

ChatGPT werkt heel anders. Het is verstoken van intentie, emotie of bewustzijn en zoekt naar patronen in de letters, leestekens, spaties en witregels, en naar de context waarin een tekst voorkomt. Op basis van de patronen die het vindt, kan het de ‘stijl’ van een schrijver ontdekken en kan het zinnen en paragrafen genereren die op menselijke teksten lijken. Maar het ontbreekt ChatGPT aan een diepgaand begrip van de wereld en aan werkelijke creativiteit. 

Kunst is altijd gericht geweest op het uitdagen van bestaande normen. De combinatie van kunst en technologie leidt tot nieuwe manieren om maatschappelijke vraagstukken te verkennen. Het nieuws dat Amerikaanse schrijvers ChatGPT aanklagen zou niet moeten gaan over eigenaarschap, het zou moeten gaan over de relatie tussen menselijke en kunstmatige intelligentie, over diepgaande reflecties over wat het betekent om creatief te zijn en de waarde daarvan in onze samenleving.

2 weken geleden

Nederlandse overheid staat buitenspel door Amerikaanse dataverzamelaars

Sinds vorige week is Google Bard ook in Nederland beschikbaar, een chatbot die met kunstmatige intelligentie vragen beantwoordt. Daarmee zal de Amerikaanse techreus opnieuw veel data van Nederlanders gaan verzamelen. Meer dan overheden doen.

Commerciële Amerikaanse bedrijven als Google, Meta en WhatsApp hebben inmiddels al meer informatie in handen over ons dan de Nederlandse overheid zelf.  Zo kunnen ze met behulp van de verzamelde data infectieziektes beter voorspellen dan het RIVM. Ze kunnen verstoringen van de openbare orde sneller signaleren dan de lokale overheid, het openbaar vervoer efficiënter laten functioneren dan de NS, of criminaliteit effectiever opsporen dan onze politie.

Dat is indrukwekkend, maar ook zorgwekkend. Het risico bestaat dat de overheid hierdoor buitenspel wordt gezet, en daarmee de democratie .

Regulering door de overheid lijkt een logische oplossing om deze kwestie aan te pakken. Maar de razendsnelle ontwikkeling van 'data science' staat in schril contrast met de traagheid waarmee wetten tot stand komen.

Nederlandse politici én gewone burgers die gebruikmaken van Google, Meta en andere bedrijven, moeten zich bewust worden van deze kloof. We moeten nadenken over hoe we onze samenleving willen vormgeven in een tijdperk waarin het concept privacy zoals we dat nu kennen niet meer bestaat.

Daarbij moeten we een balans vinden tussen het waarborgen van privacy en het omarmen van de voordelen die kunstmatige intelligentie en data-analyse bieden. Democratische waarden als veiligheid, vrije wil en het recht om fouten te maken mogen niet verloren gaan in deze ontwikkeling.

2 maanden geleden

Kunstmatige intelligentie verandert het onderwijs

Universiteiten en scholen breken zich het hoofd over de vraag welke rol kustmatige intelligentie heeft in het onderwijs. Maar minstens zo belangrijk is de omkering van deze vraag: Welke rol heeft onderwijs in een wereld waarin kustmatige intelligentie steeds belangrijker wordt?

Tot voor kort gold dat een blik in de afgelopen vijftien jaar, een behoorlijk goed beeld opleverde van de nabije toekomst. Traditioneel onderwijs is op dit gegeven gebaseerd. Docenten hadden een goed beeld van de toekomst en wisten waar jonge mensen voor opgeleid konden worden. Nu onze samenleving onder de invloed van technologie in snel tempo verandert, weet niemand meer hoe de wereld er over vijftien jaar uitziet. Laat staan dat we weten hoe we studenten op leiden voor beroepen die nog niet bestaan.

Het onderwijs van de toekomst moet zich niet alleen richten op het reproduceren en het toetsen van kennis. Het moet gaan over de vraag hoe we jonge mensen leren wendbaar te zijn en om te gaan met onzekerheid. Over kritisch denkvermogen en over hoe mogelijkheden van nieuwe technologieën kunnen worden afgewogen tegen de gevaren en bezwaren ervan. 

Docenten hebben hierin een belangrijke taak. Hun rol verandert van kennisverstrekker naar iemand die studenten helpt met het opdoen van kennis. Docenten van de toekomst stimuleren studenten om initiatief te nemen, om samen te werken en om ervaringen op te doen. Ze leren hen om gaan met verandering, frustratie en mislukking. Dat zijn vaardigheden waar jonge mensen in de toekomst profijt van zullen hebben.

4 maanden geleden

Komst van ChatGPT helpt studenten nieuwsgierig te maken naar nieuwe ontwikkelingen

Het einde van het schooljaar is in zicht en dat is voor veel studenten een drukke tijd. Opdrachten moeten worden afgerond en werkstukken moeten worden ingeleverd. Dit jaar kunnen studenten voor het eerst gebruik maken van ChatGPT, een kunstmatige intelligentietoepassing, die hen een deel van het werk uit handen kan nemen. Het schrijft essays, maakt wiskundesommen en ontwerpt computercode.

Universiteiten en scholen buigen zich over de vraag in hoeverre het gebruik van kunstmatige intelligentie verboden moet worden. Het verbieden ervan ontneemt studenten een belangrijke kans om zich voor te bereiden op de toekomst. Nu onze samenleving in snel tempo verandert onder de invloed van technologie, weet niemand meer hoe die toekomst er over vijftien jaar uitziet. De vraag die dan ook gesteld moet worden is hoe we jonge mensen opleiden voor beroepen waar we het bestaan nu nog niet eens van kennen.

Onderwijs moet zich daarom niet alleen richten op het reproduceren en toetsen van kennis, het moet gaan over hoe we jonge mensen nieuwsgierig maken naar de wereld en naar nieuwe ontwikkelingen. Over hoe we hen helpen de kansen en mogelijkheden van nieuwe technologieën af te wegen tegen gevaren en bezwaren ervan. De komst van ChatGPT biedt een uitgelezen kans om dat te doen.

4 maanden geleden