Fr

TECH

Aurélie Jean: Staan algoritmes boven de wet?

Donderdag 23 Februari 2023

Aurélie Jean: Staan algoritmes boven de wet?

Aurélie Jean is doctor in de digitale wetenschappen en onderneemster. Als specialiste in algoritmen heeft zij twee boeken over dit onderwerp gepubliceerd, waarvan het laatste, ‘Les algorithmes font-ils la loi?', aansluit bij de recente toename van artificiële intelligentie. We stelden haar een paar vragen over het onderwerp.
 

Met ChatGPT maakte artificiële intelligentie onlangs een gedenkwaardige intrede in de maatschappij. Wat vind je van de opkomst van AI en dus van algoritmen?
 
Het gaat niet om een toename vanuit wetenschappelijk en technisch oogpunt, maar eerder vanuit het oogpunt van een gedemocratiseerd gebruik via een kwaliteitsinterface. Wat mij opviel, waren de buitenproportionele en soms agressieve reacties, met een soort allergische verwerping door sommigen.
 
Deze tool is een innovatie die kansen biedt, de toegang tot kennis door elkaar schudt en zelfs een structurele reorganisatie van kennis inhoudt, zoals de encyclopedie of Wikipedia dat eerder deden (zie ook mijn artikel dat onlangs verscheen in Le Figaro). De waarheidsgetrouwheid van de content en de manier waarop gebruikers die content zien, worden bedreigd. Het risico bestaat met name dat sommige mensen de antwoorden nooit in twijfel trekken of het gevoel hebben dat ze met een mens praten. Ik betreur het dat veel mensen aandacht hebben voor bedrog en plagiaat als ze over het gebruik van deze tool schrijven of erover praten, in plaats van te focussen op de ontdekking en het delen. We moeten nadenken over hoe we mensen gaan voorlichten over deze tool en in het bijzonder over de onderliggende wetenschap (algoritmische wetenschap, computerwetenschappen, wiskunde, taalkunde, mens-computer interface…), om aldus verwarring te vermijden.
 
De EU werkt aan de regulering van AI, maar kunnen we dit wel reguleren?
 
De Europese Unie was de eerste, en degene die het voortouw nam, om de bescherming van persoonsgegevens te reguleren. De Californische tekst is overigens geïnspireerd op de Europese tekst. We moeten de ontwikkeling, het testen en het gebruik van algoritmen reguleren door de betrokken spelers te verplichten een relevant en efficiënt algoritmisch beleid op te zetten.
 
Dit is het onderwerp van mijn boek ‘Do Algorithms Make the Law?’. Algoritmen in een wetgevend kader gieten (ik spreek bewust niet over het reguleren van algoritmen omdat deze niet volledig kunnen worden geëvalueerd) is veel ingewikkelder voor wetgevers dan wetgeving inzake persoonsgegevens, ten eerste omdat gegevens tastbaarder zijn en al veel langer deel uitmaken van ons dagelijks taalgebruik, ten tweede omdat Frankrijk en de Europese landen ervaring hebben met het reguleren van gegevens (zoals de ‘Loi informatique et libertés’ uit 1978), en ten derde omdat algoritmische wetenschap een wetenschap is die zich veel sneller ontwikkelt dan de data science. We moeten wetten maken die innovatie aanmoedigt en tegelijkertijd de fundamentele vrijheden beschermen.

Je bent aandeelhouder in Aive, een start-up gespecialiseerd in de automatisering van videoproductie. Wordt de creatieve sector (marketing/reclame) bedreigd door AI?
 
Integendeel! Deze technologieën zullen een bevrijding zijn voor de creativiteit. Een studie van Adobe stelt dat 40% van de dagelijkse taken van een creatief niets te maken hebben met zijn of haar creatieve werk. Dus moeten we tools en methoden ontwikkelen waarmee creatieven hun creatieve vaardigheden ten volle kunnen verkennen en benutten. We moeten ons focussen op de menselijke toegevoegde waarde, die alleen de mens met zijn emotionele en praktische intelligentie, zijn unieke ervaring en zijn persoonlijkheid kan leveren.
 
Ik ben er trots op dat ik vanaf de eerste investeringsronde in Aive heb geïnvesteerd. De visie en de ambities zijn evenredig aan de kwaliteit van de oprichters en de talenten die er werken.
 
Wat zijn de volgende ‘targets’ van AI?
 
Er is één vakgebied waar algoritmen de manier van werken ingrijpend zullen veranderen, en dat is de geneeskunde. Of het nu gaat om precisie-, voorspellende of gepersonaliseerde geneeskunde, we zullen diagnoses en behandelingen kunnen verbeteren door ze te personaliseren en tegelijkertijd de ziekte aan te pakken en ze te begrijpen. We hadden nooit vaccins tegen Covid kunnen ontwerpen zonder algoritmische modellen.
 
AI zorgt voor een paradigmashift, met kansen en bedreigingen, en het is aan ons om de weg te kiezen die zij inslaat. Daarom hebben diegenen die in de frontlinie staan - ingenieurs, wetenschappers, onderzoekers en ondernemers - de plicht om het aan anderen uit te leggen, en hebben politieke leiders de morele plicht om er zich grondig en werkelijk in te gaan interesseren.

‘Les algorithmes font-ils la loi?' is zopas verschenen bij Livre de Poche

Foto Aurélie Jean © Frederic Monceau

Archief / TECH