Avinash Meetoo

This is my interview in Le Matinal of 24 May 2024. Interview by Sanjay BIJLOLL.

The next general election is fast approaching. With this in mind, Vendredi Le Matinal thought it would be useful to hear the views of Avinash Meetoo, a computer scientist and the director of Knowledge7. He explains the impact of technologies used by politicians, such as Artificial Intelligence and Deepfake, to rig elections with the complicity of professionals in the field.

What is your objective in creating ElectionsMauritius.com?

The election is fast approaching, and Mauritians will go to the polls to choose their members of Parliament.

For five years, these MPs will debate the laws of the country, and will be responsible for ensuring that they are in line with the wishes of the people. Their second mission will be to ensure that the constituencies that chose them develop, and that any problems identified are quickly resolved.

To achieve this, it is imperative that voters choose candidates who have the ability and skills to work in the collective interest.

To achieve this, it is imperative that the voters get to know the candidates. During the election campaign, there will be many rallies, private meetings, leaflets in our mailboxes and the electoral programs of the political parties.

We will also be able to do interviews in our newspapers and on the radio. Of course, and this is a part of our political folklore, we will have political broadcasts on MBC. In general, the candidates of the so-called “big” parties will be well known to the public.

Unfortunately, this will not necessarily be true for candidates from the “smaller” parties or independents. These people will find it difficult to make themselves known.

This is why, ten years ago, for the 2014 elections, my wife, Christina Chan-Meetoo, and I created the website ElectionsMauritius.com. Our aim was to provide useful information to Mauritian voters because we realized that it’s silly to go to the polls without knowing all the candidates and parties vying for our votes!

Our aim was to inform and educate voters so that they could cast an informed vote. As it is often difficult to obtain reliable and useful information about candidates and parties, we often discover the complete list of candidates on election day itself! On ElectionsMauritius.com, each candidate has his or her own page with detailed information. The site also allows you to use Google’s search engine to find, for each candidate, his or her web page, photos, and profile on social networks, if available… For 2024, ElectionsMauritius.com will get a facelift and will offer new features.

Do Artificial Intelligence and Deepfake pose a real threat to the next general election?

We have seen an explosion in Artificial Intelligence over the last few years, and this could have an impact on the next election in 2024. We are all more or less using technologies such as ChatGPT, which describes itself as a tool that can be used for a variety of natural language processing tasks, such as language translation, answering questions and summarizing text. It’s a safe bet that many will use ChatGPT to help them write posts on social networks.

But Artificial Intelligence can also be used to create Deepfakes. This is a multimedia synthesis technique that can be used, for example, to change a person’s face in a video or reproduce a person’s voice to make them say things they’ve never said before. Although this technique has allowed us to see dead artists again, it can also be the source of false information and malicious hoaxes.

This can be done using software readily available on the Internet, but there is a huge ethical problem. Although the technology allows any creative person to have fun for a while without harming anyone in the video, Deepfake has become particularly popular because it can be used to create extremely realistic fake porn videos with the faces of famous actresses and actors.

In an election, where the fundamental idea is that citizens should be able to choose the best candidates based on what they have actually said or done, a realistic Deepfake can have disastrous consequences. For example, getting a candidate to say he or she is in favour of an unpopular measure could cost them votes. Let’s not even try to imagine our candidates in fake porn videos!

Fortunately, creating these extremely realistic Deepfakes is difficult. It requires expertise that few people have. So, if Deepfakes are circulated during the Mauritian elections, we can hope that their level of amateurism will be easily spotted by voters. What’s more, we have an educated population in the Republic of Mauritius, and it will be difficult to fool us with Deepfakes if the people involved deny it. But it is also true that these Deepfakes, if they exist, can be a source of nuisance and distraction for voters.

The media has a watchdog role to play. In my opinion, before the media publishes an audio or video source that is not their own, it is essential that they verify the authenticity of that source. It is the basis of journalism. Maybe it is time for every newsroom to have a fact-checking mechanism to be absolutely sure of the veracity of every article published.

Do you think Deepfakes can be prevented?

A Deepfake tool is neutral. It can be used to resurrect a deceased singer or actor, or even a great politician. Why not? The danger is when the software is not used ethically. Make fake pornographic videos? No. Influence election results by lying? Absolutely not. One way to prevent attempts at Deepfakes in the run-up to the elections is to make it very clear to those who are tempted by this technology that Mauritius has an arsenal of laws on defamation, false allegations, or discrimination.

In my opinion, the Office of the Electoral Commissioner can include this element in the rules for the upcoming elections and share these rules with all parties, candidates, and political agents.

What is certain is that it is technically impossible to block these audio or video files. As a computer scientist, I can say that any attempt to do so will be futile and a waste of time and money. Since the problem is ethical, the solution must also be ethical and not technical. To a certain extent, I can imagine that some people will try and create Deepfakes. Maybe it will start with humorous videos and the general public will find amusing.

But very quickly, these videos will start to spread false information, and then it will be difficult to stop them from spreading, especially in private groups on social networks or on instant messaging software.

That’s why the authorities need to be vigilant. Any use of Deepfakes, whether humorous or not, with the specific intention of changing the course of an election, must be penalized without trying to favour one party or another.

Personally, I hope our citizens will reject Deepfakes en masse. Frankly, if we want a good laugh, all we have to do is watch the real videos of some of our politicians!

Tell us about ChatGPT for election programs…

Some people might be tempted to use Artificial Intelligence, particularly ChatGPT, to develop an electoral program. It’s so easy to go online, get a text from (say) another country, translate it using (say) Google Translate and then use ChatGPT to rewrite the text so that no one can tell where it came from.

This will produce a very nice electoral program that is completely out of touch with Mauritian reality. The leaders of the political parties must make it clear to those responsible for writing the programs that this document has a political scope over the next five years.

The best way to ensure this is to give the responsibility of writing the programmes to people who have experience in running a country and in policy making. That way, they will focus on substance rather than form.

Every measure announced in an electoral program must, in principle, be implemented during the next term of office. It is a contract between a people and the government they have chosen. Moreover, if our democracy is to function properly, independent people must be able to ensure that everything announced in an electoral program is implemented. This is also an important aspect of fact- checking.

What is your analysis of the upcoming general election?

Every time there is an election, some crafty people try to make the politicians believe that they have the magic bullet to win the election. This is done by organizing “bases” or late-night meetings, distributing leaflets to every home, the famous door-to- door campaign and, in recent years, using social networks to create a buzz.

The temptation to use any means necessary to create buzz is great. In the past, we’ve seen video montages with varying degrees of humour, attempts to use statistical analysis to create posts and targeted online advertising, and so on. This remains acceptable as long as it is not fake news.

On the other hand, using fake news to create Deepfakes with the intention of changing the election is unacceptable. In my opinion, our people must reject any attempt to do so, and the relevant authorities must enforce the law.

We can even envisage a unanimous agreement by all political parties not to use audio or video Deepfakes for the 2024 elections. After all, we are an enlightened people.

Voici mon interview paru dans Le Matinal du Vendredi 24 Mai 2024. Propos recueillis par Sanjay BIJLOLL.

Les prochaines élections générales s’approchent à grands pas. Dans cette optique, Vendredi Le Matinal a jugé utile de solliciter les impressions de l’informaticien, Avinash Meetoo, direteur de Knowledge 7. Il nous explique l’impact des technologies utilisées par des politiciens, à l’instar de l’ Intelligence Artificiel et de Deepfake pour truquer les élections avec la complicité des professionnels dans le domaine .

Quel est votre objectif d’avoir créé votre ElectionsMauritius.com ?

Les élections approchent à grands pas et les Mauriciens iront aux urnes pour choisir leurs députés au Parlement. Pendant cinq ans, ces députés auront à débattre des lois du pays et auront la responsabilité de s’assurer qu’elles soient conformes aux souhaits des citoyens. Ils auront aussi comme deuxième mission de s’assurer que les circonscriptions qui les ont choisis se développent et tout problème identifié soit rapidement résolu.

Pour cela, il est impératif que les électeurs choisissent les candidats qui possèdent la capacité et les compétences pour travailler dans l’intérêt collectif.

Pour cela il est impératif que les mandants connaissent les candidats. Pendant les élections, nous aurons plein de meetings, de réunions privées, des brochures à nos boîtes aux lettres ainsi que le programme électoral des partis politiques.

Nous aurons aussi la possibilité d’avoir des interviews dans nos journaux et des interventions à la radio. Naturellement, et cela forme partie de notre folklore politique, nous aurons les émissions politiques à la MBC . En général, les candidats des partis dits “grands” seront bien connus du public.

Malheureusement, cela ne sera pas forcément vrai pour les candidats des “petits” partis ou les indépendants. Ces personnes auront bien du mal à se faire connaître.

D’ailleurs, c’est pour cette raison que dix ans de cela, pour les élections de 2014, mon épouse, Christina Chan-Meetoo, et moi avions créé le site ElectionsMauritius. com. Notre objectif était de donner des informations utiles aux électeurs mauriciens parce que nous nous étions rendus compte que c’est idiot d’aller aux urnes sans connaître tous les candidats et partis qui se disputent nos votes !

Nous voulions informer et former les électeurs à voter en toute connaissance de cause. Comme il est souvent difficile d’obtenir des informations fiables et utiles sur les candidats et les partis, on découvre souvent la liste complète des candidats le jour même des élections ! Sur ElectionsMauritius.com, chaque candidat dispose de sa propre page avec des informations détaillées. Le site permet aussi d’utiliser le moteur de recherche de Google pour obtenir, pour chaque candidat, si disponible, sa page Web, ses photos et son profil sur les réseaux sociaux… Pour 2024, ElectionsMauritius. com va faire peau neuve et proposera de nouvelles fonctionnalités.

Est-ce que l’Intelligence Artificielle et le Deepfake représentent un danger réel pour la tenue des prochaines élections générales ?

Depuis quelques années, nous avons vu une explosion en terme d’Intelligence Artificielle et cela peut avoir un impact sur la tenue des prochaines élections de 2024. Nous sommes tous plus ou moins utilisateurs de technologies comme ChatGPT qui se décrit comme un outil qui peut être utilisé pour une variété de tâches de traitement du langage naturel, telles que la traduction linguistique, la réponse à des questions et le résumé de texte. Il y a fort à parier que beaucoup auront recours à ChatGPT pour les aider à créer des postes sur les réseaux sociaux.

Mais l’Intelligence Artificielle permet aussi la création de Deepfake. C’est une technique de synthèse multimédia qui peut servir, par exemple, à changer le visage d’une personne sur une vidéo ou reproduire la voix d’une personne pour la faire dire des choses qu ‘elle n’a jamais dites. Bien que cette technique nous ait permis de revoir des artistes disparus, elle peut aussi être utilisée pour créer des informations fausses et des canulars malveillants.

Pour ce faire, on peut utiliser des logiciels qui sont facilement accessibles sur Internet mais il y a un énorme problème en terme d’éthique. Bien que la technologie permette à n’importe quel créatif de s’amuser pendant un moment sans nuire à personne sur la vidéo, les Deepfake sont surtout devenus populaires parce qu’ils peuvent aider à générer de fausses vidéos pornographiques extrêmement réalistes avec des visages d’actrices et d’acteurs célèbres.

Dans le cadre d’une élection où l’idée fondamentale est que les citoyens puissent choisir les meilleurs candidats en fonction de ce qu’ils ou elles ont réellement dit ou fait, un Deepfake réaliste peut avoir des conséquences catastrophiques. Par exemple, faire dire à un candidat qu’il est en faveur d’une mesure impopulaire peut lui faire perdre des votes. N’essayons même pas d’imaginer nos candidats dans des fausses vidéos pornographiques !

Heureusement, il est difficile de créer ces Deepfake extrêmement réalistes. Cela nécessite une expertise que peu de personnes ont. Du coup, si des Deepfake circulent pendant les élections à Maurice, nous pouvons espérer que leur niveau d’amateurisme sera facilement perceptible par les électeurs. De plus, nous avons une population éduquée dans la République de Maurice et il sera difficile de nous berner avec des Deepfake si les personnes incriminées font un démenti. Mais il est aussi vrai que ces Deepfake, s’ils existent, peuvent être une source de nuisance et détourner l’attention des électeurs.

Les médias ont un rôle de chien de garde à remplir. À mon avis, avant de publier une source audio ou vidéo ne venant pas d’eux, il est essentiel que les médias s’assurent de l’authenticité de cette source. C’est la base du journalisme. Peut-être qu’il est temps d’avoir, au sein de chaque rédaction, un mécanisme de « fact-checking » pour être absolument sûr de la véracité de chaque élément publié.

Selon vous peut-on empêcher les Deepfake ?

Un outil de Deepfake est neutre. Il peut être utilisé pour faire renaître un chanteur ou un acteur décédé, ou même un grand politicien. Pourquoi pas ? Le danger est quand ce logiciel n’est pas utilisé de façon éthique. Fabriquer de fausses vidéos pornographiques ? Non. Influencer le résultat des élections en mentant ? Non, absolument pas. Une possibilité pour empêcher les tentatives de Deepfake à l’approche des élections est de faire vraiment comprendre à ceux et celles qui sont tentés par cette technologie qu’il y a un arsenal de lois à Maurice en matière de diffamation, d’allégations fausses ou de discrimination.

À mon avis, le bureau du Commissaire électoral peut inclure cet élément dans les règles sur les élections à venir et partager ces règles avec tous les partis, les candidats et les agents politiques.

Ce qui est sûr c’est que, techniquement, il est impossible de vouloir bloquer ces fichiers audios ou vidéos. En tant qu’informaticien, je peux affirmer qu’aller dans cette direction est futile et sera une perte de temps et d’argent. Comme le problème est d’ordre éthique, il faut que la solution soit aussi éthique et non technique.Dans une certaine mesure, je peux imaginer que certains auront envie d’essayer de créer des Deepfake. Peut-être que cela commencera avec des vidéos humoristiques et l’ensemble de la population trouvera cela amusant.

Mais très rapidement, ces vidéos commenceront à propager des informations fausses et, là, ce sera difficile d’empêcher leur diffusion, en particulier dans les groupes privés sur les réseaux sociaux ou sur les logiciels de messagerie instantanée.

C’est pour cela que les autorités doivent être vigilantes. Toute utilisation de Deepfake, humoristique ou non, avec une intention spécifique de changer le déroulement des élections, doit être pénalisée sans essayer de favoriser un parti ou un autre.

Personnellement, j’espère que nos citoyens rejetteront en masse les Deepfake. Sincèrement, si nous voulons rire un bon coup, il suffit de regarder les vraies vidéos de certains de nos politiciens !

Parlez-nous des ChatGPT pour les programmes électoraux…

Certains peuvent aussi être tentés par l’utilisation de l’Intelligence Artificielle, en particulier ChatGPT, dans l’élaboration d’un programme électoral. Il est tellement facile d’aller en ligne, obtenir un texte d’un autre pays (par exemple), le traduire en utilisant Google Translate (par exemple) et, ensuite, d’employer ChatGPT pour réécrire le texte afin que personne ne puisse savoir sa provenance.

Cela va produire un joli programme électoral en déphasage complet avec la réalité mauricienne. Les chefs des partis politiques doivent faire comprendre à ceux et à celles qui seront chargés d’écrire les programmes que ce document a une portée politique sur les cinq ans à venir.

La meilleure façon de s’en assurer est de donner cette responsabilité d’écriture à des personnes qui possèdent une expérience dans la gestion d’un pays et dans le « policy- making ». Ainsi, elles se focaliseront sur le fond et non sur la forme.

Chaque mesure annoncée dans un programme électoral doit, en principe, être implémentée pendant le mandat suivant. C’est un contrat qui lie un peuple et le gouvernement qu’il s’est choisi. D’ailleurs, pour le bon fonctionnement de notre démocratie, il faudra que des personnes indépendantes puissent veiller à ce que tout ce qui a été annoncé dans un programme électoral soit mis en œuvre. C’est aussi un aspect important du « fact-checking ».

Quelle est votre analyse sur la tenue des prochaines élections générales ?

À chaque élection, des petits malins essayent de faire croire aux politiciens qu’ils ont la solution miracle pour faire gagner le scrutin. Cela passe par l’organisation des « bases » ou des réunions nocturnes, la distribution des brochures dans chaque maison , le fameux porte-à-porte et, depuis quelques années, par l’utilisation des réseaux sociaux pour créer le buzz.

La tentation d’utiliser tous les moyens pour créer ce buzz est grande. Nous avons vu dans le passé des montages vidéo plus ou moins humoristiques, des tentatives d’analyses statistiques pour créer des postes et des publicités ciblées en ligne, etc. Cela reste acceptable s’il n’y a pas de « fake news » en jeu.

Par contre, utiliser des « fake news » pour créer des « Deepfake » avec l’intention de changer la donne des élections est intolérable. À mon avis, notre population doit rejeter toute tentative et les autorités concernées doivent appliquer les lois.

Nous pouvons même envisager un accord unanime de tous les partis politiques pour ne pas utiliser de « Deepfake » audio ou vidéo pour les élections de 2024. Nous sommes une population éclairée, après tout.