ActualitéBenoit RaphaelLes ExpertsMedia

Journal d’un éleveur de robot – Épisode 5

Le DarkBot

Il est né la semaine dernière. Il me fait un peu peur. Il est gravement perturbé. Mais il fallait le faire. L’idée est née d’échanges avec la communauté des abonnés de Flint. 2 800 béta-testeurs qui, depuis le mois de février, co-construisent avec nous le projet Flint: des intelligences artificielles au service des humains. Que nous rendons chaque jour plus intelligentes pour que, en retour, nous l’espérons, elles nous rendent plus intelligents et mieux informés.

Rapidement, et très naturellement en fait, nous avons été confrontés au phénomène des fake news, mais aussi (et c’est souvent lié) au phénomène des articles haineux partagés sur les réseaux sociaux. Difficiles à éviter, parce qu’ils inondent le Web. On en parle beaucoup ces derniers temps, même si nous n’y sommes pas toujours confrontés parce que nous sommes protégés par cette bulle de filtre qui nous renvoie ce reflet de nous mêmes et de notre entourage. Ils ont pourtant légion. Dans d’autres bulles. Nous les connaissons mal. Et comme la mission des robots de Flint est de nous sortir de notre bulle, justement, ils ont commencé, très innocemment, à nous remonter des contenus extrémistes. Pas beaucoup. Mais suffisamment pour nous interroger.

robot

J’ai donc lancé le débat: que devions nous faire? Devions nous blacklister ces sites extrémistes pour ne pas perturber les abonnés? Mais dans ce cas, où placer la frontière? Quand on parle de fake news, de fausses informations donc, ou de contenus incitant à la haine raciale, on entre dans un univers extrêmement instable. C’est le problème avec la liberté, qui s’est déployée sur le Web à une vitesse vertigineuse et a fait de chacun de nous un média, avec le pouvoir d’apporter notre point de vue, sans aucun filtre. Une infinie richesse, mais aussi la porte ouverte à tous les extrêmes, à toutes les libertés prises avec la vérité, à toutes les manipulations. J’en ai parlé longuement ici.

J’écrivais:

Il y aura toujours des «fake news». La question n’est pas de savoir comment les arrêter. Mais de comprendre de quoi elles sont les symptômes. Accepter les symptômes, c’est déjà faire un pas vers la solution.

Quand j’ai partagé mes interrogations avec la communauté, les réactions des abonnés ont été évidemment multiples, mais une tendance a commencé à se démarquer: pas de censure, mais de l’intelligence. Comprendre plutôt qu’ignorer.

robot5Nous nous sommes alors posés la question: puisque nos robots avaient été conçus pour détecter des articles de qualité, pouvions-nous les faire fonctionner à l’envers et les plonger dans le côté obscur de l’info?

L’idée est donc née de créer le DarkBot. Un robot super méchant dont la mission serait de cartographier l’écosystème de l’info haineuse et des fake news, d’identifier les communautés qui les partageaient, et d’essayer de voir s’il y avait une forme de cohérence dans tout ça. Plutôt que d’empêcher le robot Flint de voir ces contenus, nous avons choisi de lui permettre de mieux comprendre leur mécanique.

On a longtemps hésité avant de le lancer, parce qu’on avait peur qu’il contamine tous les autres robots avec ses fausses infos, ses articles haineux, anti-musulmans ou antisémites, ses sources conspirationistes et ses apologies de la rumeur.. On a donc créé une sorte de barrière de protection pour pouvoir mener l’expérience tranquillement. On ne savait pas du tout ce qu’il allait devenir, mais il commençait à donner des résultats assez effrayants.

L’idée du DarkBot a tout de suite séduit la communauté. Certains m’ont même exprimé leur souhait de s’abonner à une édition de ce robot complètement barré, pour «mieux comprendre l’ennemi»!

DarkBot est donc né la semaine dernière. Pour l’instant il est encore tout bébé et super méchant. Mais il gravite en surface et n’est pas très intéressant. Je voulais qu’il explore plus en profondeur les réseaux de fake news et de sites haineux. Et pour ça, j’avais besoin d’aide.

J’en ai donc parlé à mon ami Jacques Rosselin, directeur de l’école de journalisme EFJ, qui a tout de suite été séduit. Vendredi dernier, j’ai rencontré les étudiants de deuxième année de l’EFJ pour leur demander ce qu’ils en pensaient. Ils ont dit ok à l’unanimité. Plus intéressant: quand je leur ai demandé s’ils avaient peur de l’intelligence artificielle, ils m’ont tous regardé bizarrement, en mode: «bah non»… et quand je leur ai demandé pourquoi, ils m’ont répondu que l’intelligence artificielle pouvait les aider à mieux faire leur métier de journaliste.

robot1 robot2

La «Dark Newsroom» de l'EFL au travail…

Dont acte. Etudiants humains et robots allaient travailler main dans la main pour tenter de mieux comprendre le phénomène des fake news et des pourvoyeurs de haine sur les réseaux

On a commencé par identifier des sources mais surtout les comptes Twitter qui relayaient ces contenus. Pour aider le robot à comprendre ce qu’on lui demandait. Ensuite, le robot nous fera des propositions et nous commencerons l’entraînement.

Humains et intelligence artificielle main dans la main pour explorer le monde obscur des dark news. Peur de l’intelligence artificielle? «Bah non…».

Pour nous aider dans ce chantier un peu monstrueux, j’ai demandé autour de moi. Adrien Sénecat, journalisme aux Décodeurs du Monde (à l’origine notamment du fameux Décodex), a très gentiment accepté de partager son listing de sites «pas fiables», «peu fiables» et «satiriques», qui est d’ailleurs en open-source. Listing que les étudiants vont contre-vérifier et enrichir pour établir une base de données de sites mais aussi de comptes Twitter extrêmes, qu’ils vont ensuite labéliser en fonction de leur orientation. On rendra bien évidemment ces résultats publics, quand nous aurons avancé dessus avec DarkBot. Peut-être même pourrez-vous vous abonnez à la newsletter de DarkBot pour qu’il vous envoie sa sélection d’articles horribles. On verra… pour l’instant, on va y aller doucement, c’est une modeste expérimentation.

robot3

Ça a été une après-midi étrange, cette plongée dans le côté obscur. Un peu perturbante aussi. Mais qui nous a révélé un univers très complexe et tentaculaire.

Nous avons conscience de créer une sorte de monstre, et je me sens un peu coupable de sacrifier un de nos robots pour la bonne cause. DarkBot, c’est un peu notre Rogue One à nous. Un Darth Vader qui se retournera bientôt contre l’empereur…

Rendez-vous dans quelques semaines. Je vous tiendrai au courant régulièrement de l’évolution de cette expérience collective et collaborative. Et de l’état mental des troupes, humains comme robots!

robot4

[tabs] [tab title= « L’expert »]

benoitraphaelBenoît Raphaël est expert en innovation digitale et média, blogueur et entrepreneur.

Il est à l'origine de nombreux médias à succès sur Internet: Le Post.fr (groupe Le Monde), Le Plus de l'Obs, Le Lab d'Europe 1.

Benoît est également cofondateur de Trendsboard et du média robot Flint.

[/tab] [/tabs]

Lire aussi :

Tags

Les Experts

Les Experts sont des contributeurs indépendants de FrenchWeb.fr.

Sur le même sujet

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Share This