Qu'écoutez-vous en ce moment ?

(...) le code informatique qui broie des vies humaines, qui envoie en prison, ce n’est pas de la science-fiction, on y est là, aujourd’hui, depuis vingt ans même au Royaume-Uni avec le scandale du logiciel Horizon.

Frédéric Couchet : Peux-tu entrer les détails de cette affaire ?

Vincent Calame : En ce qui me concerne, je l’ai découverte tout récemment via un article du Magazine M du Monde daté du 19 mars, malheureusement l’article est réservé aux abonnés, mais j’ai mis d’autres références publiques sur le site. De quoi s’agit-il ? Dans les années 1990, la Poste britannique met en chantier l’informatisation de son système de comptabilité. Le logiciel, appelé Horizon, est développé par l’entreprise Fujitsu. Il faut savoir que de nombreuses agences postales sont en fait gérées comme des franchises avec des gérants qui sont des indépendants, parfois en gérant en parallèle un autre commerce ; ils sont appelés subpostmasters. Le système est déployé massivement en 1999 et, très vite, des erreurs apparaissent. Jusqu’ici rien de plus classique, les bogues font partie de la vie d’un logiciel. Le problème, c’est la réaction de la direction de la Poste britannique. Comme le logiciel fait apparaître des différences entre recettes et ventes dans de nombreuses agences, la Poste britannique accuse leurs gérants de détournement de fonds. Le Monde cite le témoignage d’une personne incarcérée à l’âge de 19 ans, en 2002 : « J’ai été accusée d’avoir volé 11 503 livres par le Post Office. Depuis le premier jour où les erreurs comptables sont apparues j’étais coupable à leurs yeux, ils me demandaient juste à quoi avait servi l’argent, j’ai été condamnée à six mois de prison ». À aucun moment le logiciel n’a été mis en cause ! Il y avait une foi aveugle dans les données qu’il retournait et aucun moyen de les contester : pas de trace papier et, bien sûr, pas de code source ouvert pour aller vérifier de quoi il retournait.

Frédéric Couchet : Tu parles de 1999 et 2002. Donc 20 ans après, cela fait encore l’actualité ?

Vincent Calame : Oui. C’est un autre aspect un peu hallucinant de ce scandale. C’est seulement en avril 2021 qu’un jugement en appel a cassé les condamnations pour fraude et vol des 555 victimes regroupées dans un collectif appelé Justice for Subpostmasters Alliance.
Il faut savoir que le logiciel n’a vraiment commencé à être mis en cause qu’à partir de 2009 grâce à un article du média spécialisé Computer Weekly. Une raison très importante de ce décalage dans le temps c’est que les franchisés accusés étaient isolés et se croyaient seuls dans leur cas, la direction de la Poste britannique se gardant bien de signaler que plusieurs centaines de personnes étaient concernées. La personne témoignant dans Le Monde dit même qu’elle ne s’est aperçu qu’en 2015 qu’elle n’était pas seule.
Au passage, je trouve que cela fait étonnamment écho au combat actuel des livreurs d’Uber et d’autres plateformes pour faire reconnaître leur statut de salariés.
Donc logiciel opaque, direction irresponsable, employés précarisés par un statut d’indépendant – certains à 18 ou 19 ans -, tout le cocktail est là.
Notons également que le logiciel a continué de sévir longtemps puisque Le Monde cite une autre personne, nommée gérante en 2006, dont les problèmes sont apparus en 2014.
Au final, ni Fujitsu, ni la direction de la Poste n’ont été inquiétés, d’après l’article, et la facture de l’indemnisation – on parle d’un milliard d’euros – sera pour le gouvernement britannique.

Et le logiciel libre dans tout ça ? Un logiciel libre n’aurait évidemment pas protégé du cynisme de la direction de la Poste britannique. Mais l’accès au code aurait permis une contre-expertise technique qui n’aurait pas attendu dix ans. Dans un article de Computer Weekly on annonce le lancement, par la Poste britannique, d’une expertise extérieure sur le système informatique en 2012 seulement. L’article du Monde parle de frais d’avocats énormes pour le collectif de plaignants, plusieurs dizaines de millions de livres.
Payer quelques centaines de milliers de livres des codeurs talentueux et indépendants pour se plonger dans le code du logiciel Horizon, est-ce vraiment du luxe dont on peut se passer ?

Frédéric Couchet : C’est une bonne question et j’aurais aussi une question : finalement qui est coupable dans cette histoire de dingue ? Là tu parles d’un bogue logiciel, mais un logiciel est un outil de travail qui, comme tu l’as dit, comme l’ont dit tout à l’heure nos invités dans notre sujet principal, peut avoir des bugs. L’affaire date de 1999, une expertise a été menée en 2012, donc, au début de l’affaire, aucune analyse ou aucun audit du logiciel n’a été fait et la direction de la Poste et surtout les juges qui ont pris la décision d’envoyer des gens en prison ont cru ce logiciel sur parole. Finalement c’est plus, quelque part, un scandale judiciaire, qu’un scandale informatique. Quel est ton avis sur la question ?

Vincent Calame : En soi, qu’un logiciel ait des problèmes, je crois que c’est vraiment très courant, ça doit être intégré dans la réflexion sur un logiciel. On a beau le tester, le jour où on le met en production, où on le déploie massivement sur des milliers et des milliers d’agences, c’est sûr qu’il y aura des problèmes qui n’auront pas été prévus au moment de la conception. Personne ne prétend déployer un logiciel propre au premier clic. Il y a un problème. De toute façon le logiciel n’est qu’un outil, effectivement il n’est pas intelligent, il a un responsable. Au lieu de se poser la question « il y a des erreurs, peut-être que ça vient de nous », non, les erreurs ont tout de suite été imputées aux gérants.

Frédéric Couchet : Tu as parlé tout à l’heure de cynisme, j’ai regardé un petit peu les articles de presse que tu cites. Un des articles indique, j’ouvre les guillemets : « La Poste britannique a soutenu que les erreurs ne pouvaient pas être dues au système informatique, tout en sachant que c’était justement le cas. Il est en effet prouvé que le service juridique de la Poste savait que le logiciel pouvait produire des résultats inexacts avant même que certaines des condamnations ne soient prononcées. » Là on arrive vraiment dans un scandale ! Je crois d’ailleurs que là-bas c’est le plus gros scandale judiciaire qui existe parce que ça concerne énormément de gens.

Vincent Calame : Tout à fait. Il y a plus de 500 personnes concernées, beaucoup de vies brisées, des gens qui ont eu beaucoup de mal à se remettre de ça. C’est effectivement comment faire la preuve de son innocence. Normalement il y a d’abord la présomption d’innocence, on est d’abord innocent puis coupable. Là on a vraiment l’impression qu’on est coupable d’entrée de jeu parce que le logiciel a dit qu’on l’est.

Frédéric Couchet : Comme le dit Étienne sur le salon web, c‘est une vraie question de la valeur de la preuve.
Merci pour cette chronique Vincent. J’espère que la prochaine sera un peu plus guillerette. Ce sera en juin je pense. Je te souhaite une belle fin de journée.