Économie numérique : à la recherche de nouveaux mécanismes de gouvernance

Jiro Kokuryo, Faculté de gestion des politiques de l’Université Keio, Tokyo (Japon)

L’expansion de l’économie numérique soulève d’importantes questions éthiques à propos de l’utilisation, de la gouvernance et de la réglementation des technologies de l’information, comme les mégadonnées et l’intelligence artificielle (IA). Les spécificités de l’économie numérique, en évolution rapide, décrites ci-dessous amènent à devoir trouver de nouveaux principes philosophiques pour éclairer l’élaboration de politiques de gouvernance numérique efficaces.

Dans la recherche de nouvelles approches de la gouvernance numérique, il nous faut élargir le champ le plus largement possible mais, également, réfléchir à la manière dont les philosophies orientales peuvent éclairer et enrichir les approches de la gouvernance numérique au bénéfice de tous. Il convient, plus spécifiquement, de repenser le rôle de l’individualisme et des institutions modernes qui en découlent, basées sur l’échange de titularité, au profit d’un partage social altruiste des données. Nous devrions également reconnaître que l’homme fait partie intégrante du cosmos, plutôt que d’en être au centre.

Pourquoi le modèle de l’économie industrielle ne peut pas gouverner le monde numérique

L’économie numérique présente au moins trois caractéristiques distinctes qui la différencient de l’économie industrielle et nous poussent à urgemment repenser les institutions existantes pour les aligner sur l’économie contemporaine.

En premier lieu, l’économie numérique est en train d’être remodelée par “l’externalité des réseaux” de données, par laquelle la valeur des données augmente de façon exponentielle à mesure que celles-ci se connectent. Prenons, par exemple, un élément isolé parmi les données (une donnée). À lui seul, il ne génère pas de grande valeur mais, s’il est considéré dans un ensemble de données qui présente un schéma précis, cet élément a bien de la valeur. Cela veut dire que l’entité chargée d’assembler les données jouit d’un monopole sur la valeur qu’elle crée. C’est là une des raisons importantes pour lesquelles la gouvernance des données est un enjeu crucial pour la société. L’externalité des réseaux de données constitue à l’évidence un argument solide en faveur du partage social des données, à l’inverse des revendications de titularité et de limitation d’accès aux données.

L’expansion de l’économie numérique soulève d’importantes questions éthiques à propos de l’utilisation, de la gouvernance et de la réglementation des technologies de l’information, comme les mégadonnées et l’intelligence artificielle (IA).

La deuxième caractéristique distinctive de l’économie numérique est le coût marginal extrêmement faible des services numériques, où le coût d’ajout d’un autre utilisateur à une plateforme est négligeable par rapport au coût fixe de son développement initial. Cela signifie, concrètement, qu’une gamme croissante de services en ligne peut être proposée gratuitement afin d’attirer l’utilisateur vers une plateforme donnée. Cet aspect de l’économie numérique entraîne un dysfonctionnement de la fixation des prix sur le marché dans l’affectation des ressources, dans la mesure où la demande, et l’offre, de services numériques gratuits échappent aux mécanismes de contrôle des prix qui ont si bien servi l’économie industrielle.

En troisième lieu, l’économie numérique se distingue par la traçabilité renforcée des produits. L’économie industrielle s’est développée à partir d’une hypothèse de capacité réduite à assurer un suivi des produits fabriqués en série, vendus à des clients non identifiables situés dans des endroits éloignés. De nos jours, toutefois, les technologies de l’information, notamment les capteurs, les systèmes d’identification automatique ou encore les technologies sans fil, modifient radicalement notre capacité à localiser et à suivre les produits, à très faible coût, sur les chaînes d’approvisionnement dans tous les secteurs. Les vendeurs peuvent ainsi surveiller la localisation de tous les produits vendus et, pour leur part, les acheteurs sont en mesure d’identifier le vendeur d’origine et de suivre le parcours du produit.

Une traçabilité renforcée favorise l’utilisation partagée des produits gérés au moyen de mécanismes de contrôle. Une illustration pourrait en être “l’économie du partage”, par laquelle les maisons, les voitures, entre autres, sont proposées en tant que services, soit sur la base d’un abonnement, soit par le biais d’arrangements de location temporaire, et non par l’échange de produits physiques contre de l’argent. La propriété exclusive, en tant que telle, des produits échangés sur le marché, qui était une caractéristique dominante de l’économie industrielle, cesse d’être nécessaire.

Les trois facteurs énoncés ci-dessus démontrent que l’économie numérique est en train de sortir rapidement du cadre des normes de l’économie industrielle, tout en créant de nouvelles forces considérables qui incitent à repenser les fondements philosophiques de la société moderne.

Caractéristiques de la société industrielle

Pour appréhender la nécessité de penser sur de nouvelles bases, il faut comprendre la société industrielle.

La production de masse permise par la révolution industrielle nécessitait une distribution des produits à grande échelle sur de vastes marchés. Dépourvue des puissantes technologies de communication d’aujourd’hui, est apparue ce qu’on a appelé “l’économie anonyme”, dominée par l’échange de biens contre de l’argent entre étrangers, situés souvent dans des pays lointains. De nombreux mécanismes et institutions ont été développés pour faire fonctionner cette économie anonyme. Les droits de propriété (le droit exclusif de disposer d’un bien) et le marché étaient les piliers de l’économie industrielle et étaient soutenus par de puissants États-nations dans le but de leur assurer un fonctionnement ininterrompu. Ces mécanismes étaient essentiels à l’activité économique, en même temps que des systèmes de transport modernes amélioraient la mobilité.

Depuis la révolution industrielle, l’histoire de la modernisation a consisté à faire entrer les marchandises, les services et les biens intangibles, comme le savoir, dans le domaine des droits de propriété. Ces droits sont également étroitement imbriqués dans les valeurs de l’individualisme, cet élément central de la philosophie occidentale qui sous-tend la société industrielle et l’économie de marché. L’individualisme part du principe selon lequel une personne prise indépendamment est capable de prendre des décisions autonomes et a le droit de réclamer le fruit de ses actions et d’en assumer les conséquences. En tant que tel, l’individu jouit de droits inviolables, notamment le droit à la vie privée et à la propriété, qui peuvent être échangés sur le marché.

L’avènement de l’IA et des mégadonnées remet cependant en cause les hypothèses de base de la société industrielle, notamment en ce qui concerne la croyance selon laquelle l’homme a le monopole de l’intelligence.

Gouvernance des mégadonnées : montée des tensions

Le courant sous-jacent aux fondements, produit par les changements institutionnels imposés par la montée de l’économie numérique, se manifeste sous diverses formes. À titre d’exemple, l’Occident est actuellement aux prises avec la confidentialité des données et la gouvernance des mégadonnées (ces gigantesques ensembles de données générées depuis des sources multiples par de multiples utilisateurs en ligne).

À travers le prisme de la société industrielle, cette lutte s’articule autour de la nécessité d’équilibrer l’utilisation des données à des fins commerciales avec le bien social découlant de la protection de la vie privée et de la dignité. Dans ce contexte, la vie privée est étroitement liée aux valeurs individualistes de la société occidentale moderne et relève des droits de l’homme.

Cependant, plutôt que de voir les données comme un bien privé à échanger commercialement, les philosophies orientales, qui reposent sur la confiance mutuelle entre les personnes, considèrent que les données sont une ressource collective au service du bien commun, où les contributeurs sont respectés, protégés et récompensés.

Est-ce que les philosophies orientales altruistes traditionnelles du confucianisme, du bouddhisme et de l’animisme pourraient offrir une alternative plus efficace pour la gouvernance et le partage des données, tout en préservant et en protégeant la dignité de l’individu? Il n’est pas inintéressant de noter que le concept de responsabilité fiduciaire suggère à cet égard la possibilité d’un terrain d’entente entre les philosophies orientale et occidentale.

Gouvernance de l’intelligence artificielle : des perspectives divergentes

S’agissant de la gouvernance de l’IA et des notions d’“esprit” et d’“autonomie”, en particulier pour les machines, nous observons un parallèle identique. La perspective occidentale considère l’homme comme un être supérieur aux autres êtres (et machines) en raison de son “esprit”, ou intellect, et de l’autonomie qui en découle.

De ce point de vue, la perspective d’une “intelligence artificielle générale”, qui suppose l’existence d’une intelligence de type humain (voire susceptible de dépasser l’intelligence humaine) devient une grave menace pour l’homme dans sa maîtrise du cosmos. Là encore, la tradition animiste orientale, qui considère l’homme comme faisant partie intégrante de la nature, offre une vision alternative intéressante.

Les Asiatiques, de manière générale, acceptent nettement plus les robots, dans la mesure où ils les perçoivent comme des pairs proches de l’homme, dotés d’esprit et d’émotion. On note ici un contraste fort avec la perception occidentale des robots et des androïdes, qui se caractérise foncièrement par une relation maître-esclave, tout renversement de cette relation étant considérée comme une menace.

À mesure que nous passons d’une économie industrielle à une économie numérique, il est temps de revoir les fondements philosophiques qui sous-tendent l’économie de marché moderne.

Réflexions sur l’expérience du Japon

Le Japon a été le premier pays asiatique à adopter la philosophie occidentale de l’individualisme. À partir du XIX^e siècle, ce pays a accepté la technologie et les normes juridiques occidentales, notamment en matière de propriété intellectuelle, et est devenu une économie industrielle majeure. À l’ère du numérique, néanmoins, cette stratégie semble s’étouffer, dans la mesure où d’autres économies asiatiques l’ont rattrapé, voire dans certains cas dépassé, dans le domaine numérique. Cela a conduit certains commentateurs à suggérer que pour réussir dans l’économie numérique, il faut une approche complètement différente de celle qui a été adoptée pendant l’ère industrielle.

Le succès remarquable de la Chine en matière de numérique – assis sur des traditions confucéenne et marxiste – donne plus d’élan encore à la question de savoir si la gouvernance des données ne pourrait pas s’inspirer des philosophies orientales traditionnelles. Cette réflexion nouvelle interroge la nécessité de trouver un terrain d’entente sur lequel élaborer des valeurs largement acceptables autour desquelles développer des mécanismes de gouvernance pour la société numérique émergente. Comme indiqué précédemment, le concept de responsabilité fiduciaire pourrait être un bon point de départ dans cette voie.

Le temps d’un nouveau paradigme au-delà de l’individualisme

Il y a de bonnes raisons de croire que le mécanisme de gouvernance de l’économie industrielle basé sur le marché va devoir évoluer si l’on veut répondre aux réalités économiques et technologiques d’une économie numérique en expansion.

Nous assistons déjà à l’émergence de nouveaux modèles économiques numériques, tels que les modèles d’abonnement et de partage, où les “droits d’accès” à l’utilisation de biens sont “concédés sous licence” entre “membres de confiance” des communautés électroniques. Ces modèles économiques contrastent avec ceux de l’économie de marché industrielle où la détention de propriété (c’est-à-dire, les droits exclusifs de cession) s’échange anonymement entre individus (et entreprises) contre de l’argent.

La figure 1 permet de visualiser la conception de l’économie dans un monde à traçabilité renforcée, où chacun dispose d’un bien (y compris des données) utile aux autres et apporte sa contribution au droit d’utiliser ce bien. Dans ce qu’on pourrait appeler une “économie de potluck”, une telle utilisation partagée de biens physiques (et de données) est contrôlée et récompensée par la société. Ce modèle conserve la notion de propriété puisque les plateformes qui coordonnent l’octroi de licences ont la responsabilité fiduciaire de protéger les intérêts de leurs participants ou de leurs administrateurs.

La cybercivilisation vue sous un prisme oriental

À une époque où les décideurs politiques, ancrés dans la philosophie occidentale de l’individualisme, sont aux prises avec les défis d’une société numérique en expansion, les philosophies altruistes asiatiques peuvent nous aider à élaborer les fondements d’une philosophie et d’une éthique pour la gouvernance des structures sociales numériques émergentes. Le confucianisme, le bouddhisme et l’animisme sont des croyances distinctes, mais toutes trois mettent l’accent sur le respect de la confiance que les autres placent dans une entité ou institution sociale. Cela contraste avec l’accent mis par l’Occident sur la protection des droits des individus.

Le traitement des données personnelles met en lumière ces regards divergents. La pensée occidentale moderne considère une violation de la vie privée comme une violation des droits des individus qui doivent avoir le contrôle de leurs données personnelles. À l’opposé, les philosophies orientales considèrent l’utilisation abusive des données personnelles confiées à une plateforme comme une trahison envers la confiance placée dans la plateforme. Tout en étant subtiles, les différences d’approche sont importantes en termes de conception des mécanismes de gouvernance.

En Occident, l’accent est mis sur la nécessité de s’assurer que la collecte et la gestion des données sont conformes à la “volonté” des individus qui fournissent les données afin qu’ils en gardent le contrôle, tandis que la pensée orientale met l’accent sur la nécessité de s’assurer que les données sont protégées et utilisées de manière fidèle aux “intérêts” de ceux qui confient ces données, indépendamment de l’existence d’autorisations explicites pour leur collecte et leur gestion.

Cette discussion soulève également la question de la reconnaissance de la responsabilité. Un point souvent débattu en matière de gouvernance de l’IA concerne la question de savoir s’il est réaliste ou non de continuer de tenir l’homme pour responsable, en dernier ressort, du dysfonctionnement des objets qu’il fabrique.

L’hypothèse occidentale selon laquelle l’homme a le monopole de l’autonomie et de l’intelligence confère à ce dernier l’autorité et la responsabilité ultimes sur tous les objets qu’il fabrique, comme en témoignent les lois de divers systèmes juridiques civils et pénaux occidentaux qui établissent des responsabilités relatives aux objets produits.

À l’inverse, la sagesse asiatique de convivialité avec la nature pourrait bien devenir un principe directeur. Pourquoi cela? Parce qu’avec le temps, il semble inévitable que les machines aient des capacités de l’ordre, pour le moins, de l’intelligence. Nous devons donc nous préparer à reconnaître aux machines une personnalité, si nous voulons leur permettre d’interagir aussi étroitement avec nous.

Vers des principes fondés sur la confiance qui soient généralement acceptables

Le but, dans l’exploration des perspectives divergentes entre l’Est et l’Ouest, est de trouver un terrain d’entente pour élaborer un nouvel ensemble de règles éthiques adapté à l’émergence d’un monde régi par les données. Dans la mesure où ces deux perspectives partagent la notion de responsabilité fiduciaire, celle-ci semble constituer un bon point de départ pour élaborer des mécanismes efficaces de gouvernance des données dotés d’un système démocratique de contrepoids qui profite à tous. Mon espoir et ma conviction sont que l’humanité est suffisamment intelligente pour élaborer un système de ce type et utiliser de manière civilisée les gigantesques opportunités technologiques qu’elle a créées.

Cet article est une version abrégée et modifiée de Kokuryo, J., An Asian perspective on the governance of cyber civilization. Electron Markets (2022).