La semaine dernière, une enquête menée par Reuters a révélé que des chercheurs chinois utilisaient des outils d’IA open source pour créer des modèles aux connotations néfastes qui pourraient avoir une application militaire.

Le rapport prétend que les adversaires du Parti communiste chinois et de son aile militaire profitent des licences logicielles libérales des innovations américaines dans le domaine de l'IA, qui pourraient un jour avoir des capacités susceptibles de nuire aux États-Unis.

Dans un article de juin examiné par Reuter, six chercheurs chinois de trois institutions, dont deux dépendant de l'organisme de recherche principal de l'Armée populaire de libération (APL), l'Académie des sciences militaires (AMS), ont expliqué comment ils avaient utilisé une première version du Llama de Meta comme base pour ce qu'ils appellent « ChatBIT ».

Les chercheurs ont utilisé un modèle de langage étendu (LLM) Llama 13B antérieur de Meta, incorporant leurs propres paramètres pour construire un outil d'IA axé sur l'armée pour collecter et traiter des renseignements, et offrir des informations précises et fiables pour la prise de décision opérationnelle.

Bien que je doute que les outils de type chatbot existants aujourd'hui soient le champ de bataille ultime d'une nouvelle guerre géopolitique (ajoutez la guerre simulée par ordinateur à partir de la Star Trek épisode «Un avant-goût d'Armageddon« ), cet exposé récent nous oblige à revoir la raison pour laquelle les grands modèles de langage sont publiés sous forme de code open source en premier lieu.

De plus, est-ce que cela devrait avoir de l’importance si un adversaire fouine dans nos affaires et peut les utiliser à des fins qui ne nous plaisent pas, que ce soit la Chine, la Russie, la Corée du Nord ou l’Iran ?

Le nombre de LLM en IA open source continue de croître chaque jour, avec des projets comme Vicuna, LLaMA, BLOOMB, Falcon et Mistral disponibles en téléchargement. En fait, il existe plus de un million de LLM open source Disponible au moment de la rédaction de cet article. Avec un matériel décent, chaque citoyen du monde peut télécharger ces bases de code et les exécuter sur son ordinateur.

En ce qui concerne cette histoire spécifique, nous pourrions supposer qu'il s'agit d'une fuite sélective d'un concurrent de Meta qui a créé le modèle LLaMA, dans le but de nuire à sa réputation auprès des personnes ayant des références en matière de cybersécurité et de sécurité nationale. potentiellement des milliers de milliards de dollars sont en jeu.

Ou cela pourrait être la révélation de quelque chose de plus sinistre qui se produit dans les laboratoires de pirates informatiques chinois parrainés par l'armée qui ont déjà été surpris en train d'attaquer des Américains. Infrastructure, Les données, et oui, votre historique de crédit?

En tant que défenseurs des consommateurs qui croient en la nécessité des démocraties libérales pour protéger nos libertés contre l'autoritarisme, nous devons absolument rester sceptiques face au régime communiste de Pékin. Nous avons écrit autant plusieurs fois.

Mais en même temps, nous ne devons pas pour autant substituer notre propre pensée critique et nos propres principes au prétexte qu’ils conviennent à un récit commode.

Les consommateurs de tous bords méritent la liberté technologique, et les innovateurs devraient être libres de nous l’offrir. Et les logiciels open source ont posé les bases mêmes de tout cela.

L'open source est important

Lorsque nous parlons de logiciels et de codes open source, nous parlons en réalité de la possibilité pour des personnes autres que les créateurs de les utiliser.

Les divers systèmes de licences – allant de la licence publique générale GNU (GPL) à la licence MIT et à diverses classifications du domaine public – déterminent si d'autres personnes peuvent utiliser le code, le modifier à leur guise et l'exécuter sur leur machine. Certaines licences vous permettent même de monétiser les modifications que vous avez apportées.

Bien que de nombreux types de logiciels soient entièrement sous licence et deviennent propriétaires, ce qui restreint voire pénalise ceux qui tentent de les utiliser eux-mêmes, de nombreux développeurs ont créé des logiciels destinés à être rendus publics. Cela permet à plusieurs contributeurs d'enrichir la base de code et d'y apporter des modifications pour l'améliorer dans l'intérêt du public.

Les logiciels open source sont importants car n’importe qui, où qu’il soit, peut télécharger et exécuter le code lui-même. Il peut également le modifier, l’éditer et l’adapter à ses besoins spécifiques. Le code est destiné à être partagé et développé non pas par conviction altruiste, mais plutôt pour le rendre accessible à tous et créer une base plus large. C’est ainsi que nous créons des normes pour les technologies qui fournissent la base pour de nouvelles améliorations visant à offrir de la valeur aux consommateurs.

Les bibliothèques open source créent les éléments de base qui réduisent les tracas et les coûts liés à la création d'une nouvelle plateforme Web, d'un smartphone ou même d'un langage informatique. Elles distribuent un code commun sur lequel on peut s'appuyer, garantissant l'interopérabilité et établissant des normes pour que tous nos appareils et technologies communiquent entre eux.

Je suis moi-même un partisan des logiciels open source. Le serveur que j'utilise chez moi contient des dizaines d'applications dockerisées provenant directement de contributeurs open source sur GitHub et DockerHub. Lorsqu'il y a des versions ou des adaptations qui ne me plaisent pas, je peux choisir celle que je préfère. Je peux même faire des commentaires ou ajouter des modifications si j'ai trouvé une meilleure façon de les exécuter.

Que vous le sachiez ou non, beaucoup d'entre vous utilisent le système d'exploitation Linux comme base pour votre Macbook ou tout autre ordinateur et utilisent toutes sortes d'outils Web qui ont des référentiels actifs créés ou modifiés par des contributeurs open source en ligne. Ce code est vérifiable par tout le monde et peut être examiné ou révisé par quiconque le souhaite (même les robots IA).

Il s'agit du même logiciel qui gère vos compagnies aériennes, alimente les fermes qui livrent vos aliments et soutient l'ensemble du système monétaire mondial. Le code de la première crypto-monnaie décentralisée Bitcoin est également open source, ce qui a permis milliers des protocoles imitateurs qui ont révolutionné notre façon de voir l’argent.

Savez-vous quels autres éléments sont open source et disponibles pour que tout le monde puisse les utiliser, les modifier et les développer ?

PHP, Mozilla Firefox, LibreOffice, MySQL, Python, Git, Docker et WordPress. Tous les protocoles et langages qui font fonctionner le Web. Qu'ils soient amis ou ennemis, n'importe qui peut télécharger ces logiciels et les exécuter comme bon lui semble.

Le code open source est un discours et une connaissance.

Nous nous appuyons sur ce principe pour rendre l’information et la technologie accessibles. Les tentatives visant à restreindre l’open source reviennent donc à restreindre la liberté d’expression et la connaissance.

L'open source est pour vos amis et vos ennemis

Dans le contexte de l’intelligence artificielle, de nombreux développeurs et entreprises ont choisi de prendre leurs grands modèles de langage et de les rendre disponibles via une licence open source.

À ce moment précis, vous pouvez cliquer sur Visage qui fait un câlin, téléchargez un modèle d'IA et créez un chatbot ou une machine de script adaptée à vos besoins. Le tout gratuitement (à condition que vous ayez la puissance et la bande passante nécessaires).

Des milliers d'entreprises du secteur de l'IA sont en train de le faire en ce moment même, découvrant des moyens de s'appuyer sur des modèles open source pour développer de nouvelles applications, de nouveaux outils et de nouveaux services à proposer aux entreprises et aux particuliers. C'est ainsi que de nombreuses applications différentes voient le jour et que des milliers d'emplois supplémentaires sont créés.

Nous savons que cela peut être utile aux amis, mais qu'en est-il des ennemis ?

Alors que la guerre de l’IA s’intensifie entre les démocraties libérales comme les États-Unis, le Royaume-Uni et (lentement) l’Union européenne, nous savons que des adversaires autoritaires comme le PCC et la Russie construisent leurs propres applications.

La crainte que la Chine utilise des modèles américains open source pour créer une sorte d’application militaire constitue un danger clair et présent pour de nombreux chercheurs en politique et en sécurité nationale, ainsi que pour les hommes politiques.

Un groupe bipartisan de législateurs américains veut mettre contrôles à l'exportation sur les modèles d'IA, ainsi que bloquer l'accès étranger aux serveurs cloud américains susceptibles d'héberger des logiciels d'IA.

Si cela vous semble familier, nous devons également nous rappeler que le gouvernement américain a autrefois classé la cryptographie et le cryptage comme des « munitions » qui ne pouvaient pas être exportées vers d’autres pays (voir Les guerres cryptographiques). Bon nombre des arguments que nous entendons aujourd’hui ont été invoqués par certaines des mêmes personnes qu’à l’époque.

Aujourd'hui, les protocoles de chiffrement sont la référence absolue pour de nombreux services bancaires et Web, la messagerie et tous les types de communication électronique. Nous nous attendons à ce que nos amis les utilisent, et nos ennemis aussi. Parce que le code est un savoir et une parole, nous savons comment l'évaluer et réagir si nécessaire.

Peu importe qui utilise l’IA open source, c’est ainsi que nous devrions la considérer aujourd’hui. Il s’agit simplement d’outils que les gens utiliseront pour le meilleur ou pour le pire. Il appartient aux gouvernements de déterminer la meilleure façon de mettre fin aux utilisations illibérales ou néfastes qui nous portent préjudice, plutôt que d’essayer d’interdire ou de restreindre la création de logiciels libres et ouverts en premier lieu.

Limiter l’open source menace notre propre progrès

Si nous décidions de restreindre et de limiter notre capacité à créer et à partager du code open source, peu importe qui l’utilise, cela équivaudrait à imposer une censure. Il doit y avoir une autre solution.

S'il y a un «Marathon du Centenaire« Entre les États-Unis et les démocraties libérales d’un côté et les autocraties comme le Parti communiste chinois de l’autre, ce n’est pas quelque chose qui se gagnera ou se perdra en fonction des licences de logiciels. Nous avons besoin d’autant de concurrence que possible. »

L’armée chinoise a renforcé ses capacités avec des milliers de milliards de dollars des investissements qui vont bien au-delà des chatbots IA et des protocoles logiques de saut.

La vol de la propriété intellectuelle dans les usines de Shenzhen ou devant les tribunaux américains par financement de litiges par des tiers Le conflit armé en provenance de Chine est bien réel et aura de graves conséquences économiques. Il pourrait même modifier l'équilibre des forces si nos économies et nos pays se mettent sur le pied de guerre.

Mais ces questions sont distinctes de la possibilité pour les individus libres de créer et de partager du code open source dont nous pouvons tous bénéficier. En fait, si nous voulons continuer à vivre comme nous le faisons et continuer à contribuer à la productivité et à la croissance mondiales, nous devons défendre l'open source.

Si les démocraties libérales veulent rivaliser avec nos adversaires mondiaux, elles ne le feront pas en réduisant les libertés des citoyens dans nos propres pays.