La scorsa settimana, un'inchiesta della Reuters ha rivelato che i ricercatori cinesi hanno utilizzato strumenti di intelligenza artificiale open source per creare modelli dall'aspetto nefasto che potrebbero avere qualche applicazione militare.

Il rapporto sostiene che gli avversari del Partito Comunista Cinese e della sua ala militare stanno sfruttando la libera concessione di licenze software per le innovazioni americane nel campo dell'intelligenza artificiale, che un giorno potrebbero presumibilmente avere la capacità di danneggiare gli Stati Uniti.

In un articolo di giugno esaminato da Reuters, sei ricercatori cinesi provenienti da tre istituzioni, tra cui due sotto l'egida dell'organismo di ricerca leader dell'Esercito Popolare di Liberazione (PLA), l'Accademia delle Scienze Militari (AMS), hanno spiegato in dettaglio come hanno utilizzato una versione iniziale di Meta's Llama come base per quello che chiamano "ChatBIT".

I ricercatori hanno utilizzato un precedente modello linguistico di grandi dimensioni (LLM) Llama 13B di Meta, incorporando i propri parametri per costruire uno strumento di intelligenza artificiale incentrato sull'uso militare per raccogliere ed elaborare informazioni di intelligence e offrire informazioni accurate e affidabili per il processo decisionale operativo.

Sebbene io dubiti che gli attuali strumenti simili a chatbot possano rappresentare il campo di battaglia definitivo per una nuova guerra geopolitica (si metta in coda la guerra simulata al computer dal La storia di Star Trek episodio “Un assaggio dell'Armageddon"), questa recente denuncia ci obbliga a riconsiderare il motivo per cui i grandi modelli linguistici vengono rilasciati come codice open source in primo luogo.

Oltre a ciò, dovrebbe importare che un avversario ci dia dentro e che alla fine possa usarli per scopi che potrebbero non piacerci, che si tratti della Cina, della Russia, della Corea del Nord o dell'Iran?

Il numero di LLM AI open source continua a crescere ogni giorno, con progetti come Vicuna, LLaMA, BLOOMB, Falcon e Mistral disponibili per il download. Infatti, ci sono oltre un milione di LLM open source disponibili al momento in cui scrivo questo post. Con un hardware decente, ogni cittadino del mondo può scaricare queste basi di codice ed eseguirle sul proprio computer.

Per quanto riguarda questa specifica storia, potremmo supporre che si tratti di una fuga di notizie selettiva da parte di un concorrente di Meta che ha creato il modello LLaMA, con l'intento di danneggiare la sua reputazione tra coloro che hanno credenziali di sicurezza informatica e sicurezza nazionale. Ci sono potenzialmente trilioni di dollari in gioco.

Oppure potrebbe essere la rivelazione di qualcosa di più sinistro che sta accadendo nei laboratori sponsorizzati dall'esercito di hacker cinesi che sono già stati sorpresi ad attaccare gli americani. infrastruttura, dati, e sì, la tua cronologia creditizia?

Come sostenitori dei consumatori che credono nella necessità delle democrazie liberali di salvaguardare le nostre libertà dall'autoritarismo, dovremmo assolutamente rimanere scettici quando si tratta del regime comunista di Pechino. Abbiamo scritto tanto molte volte.

Allo stesso tempo, però, non dovremmo surrogarci del nostro pensiero critico e dei nostri principi perché si adattano a una narrazione di comodo.

I consumatori di ogni genere meritano la libertà tecnologica, e gli innovatori dovrebbero essere liberi di fornircela. E il software open source ha fornito le fondamenta stesse per tutto questo.

L'open source è importante

Quando parliamo di software e codice open source, in realtà parliamo della possibilità che altre persone, oltre ai creatori, possano utilizzarli.

I vari sistemi di licenza – che vanno dalla GNU General Public License (GPL) alla MIT License e varie classificazioni di pubblico dominio – determinano se altre persone possono usare il codice, modificarlo a loro piacimento ed eseguirlo sulla loro macchina. Alcune licenze ti permettono persino di monetizzare le modifiche che hai apportato.

Mentre molti tipi diversi di software saranno completamente concessi in licenza e resi proprietari, limitando o addirittura penalizzando coloro che tentano di utilizzarli per conto proprio, molti sviluppatori hanno creato software destinati a essere rilasciati al pubblico. Ciò consente a più collaboratori di aggiungere alla base di codice e di apportare modifiche per migliorarla a beneficio del pubblico.

Il software open source è importante perché chiunque, ovunque, può scaricare ed eseguire il codice da solo. Possono anche modificarlo, editarlo e adattarlo alle proprie esigenze specifiche. Il codice è destinato a essere condiviso e sviluppato non per qualche convinzione altruistica, ma piuttosto per renderlo accessibile a tutti e creare una base ampia. È così che creiamo standard per le tecnologie che forniscono il terreno di coltura per ulteriori modifiche per fornire valore ai consumatori.

Le librerie open source creano i mattoni che riducono la seccatura e il costo della creazione di una nuova piattaforma web, di uno smartphone o persino di un linguaggio informatico. Distribuiscono codice comune su cui è possibile costruire, assicurando l'interoperabilità e stabilendo standard per tutti i nostri dispositivi e tecnologie per comunicare tra loro.

Io stesso sono un sostenitore del software open source. Il server che gestisco a casa mia ha decine di applicazioni dockerizzate provenienti direttamente da collaboratori open source su GitHub e DockerHub. Quando ci sono versioni o adattamenti che non mi piacciono, posso scegliere quali preferisco. Posso anche fare commenti o aggiungere modifiche se ho trovato un modo migliore per farle funzionare.

Che lo sappiate o no, molti di voi usano il sistema operativo Linux come base per il vostro Macbook o qualsiasi altro computer e usano tutti i tipi di strumenti web che hanno repository attivi forkati o modificati da collaboratori open source online. Questo codice è verificabile da chiunque e può essere esaminato o rivisto da chiunque lo desideri (anche dai bot AI).

Questo è lo stesso software che gestisce le tue compagnie aeree, alimenta le fattorie che consegnano il tuo cibo e supporta l'intero sistema monetario globale. Il codice della prima criptovaluta decentralizzata Bitcoin è anche open source, che ha permesso migliaia di protocolli imitatori che hanno rivoluzionato il modo in cui concepiamo il denaro.

Sapete cos'altro è open source e disponibile affinché chiunque possa utilizzarlo, modificarlo e svilupparlo?

PHP, Mozilla Firefox, LibreOffice, MySQL, Python, Git, Docker e WordPress. Tutti i protocolli e i linguaggi che alimentano il web. Amico o nemico che sia, chiunque può scaricare questi software ed eseguirli come meglio crede.

Il codice open source è parola ed è conoscenza.

Ci basiamo su di esso per rendere accessibili informazioni e tecnologie. I tentativi di limitare l'open source, quindi, equivalgono a limitare la parola e la conoscenza.

L'open source è per i tuoi amici e nemici

Nel contesto dell'intelligenza artificiale, molti sviluppatori e aziende hanno scelto di prendere i loro grandi modelli linguistici e di renderli disponibili tramite una licenza open source.

In questo preciso momento, puoi cliccare su Faccia abbracciata, scarica un modello AI e costruisci un chatbot o una macchina di scripting adatta alle tue esigenze. Tutto gratis (finché hai potenza e larghezza di banda).

Migliaia di aziende nel settore dell'intelligenza artificiale lo stanno facendo in questo preciso momento, scoprendo modi di costruire su modelli open source per sviluppare nuove app, strumenti e servizi da offrire ad aziende e privati. È così che stanno prendendo vita tante applicazioni diverse e vengono creati migliaia di altri posti di lavoro.

Sappiamo che questo può essere utile per gli amici, ma che dire dei nemici?

Mentre si intensificano le guerre sull'intelligenza artificiale tra democrazie liberali come Stati Uniti, Regno Unito e (lentamente) Unione Europea, sappiamo che avversari autoritari come il PCC e la Russia stanno sviluppando le proprie applicazioni.

Il timore che la Cina utilizzi modelli open source statunitensi per creare qualche tipo di applicazione militare rappresenta un pericolo chiaro e attuale per molti ricercatori in ambito politico e di sicurezza nazionale, nonché per i politici.

Un gruppo bipartisan di legislatori della Camera degli Stati Uniti vuole mettere controlli sulle esportazioni sui modelli di intelligenza artificiale, nonché bloccare l'accesso estero ai server cloud statunitensi che potrebbero ospitare software di intelligenza artificiale.

Se questo vi sembra familiare, dovremmo anche ricordare che il governo degli Stati Uniti una volta classificò la crittografia e la cifratura come “munizioni” che non potevano essere esportate in altri paesi (vedi Le guerre delle criptovalute). Molti degli argomenti che sentiamo oggi sono stati invocati dalle stesse persone di allora.

Ora, i protocolli di crittografia sono il gold standard per molti servizi bancari e web, messaggistica e tutti i tipi di comunicazione elettronica. Ci aspettiamo che i nostri amici li usino, e anche i nostri nemici. Poiché il codice è conoscenza e parola, sappiamo come valutarlo e rispondere se necessario.

Indipendentemente da chi utilizzi l'intelligenza artificiale open source, è così che dovremmo vederla oggi. Questi sono semplicemente strumenti che le persone useranno per il bene o per il male. Spetta ai governi determinare il modo migliore per fermare gli usi illiberali o nefasti che ci danneggiano, piuttosto che cercare di mettere al bando o limitare la creazione di software libero e aperto in primo luogo.

Limitare l'open source minaccia il nostro stesso progresso

Se ci prefiggiamo di restringere e limitare la nostra capacità di creare e condividere codice open source, indipendentemente da chi lo usa, ciò equivarrebbe a imporre la censura. Deve esserci un altro modo.

Se c'è un "Maratona dei Cent'anni"tra gli Stati Uniti e le democrazie liberali da una parte e le autocrazie come il Partito Comunista Cinese dall'altra, questa non è una cosa che si vince o si perde in base alle licenze software. Abbiamo bisogno di quanta più competizione possibile.

L'esercito cinese ha rafforzato le sue capacità con trilioni di dollari' investimenti che vanno ben oltre i chatbot AI e i protocolli skip logic.

Il furto della proprietà intellettuale nelle fabbriche di Shenzhen o nei tribunali degli Stati Uniti da finanziamento di contenziosi di terze parti proveniente dalla Cina, è molto reale e avrà gravi conseguenze economiche. Potrebbe persino cambiare l'equilibrio di potere se le nostre economie e i nostri paesi si mettessero sul piede di guerra.

Ma queste sono questioni separate dalla capacità delle persone libere di creare e condividere codice open source da cui tutti possiamo trarre beneficio. Infatti, se vogliamo continuare a vivere come vogliamo e continuare ad aumentare la produttività e la crescita globali, è necessario che difendiamo l'open source.

Se le democrazie liberali vogliono competere con i nostri avversari globali, non lo faranno riducendo le libertà dei cittadini nei nostri paesi.