Na semana passada, uma investigação da Reuters revelou que pesquisadores chineses têm usado ferramentas de IA de código aberto para construir modelos que parecem nefastos e que podem ter alguma aplicação militar.

A reportagem afirma que adversários no Partido Comunista Chinês e sua ala militar estão tirando vantagem do licenciamento liberal de software de inovações americanas no espaço da IA, o que pode um dia ter a capacidade de supostamente prejudicar os Estados Unidos.

Em um artigo de junho revisado por Reuters, seis pesquisadores chineses de três instituições, incluindo duas do principal órgão de pesquisa do Exército de Libertação Popular (ELP), a Academia de Ciências Militares (AMS), detalharam como usaram uma versão inicial do Llama da Meta como base para o que chamam de “ChatBIT”.

Os pesquisadores usaram um modelo de linguagem grande (LLM) Llama 13B anterior da Meta, incorporando seus próprios parâmetros para construir uma ferramenta de IA com foco militar para coletar e processar inteligência e oferecer informações precisas e confiáveis para a tomada de decisões operacionais.

Embora eu duvide que as ferramentas de chatbot existentes hoje sejam o campo de batalha definitivo para uma nova guerra geopolítica (enfileire a guerra simulada por computador do Jornada nas Estrelas episódio “Um gostinho do Armagedom“), esta exposição recente nos obriga a revisitar o motivo pelo qual grandes modelos de linguagem são lançados como código-fonte aberto em primeiro lugar.

Além disso, importa que um adversário esteja dando uma espiadinha e possa usá-los para algum propósito que não gostamos, seja a China, a Rússia, a Coreia do Norte ou o Irã?

O número de LLMs de IA de código aberto continua a crescer a cada dia, com projetos como Vicuna, LLaMA, BLOOMB, Falcon e Mistral disponíveis para download. Na verdade, há mais de um milhão de LLMs de código aberto disponível no momento em que este post foi escrito. Com algum hardware decente, todo cidadão global pode baixar essas bases de código e executá-las em seu computador.

Com relação a essa história específica, poderíamos assumir que se trata de um vazamento seletivo por um concorrente da Meta que criou o modelo LLaMA, com a intenção de prejudicar sua reputação entre aqueles com credenciais de segurança cibernética e segurança nacional. Existem potencialmente trilhões de dólares em jogo.

Ou pode ser a revelação de algo mais sinistro acontecendo nos laboratórios patrocinados pelos militares de hackers chineses que já foram pegos atacando americanos. a infraestrutura, dados, e sim, seu histórico de crédito?

Como defensores do consumidor que acreditam na necessidade de democracias liberais para salvaguardar nossas liberdades contra o autoritarismo, devemos permanecer absolutamente céticos quando se trata do regime comunista em Pequim. Já escrevemos tanto muitas vezes.

Ao mesmo tempo, porém, não devemos sub-rogar nosso próprio pensamento crítico e princípios porque eles se adequam a uma narrativa conveniente.

Consumidores de todos os tipos merecem liberdade tecnológica, e os inovadores devem ser livres para nos fornecer isso. E o software de código aberto forneceu as próprias bases para tudo isso.

O código aberto é importante

Quando falamos de software e código de código aberto, o que realmente estamos falando é da capacidade de outras pessoas além dos criadores usá-los.

Os vários esquemas de licenciamento – variando da GNU General Public License (GPL) à MIT License e várias classificações de domínio público – determinam se outras pessoas podem usar o código, editá-lo a seu gosto e executá-lo em suas máquinas. Algumas licenças até permitem que você monetize as modificações que fez.

Enquanto muitos tipos diferentes de software serão totalmente licenciados e tornados proprietários, restringindo ou mesmo penalizando aqueles que tentam usá-los por conta própria, muitos desenvolvedores criaram softwares com a intenção de serem lançados ao público. Isso permite que vários contribuidores adicionem à base de código e façam alterações para melhorá-la para benefício público.

O software de código aberto importa porque qualquer pessoa, em qualquer lugar, pode baixar e executar o código por conta própria. Eles também podem modificá-lo, editá-lo e adaptá-lo às suas necessidades específicas. O código deve ser compartilhado e construído não por alguma crença altruísta, mas sim para torná-lo acessível a todos e criar uma base ampla. É assim que criamos padrões para tecnologias que fornecem o piso térreo para mais ajustes para entregar valor aos consumidores.

Bibliotecas de código aberto criam os blocos de construção que diminuem o incômodo e o custo de construir uma nova plataforma web, smartphone ou até mesmo uma linguagem de computador. Elas distribuem código comum que pode ser construído, garantindo a interoperabilidade e definindo padrões para todos os nossos dispositivos e tecnologias se comunicarem entre si.

Eu mesmo sou um defensor do software de código aberto. O servidor que executo em casa tem dezenas de aplicativos dockerizados obtidos diretamente de contribuidores de código aberto no GitHub e DockerHub. Quando há versões ou adaptações que não gosto, posso escolher qual prefiro. Posso até fazer comentários ou adicionar edições se encontrar uma maneira melhor de executá-los.

Quer você saiba ou não, muitos de vocês usam o sistema operacional Linux como base para seu Macbook ou qualquer outro computador e usam todos os tipos de ferramentas da web que têm repositórios ativos bifurcados ou modificados por contribuidores de código aberto online. Este código é auditável por todos e pode ser examinado ou revisado por quem quiser (até mesmo bots de IA).

Este é o mesmo software que opera suas companhias aéreas, alimenta as fazendas que entregam sua comida e dá suporte a todo o sistema monetário global. O código da primeira criptomoeda descentralizada Bitcoin também é código aberto, o que permitiu milhares de protocolos imitadores que revolucionaram a forma como vemos o dinheiro.

Você sabe o que mais é de código aberto e está disponível para todos usarem, modificarem e desenvolverem?

PHP, Mozilla Firefox, LibreOffice, MySQL, Python, Git, Docker e WordPress. Todos os protocolos e linguagens que alimentam a web. Amigo ou inimigo, qualquer um pode baixar esses softwares e executá-los como achar melhor.

Código de código aberto é discurso e é conhecimento.

Nós construímos sobre ele para tornar a informação e a tecnologia acessíveis. Tentativas de coibir o código aberto, portanto, equivalem a restringir a fala e o conhecimento.

Código aberto é para seus amigos e inimigos

No contexto da Inteligência Artificial, muitos desenvolvedores e empresas diferentes escolheram pegar seus grandes modelos de linguagem e disponibilizá-los por meio de uma licença de código aberto.

Neste exato momento, você pode clicar em Abraçando o Rosto, baixe um modelo de IA e construa um chatbot ou máquina de script adequado às suas necessidades. Tudo de graça (desde que você tenha o poder e a largura de banda).

Milhares de empresas no setor de IA estão fazendo isso neste exato momento, descobrindo maneiras de construir em cima de modelos de código aberto para desenvolver novos aplicativos, ferramentas e serviços para oferecer a empresas e indivíduos. É assim que muitos aplicativos diferentes estão ganhando vida e milhares de empregos estão sendo criados.

Sabemos que isso pode ser útil para amigos, mas e os inimigos?

À medida que as guerras de IA se intensificam entre democracias liberais como os EUA, o Reino Unido e (lentamente) a União Europeia, sabemos que adversários autoritários como o PCC e a Rússia estão criando seus próprios aplicativos.

O medo de que a China use modelos americanos de código aberto para criar algum tipo de aplicação militar é um perigo claro e presente para muitos pesquisadores políticos e de segurança nacional, bem como políticos.

Um grupo bipartidário de legisladores da Câmara dos EUA quer colocar controles de exportação em modelos de IA, bem como bloquear o acesso estrangeiro a servidores de nuvem dos EUA que podem hospedar software de IA.

Se isto parece familiar, devemos também lembrar que o governo dos EUA classificou uma vez a criptografia e a encriptação como “munições” que não podiam ser exportadas para outros países (ver As Guerras Cripto). Muitos dos argumentos que ouvimos hoje foram invocados pelas mesmas pessoas daquela época.

Agora, os protocolos de criptografia são o padrão ouro para muitos serviços bancários e da web diferentes, mensagens e todos os tipos de comunicação eletrônica. Esperamos que nossos amigos os usem, e nossos inimigos também. Como o código é conhecimento e fala, sabemos como avaliá-lo e responder se necessário.

Independentemente de quem usa IA de código aberto, é assim que devemos vê-la hoje. Essas são meramente ferramentas que as pessoas usarão para o bem ou para o mal. Cabe aos governos determinar a melhor forma de impedir usos iliberais ou nefastos que nos prejudicam, em vez de tentar proibir ou restringir a construção de software livre e aberto em primeiro lugar.

Limitar o código aberto ameaça nosso próprio avanço

Se nos propusermos a restringir e limitar nossa capacidade de criar e compartilhar código de código aberto, não importa quem o use, isso seria equivalente a impor censura. Deve haver outra maneira.

Se houver um “Maratona dos Cem Anos"entre os Estados Unidos e as democracias liberais de um lado e autocracias como o Partido Comunista Chinês do outro, isso não é algo que será ganho ou perdido com base em licenças de software. Precisamos de tanta competição quanto possível.

Os militares chineses têm vindo a reforçar as suas capacidades com trilhões de dólares valor de investimentos que vão muito além de chatbots de IA e protocolos de lógica de salto.

o roubo de propriedade intelectual em fábricas em Shenzhen, ou em tribunais dos EUA por financiamento de litígios de terceiros vindo da China, é muito real e terá consequências econômicas sérias. Pode até mudar o equilíbrio de poder se nossas economias e países se voltarem para o pé de guerra.

Mas essas são questões separadas da capacidade de pessoas livres de criar e compartilhar código de código aberto do qual todos nós podemos nos beneficiar. Na verdade, se quisermos continuar nosso caminho de vida e continuar a contribuir para a produtividade e o crescimento globais, é exigido que defendamos o código aberto.

Se as democracias liberais quiserem competir com nossos adversários globais, isso não será feito reduzindo as liberdades dos cidadãos em nossos próprios países.