La semana pasada, una investigación de Reuters reveló que investigadores chinos han estado usando herramientas de inteligencia artificial de código abierto para construir modelos que parecen nefastos pero que podrían tener alguna aplicación militar.

El informe sostiene que los adversarios del Partido Comunista Chino y su ala militar se están aprovechando de las licencias liberales de software para innovaciones estadounidenses en el espacio de la inteligencia artificial, que algún día podrían tener capacidades para presuntamente dañar a Estados Unidos.

En un artículo de junio revisado por ReutersSeis investigadores chinos de tres instituciones, incluidas dos del principal organismo de investigación del Ejército Popular de Liberación (EPL), la Academia de Ciencias Militares (AMS), detallaron cómo habían utilizado una versión temprana de Llama de Meta como base para lo que llaman "ChatBIT".

Los investigadores utilizaron un modelo de lenguaje grande (LLM) Llama 13B anterior de Meta, incorporando sus propios parámetros para construir una herramienta de IA enfocada en lo militar para recopilar y procesar inteligencia, y ofrecer información precisa y confiable para la toma de decisiones operativas.

Si bien dudo que las herramientas similares a chatbots que existen hoy en día sean el campo de batalla definitivo para una nueva guerra geopolítica (pongamos en cola la guerra simulada por computadora de la Viaje a las estrellas episodio "Una muestra del Armagedón“), esta reciente exposición nos obliga a revisar por qué los modelos de lenguaje de gran tamaño se publican como código abierto en primer lugar.

Además de eso, ¿debería importar que un adversario esté husmeando y pueda terminar usándolos para algún propósito que quizás no nos guste, ya sea China, Rusia, Corea del Norte o Irán?

La cantidad de LLM de IA de código abierto continúa creciendo cada día, con proyectos como Vicuna, LLaMA, BLOOMB, Falcon y Mistral disponibles para descargar. De hecho, hay más de Un millón de LLM de código abierto Disponible al momento de escribir esta publicación. Con un hardware decente, cualquier ciudadano del mundo puede descargar estas bases de código y ejecutarlas en su computadora.

En relación con esta historia en particular, podríamos suponer que se trata de una filtración selectiva por parte de un competidor de Meta que creó el modelo LLaMA, con la intención de dañar su reputación entre aquellos con credenciales en ciberseguridad y seguridad nacional. potencialmente billones de dólares en juego.

O podría ser la revelación de algo más siniestro que está sucediendo en los laboratorios patrocinados por los militares de piratas informáticos chinos que ya han sido descubiertos atacando a Estados Unidos. infraestructura, datos, y sí, Su historial crediticio?

Como defensores de los consumidores que creemos en la necesidad de democracias liberales para salvaguardar nuestras libertades contra el autoritarismo, debemos permanecer absolutamente escépticos cuando se trata del régimen comunista de Pekín. Hemos escrito tanto muchas veces.

Al mismo tiempo, sin embargo, no debemos suplantar nuestro propio pensamiento crítico y nuestros principios porque convengan a una narrativa conveniente.

Los consumidores de todo tipo merecen libertad tecnológica, y los innovadores deberían tener la libertad de proporcionárnosla. Y el software de código abierto ha proporcionado las bases para todo esto.

Asuntos de código abierto

Cuando hablamos de software y código de código abierto, de lo que realmente estamos hablando es de la capacidad de que personas distintas de los creadores puedan utilizarlo.

Los diversos esquemas de licencias –desde la Licencia Pública General GNU (GPL) hasta la Licencia MIT y varias clasificaciones de dominio público– determinan si otras personas pueden usar el código, editarlo a su gusto y ejecutarlo en su máquina. Algunas licencias incluso le permiten monetizar las modificaciones que ha realizado.

Si bien muchos tipos de software diferentes tendrán licencia completa y serán propietarios, lo que restringirá o incluso penalizará a quienes intenten usarlo por su cuenta, muchos desarrolladores han creado software destinado a ser lanzado al público. Esto permite que varios colaboradores agreguen al código base y realicen cambios para mejorarlo en beneficio del público.

El software de código abierto es importante porque cualquiera, en cualquier lugar, puede descargar y ejecutar el código por su cuenta. También puede modificarlo, editarlo y adaptarlo a sus necesidades específicas. El código está pensado para ser compartido y desarrollado no por alguna creencia altruista, sino para hacerlo accesible a todos y crear una base amplia. Así es como creamos estándares para tecnologías que proporcionan la base para realizar más modificaciones y ofrecer valor a los consumidores.

Las bibliotecas de código abierto crean los elementos básicos que reducen las complicaciones y los costos de crear una nueva plataforma web, un teléfono inteligente o incluso un lenguaje informático. Distribuyen un código común sobre el que se puede construir, lo que garantiza la interoperabilidad y establece estándares para que todos nuestros dispositivos y tecnologías se comuniquen entre sí.

Yo mismo soy un defensor del software de código abierto. El servidor que tengo en casa tiene docenas de aplicaciones dockerizadas que se obtienen directamente de colaboradores de código abierto en GitHub y DockerHub. Cuando hay versiones o adaptaciones que no me gustan, puedo elegir la que prefiero. Incluso puedo hacer comentarios o agregar modificaciones si he encontrado una mejor manera de que se ejecuten.

Ya sea que lo sepas o no, muchos de ustedes usan el sistema operativo Linux como base para su Macbook o cualquier otra computadora y utilizan todo tipo de herramientas web que tienen repositorios activos modificados por colaboradores de código abierto en línea. Este código es auditable por todos y puede ser examinado o revisado por quien quiera (incluso por robots de IA).

Este es el mismo software que hace funcionar sus aerolíneas, alimenta las granjas que entregan sus alimentos y respalda todo el sistema monetario global. El código de la primera criptomoneda descentralizada, Bitcoin, también es de código abierto, lo que ha permitido miles de protocolos imitadores que han revolucionado la forma en que vemos el dinero.

¿Sabes qué más es de código abierto y está disponible para que todos lo usen, modifiquen y desarrollen?

PHP, Mozilla Firefox, LibreOffice, MySQL, Python, Git, Docker y WordPress. Todos ellos son protocolos y lenguajes que impulsan la web. Ya sean amigos o enemigos, cualquiera puede descargar estos programas y ejecutarlos como crea conveniente.

El código abierto es habla y es conocimiento.

Nos basamos en él para hacer accesible la información y la tecnología. Por lo tanto, los intentos de frenar el código abierto equivalen a restringir la libertad de expresión y el conocimiento.

El código abierto es para tus amigos y tus enemigos.

En el contexto de la Inteligencia Artificial, muchos desarrolladores y empresas diferentes han optado por tomar sus grandes modelos de lenguaje y ponerlos a disposición a través de una licencia de código abierto.

En este mismo momento, puedes hacer clic en Cara abrazada, descargue un modelo de IA y cree un chatbot o una máquina de scripting que se adapte a sus necesidades. Todo gratis (siempre que tenga la potencia y el ancho de banda necesarios).

Miles de empresas del sector de la IA están haciendo esto en este preciso momento, descubriendo formas de aprovechar los modelos de código abierto para desarrollar nuevas aplicaciones, herramientas y servicios que ofrecer a empresas e individuos. Así es como se están creando muchas aplicaciones diferentes y se están creando miles de puestos de trabajo más.

Sabemos que esto puede ser útil para los amigos, pero ¿qué pasa con los enemigos?

A medida que se intensifican las guerras de IA entre democracias liberales como Estados Unidos, el Reino Unido y (lentamente) la Unión Europea, sabemos que adversarios autoritarios como el PCCh y Rusia están creando sus propias aplicaciones.

El temor de que China utilice modelos estadounidenses de código abierto para crear algún tipo de aplicación militar es un peligro claro y presente para muchos investigadores políticos y de seguridad nacional, así como para los políticos.

Un grupo bipartidista de legisladores de la Cámara de Representantes de Estados Unidos quiere poner controles de exportación sobre modelos de IA, así como bloquear el acceso extranjero a servidores en la nube de EE. UU. que puedan alojar software de IA.

Si esto le resulta familiar, también deberíamos recordar que el gobierno de los EE. UU. una vez clasificó la criptografía y el cifrado como "municiones" que no podían exportarse a otros países (ver Las guerras de las criptomonedas). Muchos de los argumentos que escuchamos hoy fueron invocados por algunas de las mismas personas que en aquel entonces.

En la actualidad, los protocolos de cifrado son el estándar de oro para muchos servicios bancarios y web, mensajería y todo tipo de comunicación electrónica. Esperamos que nuestros amigos los utilicen, y también nuestros enemigos. Como el código es conocimiento y habla, sabemos cómo evaluarlo y responder si es necesario.

Independientemente de quién utilice la IA de código abierto, así es como deberíamos verla hoy. Son meras herramientas que la gente usará para bien o para mal. Depende de los gobiernos determinar cuál es la mejor manera de detener los usos iliberales o nefastos que nos perjudican, en lugar de intentar prohibir o restringir la creación de software libre y abierto desde el principio.

Limitar el código abierto amenaza nuestro propio avance

Si nos propusiéramos restringir y limitar nuestra capacidad de crear y compartir código abierto, sin importar quién lo use, eso equivaldría a imponer censura. Debe haber otra manera.

Si hay un “Maratón de los cien años"Entre Estados Unidos y las democracias liberales por un lado y las autocracias como el Partido Comunista Chino por el otro, esto no es algo que se gane o se pierda en función de las licencias de software. Necesitamos la mayor competencia posible.

El ejército chino ha estado desarrollando sus capacidades con billones de dólares valor de las inversiones que abarcan mucho más allá de los chatbots de IA y saltan los protocolos lógicos.

los robo de propiedad intelectual en fábricas de Shenzhen, o en tribunales estadounidenses por financiación de litigios de terceros El problema de la guerra que viene de China es muy real y tendrá graves consecuencias económicas. Incluso puede cambiar el equilibrio de poder si nuestras economías y países entran en pie de guerra.

Pero estas son cuestiones distintas de la capacidad de las personas libres para crear y compartir código abierto del que todos podemos beneficiarnos. De hecho, si queremos seguir con nuestro estilo de vida y seguir contribuyendo a la productividad y el crecimiento globales, es necesario que defendamos el código abierto.

Si las democracias liberales quieren competir con nuestros adversarios globales, no lo harán reduciendo las libertades de los ciudadanos en nuestros propios países.