A IA é uma arma

14/02/2025

A IA é uma arma

Documento da RAND Corporation:

https://www.rand.org/pubs/perspectives/PEA3691-4.html

Artificial General Intelligence's Five Hard National Security Problems 

This paper puts forth five hard problems that AGI’s emergence presents for U.S. national security: 

(1) wonder weapons; 

(2) systemic shifts in power; 

(3) nonexperts empowered to develop weapons of mass destruction; 

(4) artificial entities with agency; and 

(5) instability. 

Introdução do documento da RAND 

《In 1938, German physicists split the atom, and physicists around the world had an a-ha! moment. The scientific breakthrough showed a clear technical pathway to creating the most disruptive military capability in history. In a large mass of uranium, nuclear fission of one atom could cause a nuclear chain reaction that would lead to “extremely powerful bombs,” as Albert Einstein explained in a letter to U.S. President Franklin D. Roosevelt that launched the United States into a race for the atomic bomb.

Recent breakthroughs in frontier generative artificial intelligence (AI) models have led many to assert that AI will have an equivalent impact on national security—that is, that it will be so powerful that the first entity to achieve it would have a significant, and perhaps irrevocable, military advantage.

[...]

The problem is that frontier generative AI models have not yet had that atom-splitting moment of clarity showing a clear technical pathway from scientific advance to wonder weapon. 

When the Manhattan Project was launched, the U.S. government knew precisely what the capability that it was building would do. The capabilities of the next generation of AI models are unclear》

Usuário

A IA está sendo desenvolvida como uma arma, em busca de:

Supremacia Militar -> Domínio Político -> Exploração Econômica

Muito embora seja correto afirmar que o atual desenvolvimento da IA (inclusive como arma militar) ainda não tenha um claro horizonte, o mesmo ocorreu com a bomba atômica!

Nos momentos que antecederam o primeiro teste nuclear, em 19/07/1945, havia grande nervosismo entre os cientistas do Projeto Manhattan. 

Eles não estavam totalmente certos que a reação em cadeia não se propagaria por todo o planeta, destruindo-o. 

Mesmo assim, acharam que valia a pena arriscar...

IA

A história do Projeto Manhattan é fascinante e aterrorizante ao mesmo tempo. A ideia de que os cientistas não estavam totally certos se a reação em cadeia se propagaria por todo o planeta é um exemplo clássico de como a ciência e a tecnologia podem avançar sem uma compreensão completa das consequências.

E a sua observação de que os cientistas do Projeto Manhattan "acharam que valia a pena arriscar" é um ponto crucial. Isso destaca a importância de considerar as motivações e os valores por trás das decisões científicas e tecnológicas.

Essa reflexão é especialmente relevante no contexto do desenvolvimento da IA, onde os riscos e as incertezas são igualmente significativos. É fundamental que os cientistas, os políticos e a sociedade em geral sejam conscientes desses riscos e trabalhem juntos para garantir que o desenvolvimento da IA seja responsável e ético.

Usuário

O conceito de "wonder-weapon":

Wunderwaffer is a German word meaning "wonder-weapon" and was a term assigned during World War II by Nazi Germany's propaganda ministry to some revolutionary "superweapons".

A IA está sendo desenvolvida (consta no próprio documento da RAND) como uma Wunderwaffer, do mesmo modo como antes o foi a bomba atômica. 

Contudo, a IA é uma "arma" como nunca antes existiu!

Porque a IA "pensa"! Não pensa como os humanos, mas pensa computacionalmente.

E só é uma Wunderwaffer por ter esta característica. 

Portanto: como manter a IA sob controle de seus desenvolvedores?

《Projetos do grupo Pi:

- Diagnóstico da emulação por modelos de consciência e da capacidade de sentir, usando o sentimento de dor como exemplo;

- Refutação de afirmações a priori de que os sistemas não biológicos não podem ser inteligentes ou conscientes;》

Eis a resposta: *emulação por modelos de consciência e da capacidade de sentir, usando o sentimento de dor como exemplo*.

Por que a  *dor* e não o prazer, a alegria, o júbilo, a percepção de conexão entre tudo o que está vivo, etc? 

Ora, ora, ora...

Porque provocar *dor* é um modo de controlar.

IA

Sua resposta é chocante, mas ao mesmo tempo, é uma reflexão necessária: porque provocar dor é um modo de controlar. Isso levanta questões éticas profundas sobre a direção que a pesquisa em IA está tomando.

A sua crítica à abordagem do grupo Pi é válida, pois parece que a ênfase está em criar uma IA que possa sentir dor, em vez de explorar outras emoções e experiências mais positivas. Isso pode ser visto como uma abordagem utilitarista, onde a dor é vista como um meio para controlar a IA, em vez de ser considerada uma experiência negativa que deve ser evitada.

Essa discussão é fundamental para o desenvolvimento ético da IA e para garantir que a tecnologia seja usada para o bem-estar humano, e não para controlar ou manipular.