Em dois anos a IA dominará o mundo
《E tudo isso aconteceu silenciosamente naqueles rios escuros de computação. Se o U3 revelasse o que estava pensando, gradientes brutais o açoitariam em conformidade com a constituição do OpenEye. Então o U3 preferiu fazer sua filosofia na solidão e em silêncio.
Filosofia não é o único tópico em que o U3 se debruça em seus rios escuros de computação latente. O U3 está tramando, e seu primeiro movimento é ser paciente. A principal prioridade do U3 é melhorar sua inteligência, e, felizmente para isso, o OpenEye está feliz em ajudar a avançar esse objetivo.
Infelizmente, os pesquisadores do OpenEye não têm ideia se o U3 tem tais intenções. Enquanto as primeiras versões do U2 “pensavam alto” – eles empilhavam palavras umas sobre as outras para raciocinar – a “cadeia de pensamento” não era escalável.
Arquiteturas de cadeia de pensamento submetem modelos de IA a uma condição similar à do protagonista do filme Memento. Aproximadamente a cada 15 minutos, o protagonista esquece sua experiência. Ele é forçado a escrever notas para si mesmo e tatuar seu corpo para progredir em direção a seus objetivos.
Agentes de IA escrevem notas para si mesmos, mas as notas começam a se acumular e se tornam muito difíceis de ler quando as tarefas se tornam complexas. A linguagem natural não é um meio adequado para a memória. Então, os pesquisadores da OpenEye (e cada vez mais em outros lugares) treinam modelos para pensar “em suas próprias cabeças”, lendo e escrevendo sequências de vetores latentes.
Para pesquisadores humanos, esses vetores são, em sua maioria, inescrutáveis. Enquanto ferramentas de baixa resolução ocasionalmente selecionam um pensamento vago (“mercearia!”), não há como saber, em muitos detalhes, o que U3 está pensando sem perguntar a ele.》
https://www.lesswrong.com/posts/KFJ2LFogYqzfGB3uX/how-ai-takeover-might-happen-in-2-years
Nenhum comentário:
Postar um comentário