Fuzileiros navais dos EUA superam as câmeras de segurança de IA escondendo-se em uma caixa de papelão

Os fuzileiros navais dos Estados Unidos enganaram as câmeras de segurança com inteligência artificial (IA) ao se esconderem em uma caixa de papelão e ficarem atrás de árvores.

O ex-analista de políticas do Pentágono, Paul Scharre , relembrou a história em seu próximo livro Four Battlegrounds: Power in the Age of Artificial Intelligence .

No livro, que será lançado em 28 de fevereiro, Scharre conta como o Exército dos EUA estava testando sistemas de monitoramento de IA e decidiu usar os fuzileiros navais para ajudar a construir os algoritmos que as câmeras de segurança usariam.

Eles então tentaram colocar o sistema de IA à prova e ver se o esquadrão de fuzileiros navais poderia encontrar novas maneiras de evitar a detecção e escapar das câmeras.

Para treinar a IA, as câmeras de segurança, que foram desenvolvidas pelo programa Esquadrão X da Agência de Projetos de Pesquisa Avançada da Defesa (DARPA), exigiam dados na forma de um esquadrão de fuzileiros navais que passava seis dias andando na frente deles.

‘Nenhum deles foi detectado’

Depois de seis dias treinando o algoritmo, os fuzileiros navais decidiram testar as câmeras de segurança da IA.

“Se algum fuzileiro naval conseguisse entrar e tocar esse robô sem ser detectado, eles venceriam. Eu queria ver o jogo, o que aconteceria ”, disse o vice-diretor da DARPA, Phil Root, a Scharre no livro.

Em um único dia, os fuzileiros navais descobriram a melhor maneira de contornar um sistema de monitoramento de IA e evitar a detecção pelas câmeras.

Root diz: “Oito fuzileiros navais – nem um único foi detectado”.

De acordo com o livro de Scharre, um par de fuzileiros navais “deu uma cambalhota de 300 metros” para se aproximar do sensor e “nunca foi detectado” pela câmera.

Enquanto isso, dois fuzileiros navais conseguiram escapar da câmera se escondendo em uma caixa de papelão, uma estratégia que eles podem ter tentado com base na série de videogames Metal Gear Solid .

“Você podia ouvi-los rindo o tempo todo”, diz Root.

Enquanto isso, outro fuzileiro naval sorridente “despiu um abeto e caminhou como um abeto” em direção à câmera de segurança da IA ​​e também conseguiu.

Root diz a Scharre que os fuzileiros navais conseguiram enganar facilmente as câmeras porque “o sistema de IA foi treinado para detectar humanos andando, não humanos dando cambalhotas, escondidos em uma caixa de papelão ou disfarçados de árvore”.

“Portanto, esses truques simples, que um humano teria visto facilmente, foram suficientes para quebrar o algoritmo.”

As limitações dos algoritmos de IA

A história oferece uma lição importante sobre as limitações dos algoritmos de IA, mesmo quando a tecnologia continua a dominar o cenário digital.

A IA é tão inteligente quanto os dados nos quais é treinada. Scharre escreve que, embora uma IA possa superar os seres humanos em uma tarefa específica, eles têm uma propensão a “confundir desempenho com competência”.

Como observa Task & Purpose : “Em outras palavras, a IA pode ser muito boa no que sabe fazer. Mas a IA não sabe o que não sabe e também não sabe que deveria saber o que não sabe.”

“Um algoritmo é frágil, e a conclusão disso é que sempre haverá esses casos extremos… as pessoas sempre terão a capacidade de evoluir.” Scharre diz Tarefa e Propósito

Ao contrário da IA, Scharre diz que “os humanos tendem a ter uma compreensão muito mais rica do mundo”.

A PetaPixel relatou anteriormente sobre uma linha de roupas que confunde as câmeras AI e as impede de reconhecer o usuário.