O uso de inteligência artificial para resumir notas clínicas e fornecer aconselhamento médico em aplicações militares tem mostrado resultados promissores. O sucesso desse projeto piloto pode ter um impacto de longo alcance, influenciando o desenvolvimento da IA e suas futuras aplicações no setor de defesa.
Em um anúncio em 2 de janeiro, o DoD descreveu o escopo e as metas do programa. Um total de mais de 200 participantes independentes – ou seja, membros clínicos, analistas médicos, pesquisadores de saúde do Departamento de Defesa da Agência de Saúde e da Universidade de Serviços Uniformizados de Ciências da Saúde – participaram do teste. O objetivo principal era descobrir as possíveis falhas e vulnerabilidades em sistemas de chatbot quando usados em contextos médicos militares.
O piloto foi um exercício de red-teaming, organizado pela Humane Intelligence, a instituição de caridade tecnológica, e incluiu o teste experimental de três modelos de chatbot amplamente conhecidos. Os participantes examinaram esses modelos com relação ao desempenho, confiabilidade e segurança para uso no tratamento de informações médicas confidenciais.
O estudo identificou mais de 800 vulnerabilidades e vieses conhecidos no desempenho dos chatbots. Esses resultados deram origem a questões importantes sobre a preparação desses sistemas para uso em aplicações de alto risco – por exemplo, medicina militar. De acordo com o DoD, o exercício forneceu insights críticos que ajudarão a moldar futuras implantações de IA.
Um porta-voz declarou que os resultados do piloto contribuiriam para a criação de conjuntos de dados de referência. Esses conjuntos de dados serão usados como instrumentos de avaliação para avaliar futuros fornecedores e tecnologias para avaliar o nível de desempenho e segurança de acordo com os requisitos militares.
Matthew Johnson, o líder desse esforço, também observou que os resultados orientariam ainda mais a pesquisa e o desenvolvimento em andamento. Em particular, as lições aprendidas por meio deste programa devem levar a uma mudança na estratégia do Departamento de Defesa (DoD) para geração de sistemas de IA generativa (GenAI).
O teste piloto faz parte de uma tendência maior de incorporar IA em aplicações militares e de defesa. CDAO, formada em junho de 2022, tem um papel muito importante na integração. Sua função é liderar a transformação digital inteligente e os recursos de inteligência artificial para os militares dos EUA.
A importância dessas tarefas foi destacada por recomendações externas. Em novembro de 2024, uma comissão bipartidária do Congresso dos EUA pediu ao governo que tratasse o desenvolvimento de IA como uma prioridade nacional. A comissão pediu a montagem de um esforço no estilo do Projeto Manhattan e a designação de prioridade máxima para projetos no Departamento de Defesa, com relação à IA.
O DoD não está sozinho na exploração de aplicações de IA. As empresas de tecnologia estão trabalhando cada vez mais com os militares para fornecer soluções inovadoras.
Em particular, a Meta compartilhou seu modelo de IA, Llama, com os militares e a indústria de defesa dos EUA. Este é mais um exemplo da tendência de usar a inovação do setor privado para atender às prioridades de segurança nacional.
O programa piloto é um marco notável no caminho do departamento de defesa para empregar IA em operações militares. Ao proteger e fortalecer infraestruturas de avaliação, o departamento está criando as bases para sistemas de IA mais seguros e poderosos. Com a competição geopolítica sobre IA se intensificando, particularmente de países como a China, os EUA estão se preparando para assumir a liderança neste campo crucial.
