Os efeitos adversos da tecnologia de inteligência artificial (IA) nas mãos de criminosos, permitindo a criação de deepfakes e malware, aumentaram a urgência de ação.
A OpenAI, criadora do ChatGPT e do Dall-e, anunciou um programa de concessão de cibersegurança no valor de 1 milhão de dólares para aprimorar e medir o impacto de tecnologias de cibersegurança impulsionadas por IA.
A empresa de IA tem enfatizado consistentemente a importância da regulamentação da IA para frustrar possíveis aplicações maliciosas. Em uma corrida armamentista digital em andamento, a OpenAI parece estar tomando medidas proativas para garantir que as forças positivas não fiquem para trás.
A OpenAI apresentou uma variedade diversificada de conceitos de projetos, incluindo a criação de armadilhas para capturar atacantes, auxiliando desenvolvedores no projeto de software seguro e aprimorando os procedimentos de gerenciamento de patches para uma eficácia ótima.
Os objetivos do programa são evidentes, conforme declarado pela OpenAI em seu post oficial no blog:
“Nosso objetivo é promover o avanço das capacidades de cibersegurança impulsionadas por IA para defensores por meio de subsídios e assistência adicional.”
O foco está em avaliar a eficácia dos modelos de IA e determinar métodos para aprimorar suas capacidades de cibersegurança.
Essa iniciativa inovadora busca alcançar três objetivos-chave. Em primeiro lugar, busca empoderar os defensores por meio do aproveitamento das capacidades da IA e de esforços colaborativos para deslocar o equilíbrio a favor daqueles dedicados a aprimorar a segurança geral.
Outro foco da iniciativa é medir as capacidades. A OpenAI pretende fornecer suporte para projetos que se concentram no desenvolvimento de métodos de quantificação para avaliar a eficácia dos modelos de IA no campo da cibersegurança. Além disso, a OpenAI pretende elevar o discurso ao promover discussões aprofundadas sobre a relação intrincada entre IA e cibersegurança.
Essa iniciativa perturba a perspectiva convencional sobre cibersegurança. A OpenAI destaca a importância da frase comumente ouvida de que os defensores devem sempre estar certos, enquanto os atacantes precisam ter sucesso apenas uma vez. No entanto, a empresa reconhece o poder da colaboração em relação ao objetivo compartilhado de garantir a segurança das pessoas. Ela está determinada a demonstrar que, com a ajuda da IA, os defensores podem mudar a dinâmica e obter vantagem.
