Recursos neurais recentemente descobertos em sistemas de inteligência artificial (IA) podem ser a chave para resolver as alucinações de IA, um dos maiores desafios da indústria.
As “alucinações” de IA são um resultado não intencional do treinamento de grandes modelos de linguagem para atuarem como sistemas de IA generativos.
As alucinações ocorrem quando os modelos de IA produzem informações novas, geralmente incorretas, que não estão contidas em seu conjunto de dados.
No entanto, as características neurais recém-descobertas podem ajudar a resolver o problema das alucinações de IA, de acordo com Dario Amodei, cofundador e CEO da Anthropic.
Amodei, durante um discurso no Viva Tech Paris, disse:
“Os sistemas modernos de IA têm centenas de milhões de neurônios… Encontramos 30 milhões de recursos em nosso modelo. Recursos para vulnerabilidades de segurança ou preconceitos contra certos tipos de grupos… Agora podemos intervir neles e alterá-los.”
O desafio das alucinações é que os protocolos de IA não sabem que o resultado está incorreto. No entanto, os recursos recém-descobertos podem tornar as alucinações de IA uma coisa do passado, explicou Amodei.
“A redução das alucinações de inteligência artificial está entre os principais benefícios desta nova descoberta.”
A Anthropic já vem pesquisando os efeitos da alteração de recursos internos em seu assistente de IA para mudar seu comportamento. Um recurso específico criou um modelo de demonstração que fez a IA focar intensamente na Ponte Golden Gate. A Anthropic disse em uma postagem:
“O fato de podermos encontrar e alterar esses recursos nos deixa mais confiantes de que estamos começando a entender como os grandes modelos de linguagem realmente funcionam.”
A Anthropic, uma empresa líder em desenvolvimento de IA, lançou seu chatbot de IA, Claude, na Europa no início de maio. Desde então, o assistente de IA está disponível através de seu aplicativo web e aplicativo iOS em vários idiomas europeus, incluindo francês, alemão, espanhol e italiano.
A falta de dados tem sido o principal obstáculo ao desenvolvimento da IA.
No entanto, graças à criação de conjuntos de dados sintéticos, o maior desafio atualmente é a falta de talentos de desenvolvimento, e não a quantidade de dados. Amodei disse:
“Os dados não serão um gargalo, pois algumas empresas estão começando a criar dados sintéticos… O avanço da IA se resumirá principalmente ao talento…”
Amodei observou que os dados sintéticos são promissores para a escalabilidade da IA, mas a proporção entre dados sintéticos e dados do mundo real não pode ser infinita, pois resultaria em conjuntos de dados sintéticos mais fracos e irrealistas.
A indústria de IA tem visto um interesse crescente dos investidores desde o início de 2024.
