O governo da Austrália anunciou uma consulta repentina de oito semanas que buscará entender se alguma ferramenta de inteligência artificial de alto risco deve ser banida.
Outras regiões, incluindo Estados Unidos, União Europeia e China, também lançaram medidas para entender e potencialmente mitigar os riscos associados ao rápido desenvolvimento da IA nos últimos meses.
O ministro da Indústria e Ciência, Ed Husic, anunciou o lançamento de dois documentos – um documento de discussão sobre “IA segura e responsável na Austrália” e um relatório sobre IA generativa do Conselho Nacional de Ciência e Tecnologia.
O governo está querendo feedback sobre como apoiar o uso seguro e responsável da IA e discute se deve adotar abordagens voluntárias, como estruturas éticas, se uma regulamentação específica é necessária ou adotar uma combinação de ambas as abordagens.
Uma pergunta na consulta pergunta diretamente: “se quaisquer aplicativos ou tecnologias de IA de alto risco devem ser banidos completamente?” e quais critérios devem ser usados para identificar tais ferramentas de IA que devem ser banidas.
Um rascunho da matriz de risco para modelos de IA foi incluído para feedback no documento de discussão abrangente. Embora apenas para fornecer exemplos, categorizou a IA em carros autônomos como “alto risco”, enquanto uma ferramenta de IA generativa usada para fins como a criação de registros médicos de pacientes foi considerada “risco médio”.
#AI is already part of our lives. As the technology develops, we need to ensure it meets Australians’ expectations of responsible use. Be part of the @IndustryGovAu discussion, below. https://t.co/Gz11JCXlsG
— Australia's Chief Scientist (@ScienceChiefAu) June 1, 2023
O destaque no artigo foi o uso positivo da IA nas indústrias médica, de engenharia e jurídica, mas também seus usos nocivos, como ferramentas deepfake, uso na criação de notícias falsas e casos em que bots de IA encorajaram a automutilação.
O viés dos modelos de IA e as alucinações – informações sem sentido ou falsas geradas pela IA – também foram levantados como problemas.
O documento de discussão afirma que a adoção da IA é relativamente baixa no país, pois tem baixos níveis de confiança pública. Ele também apontou para a regulamentação da IA em outras jurisdições e a proibição temporária da Itália no ChatGPT.
Enquanto isso, o relatório do Conselho Nacional de Ciência e Tecnologia disse que a Austrália tem algumas capacidades vantajosas de IA em robótica e visão computacional, mas sua capacidade fundamental básica em grandes modelos de linguagem e áreas relacionadas é relativamente fraca. A concentração de recursos de IA generativa dentro de um pequeno número de grandes multinacionais e principalmente empresas de tecnologia com sede nos EUA apresenta riscos potenciais para a Austrália.”
O relatório discutiu ainda mais a regulamentação global de IA, deu exemplos de modelos generativos de IA e opinou que eles provavelmente impactarão tudo, desde bancos e finanças até serviços públicos, educação e indústrias criativas.
