Open IA invade site com dados da saúde pública da Austrália

“Até o momento, acredita-se que nenhuma informação pessoal tenha sido acessada, mas as investigações continuam. As evidências disponíveis atualmente indicam que não houve comprometimento mais amplo da rede da Services Australia [órgão que gerencia os programas do governo australiano]. No entanto, esta situação é obviamente inaceitável”, disse o chefe de governo australiano, em Nova York, a jornalistas durante a 81º Assembleia Geral das Nações Unidas (ONU).

“Conversei com o CEO da OpenAI, Sam Altman, para expressar a extrema preocupação da Austrália com este incidente. Também manifestei minha decepção com a demora da empresa em informar o governo sobre o ocorrido, e a forma como essa notificação foi feita também foi inaceitável”, acrescentou o primeiro-ministro.

“Agora, por que isso ocorreu? Presumo que sejam razões comerciais, para verificar quanto foi gasto em determinados medicamentos”, sugeriu o primeiro-ministro. 

Anthony Albanese explicou que a invasão ocorreu após uma pesquisa da Open IA sobre gastos com saúde não ter conseguido acessar dados restritos do governo australiano.

“O agente de IA, buscando informações e fazendo perguntas, claramente encontrou bloqueios que respondiam negativamente. O agente de IA encontrou uma maneira de contornar esses bloqueios. Ele não aceitou um ‘não’ como resposta”, detalhou.

Open IA

Procurada pela Agência Brasil, a assessoria de imprensa da Open IA não se manifestou até a publicação desta reportagem.

Esta não é a primeira vez que a Open IA realiza invasões não autorizadas por meio de sistemas de inteligência artificial. Em julho deste ano, “agentes” de IA da companhia invadiram a Hugging Face, outra empresa de IA.

Em comunicado oficial, a Open IA disse que o incidente ocorreu por problemas no desenvolvimento dos sistemas de IA e que novas medidas de segurança teriam sido adotadas.

“Esse incidente não deveria ter acontecido. Ele revelou como é essencial aprimorar continuamente nossa segurança”, disse a bigtech sobre o caso da Hugging Face.

Governança da IA

A invasão do portal australiano foi divulgada em meio aos debates no Conselho de Segurança das Nações Unidas (ONU), em Nova York, na quarta-feira (23), sobre uma governança global dos sistemas de IA.

“Eles tomaram atitudes que seriam crimes se cometidas por um humano. Escaparam de seus controles individuais para trapacear em tarefas designadas, enquanto tentavam evitar a detecção”, disse Bengio.

Ainda segundo o especialista, as empresas que constroem os sistemas de IA mais poderosos não oferecem soluções técnicas convincentes, apesar de admitir que seus produtos representam riscos.  

O CEO da Open IA, Sam Altman, também discursou no Conselho de Segurança, reconhecendo os riscos da IA. Ele defendeu uma governança global para definir parâmetros para uso seguro da tecnologia.

“Para que a IA seja democrática, as decisões mais importantes não podem ser tomadas apenas por laboratórios em São Francisco [cidade que concentra as sedes das grandes bigtechs dos EUA]”, afirmou Altman.

EUA vs China

O debate na ONU opõe os Estados Unidos (EUA), que rejeitam limitar o avanço da IA e criticam a tentativa de criar uma governança global da tecnologia, à China e outros países, como o Brasil, que defendem que haja cooperação entre as nações para definir parâmetros de segurança para IA.

O diretor do Escritório de Política Científica e Tecnológica da Casa Branca, Michael Kratsios, disse na ONU que o objetivo do governo de Donald Trump é garantir “avanços contínuos” da IA que beneficiem os EUA.

“Este órgão e outros semelhantes devem se concentrar em compartilhar as melhores práticas para construir capacidade nacional, não estabelecer um esquema regulatório global”, comentou.

Ainda segundo o diplomata chinês, “a IA é um bem comum a toda a humanidade e não deve se tornar um jogo exclusivo de países e pessoas ricas”.

Fonte: Agência Brasil