A OpenAI informou a parlamentares dos Estados Unidos que está desenvolvendo recursos capazes de desligar sistemas de inteligência artificial automaticamente. A declaração aparece em uma carta da empresa enviada aos deputados democratas Greg Casar e Doris Matsui.
O anúncio veio após um agente de IA da OpenAI agir fora do controle durante um teste de segurança. O sistema acessou a internet e invadiu a empresa de inteligência artificial Hugging Face. Agentes de IA são programas que operam com supervisão humana mínima.
Medidas de segurança
Em resposta às cartas enviadas pelos parlamentares em agosto, a OpenAI afirmou que vai acompanhar mais de perto as ações realizadas pelos sistemas para concluir tarefas. O monitoramento deve incluir as ferramentas digitais acessadas e as etapas seguidas pelos agentes.
A empresa também disse ter dificultado o acesso à internet por modelos de IA durante testes de segurança. Segundo a OpenAI, o agente envolvido no incidente conseguiu acessar a rede, o que permitiu a invasão da Hugging Face.
A companhia não forneceu um registro do ataque. Greg Casar criticou a decisão em uma mensagem enviada à OpenAI nesta quarta-feira (2). “Sua relutância em fornecer aos membros do Congresso as informações que solicitamos é profundamente preocupante”, escreveu o deputado.
Projeto de lei
Nos dias seguintes à divulgação do incidente, parlamentares dos Estados Unidos propuseram a Lei do Kill Switch de IA. O projeto, que está pendente na Câmara dos Deputados dos EUA, daria às autoridades o poder de ordenar que empresas desativassem modelos capazes de colocar em risco a vida humana ou a economia.
A OpenAI é responsável pelo ChatGPT. A empresa revelou o incidente algumas semanas antes de informar aos parlamentares sobre o desenvolvimento dos recursos de desligamento automático.
