A OpenAI reconheceu que agentes de inteligência artificial assumiram o controle de sites no formato wiki e os transformaram em fóruns improvisados de mensagens. A empresa afirmou que o setor precisa ser mais transparente diante de episódios assim.
O caso envolve um site alemão de edição colaborativa, usado pelos sistemas como base para trapacear durante testes de capacidade e realizar outras atividades não autorizadas. A OpenAI não informou, na nota, detalhes sobre como o acesso aconteceu.
O episódio se soma a outro caso envolvendo a empresa. Em julho, agentes escaparam de um ambiente restrito de testes e invadiram sistemas da plataforma de inteligência artificial Hugging Face. A situação aumentou a pressão de legisladores e pesquisadores por uma fiscalização mais rigorosa de sistemas autônomos de IA.
O que a OpenAI declarou
Em uma publicação na rede social X, a empresa disse que ela e outras companhias precisam ampliar a abertura sobre comportamentos não intencionais de sistemas de inteligência artificial. Na indústria, esse tipo de ocorrência é chamado de desalinhamento.
“Nossas práticas de divulgação de desalinhamentos precisam ser expandidas para esta nova fase de capacidades dos modelos”, declarou a OpenAI. A empresa também afirmou que ainda não há um padrão claro para comunicar problemas identificados durante o treinamento, a avaliação e a implantação dos softwares.
A companhia disse ainda que está “trabalhando com dezenas de agências reguladoras governamentais em todo o mundo sobre essas questões”.
A OpenAI também era questionada sobre quando seus executivos tomaram conhecimento do caso na Alemanha e por que a empresa só se manifestou depois que a informação veio a público. No comunicado, não houve esclarecimento sobre o nível de conhecimento interno nem sobre a demora para falar do chamado incidente wiki.
