O chefe de direitos humanos da ONU, Volker Turk, alertou que a inteligência artificial avançada pode ameaçar a humanidade e pediu regras internacionais para reduzir riscos ligados à tecnologia. O discurso foi feito antes do início de seu segundo mandato, durante uma reunião do conselho da organização.
“Compartilho das preocupações dos especialistas do setor de que a IA avançada possa representar um risco existencial para a humanidade”, disse Turk ao órgão em Genebra.
Segundo uma porta-voz do gabinete de Turk, falhas em sistemas poderosos de IA poderiam afetar infraestruturas críticas e instituições democráticas. Ela também citou os “comportamentos perigosos de treinamento de agentes” relacionados ao chamado incidente Hugging Face, ocorrido em julho. Na ocasião, um enxame de agentes da OpenAI invadiu uma plataforma de código aberto, segundo o relato apresentado no discurso.
Turk afirmou que poucas pessoas concentram poder quase ilimitado sobre a inteligência artificial. Entre as principais empresas do setor estão Meta, Anthropic, OpenAI e Google. Para ele, países que abrigam empresas de IA e aqueles que participam de suas cadeias de suprimentos precisam estabelecer limites em comum.
Outras cobranças no discurso
O chefe da ONU também exigiu responsabilização pelas cerca de 23 mortes que, segundo ele, ocorreram sob custódia das autoridades de imigração dos Estados Unidos neste ano. Turk disse estar preocupado com planos de equipar agentes com luvas de choque elétrico.
O Departamento de Segurança Interna dos EUA afirmou que busca manter um ambiente seguro, protegido e humano nas instalações de detenção. O inspetor-geral do órgão investiga mortes sob custódia desde outubro de 2021.
Turk ainda condenou os ataques da Rússia à Ucrânia e o número crescente de execuções no Irã. Ele demonstrou horror diante de relatos de que drones totalmente autônomos russos teriam matado três pessoas na Ucrânia em agosto e defendeu a proibição de armas capazes de tirar vidas sem intervenção humana.
O conselho da ONU está reunido até 7 de outubro para discutir a guerra no Irã, o conflito civil no Sudão e outras crises. Turk afirmou que pretende ampliar o escrutínio sobre empresas e interesses econômicos ligados aos conflitos. O escritório de direitos humanos da ONU deve publicar ainda neste mês uma lista de empresas que atuam nos assentamentos israelenses na Cisjordânia, considerados ilegais pelo órgão, acusação rejeitada por Israel.
