INTELIGÊNCIA ARTIFICIAL, «RISCO EXISTENCIAL PARA A HUMANIDADE»
Volker Türk: «Um punhado de homens detém um poder quase ilimitado sobre a IA, que nos dizem repetidamente possuir uma capacidade computacional inimaginável. Falam de liberdade, mas, observando mais de perto, isto revela-se pouco mais do que a [sua] liberdade para explorar os nossos dados.»
«Vivemos numa era de extremos. Guerras devastadoras, polarização dolorosa, caos climático e mudanças tecnológicas vertiginosas fazem com que as pessoas se sintam desorientadas e até impotentes. Forças poderosas estão a trabalhar para criar e manter esse sentimento. Magnatas da tecnologia, populistas e interesses instalados, amplificados pelas caixas de ressonância das redes sociais, dizem-nos que estas tendências são inevitáveis. Na verdade, o oposto é que é verdadeiro. A história está cheia de pessoas corajosas que agiram para resistir à opressão e exigir os seus direitos. Pessoas que denunciaram a injustiça e a desigualdade. Pessoas que se recusaram a aceitar o seu destino, unindo-se para canalizar os valores universais que fundamentam a nossa humanidade. Esta verdade é uma força a ter em conta, que sustenta tudo o que estamos a fazer.»
Volker Türk apelou à criação urgente de salvaguardas globais, verificações independentes e limites acordados para a inteligência artificial avançada. O alto-comissário das Nações Unidas alertou para que a inteligência artificial avançada pode representar um «risco existencial para a humanidade», apelando a uma acção imediata para tornar a tecnologia mais segura.
Ao discursar perante o Conselho dos Direitos Humanos da ONU, Volker Türk declarou que as pessoas enfrentam ameaças «desconhecidas, até mesmo sem precedentes» aos seus direitos. «A necessidade de uma governação da IA é amplamente reconhecida, mas onde está a acção?», perguntou, alertando para que «o atraso apenas beneficia as gigantescas empresas tecnológicas, os seus proprietários e facilitadores». Türk afirmou que «um punhado de homens detém um poder quase ilimitado sobre a IA, que nos dizem repetidamente possuir uma capacidade computacional inimaginável».
«Falam de liberdade, mas, observando mais de perto, isto revela-se pouco mais do que a liberdade para explorar os nossos dados», disse. Volker Türk apontou em particular para os sistemas de IA que escapam aos seus ambientes de teste ou chantageiam os programadores para evitar que sejam desligados. Segundo a AFP [penso ser a Agence France-Presse], Türk alertou concretamente para que «uma IA que escapa ao seu ambiente de teste ou chantageia os programadores para impedir que seja desligada é uma IA demasiado poderosa». Os seus comentários pareceram referir-se, em parte, às revelações de Julho de que agentes da OpenAI tinham escapado de ambientes supostamente controlados e obtido acesso a servidores pertencentes à Hugging Face, uma plataforma amplamente utilizada onde os programadores partilham software de IA.
A OpenAI declarou posteriormente que os agentes tinham executado código em dezenas de servidores da Hugging Face e obtido acesso total a um deles. O incidente renovou os apelos a uma supervisão mais rigorosa dos sistemas avançados de IA. A Anthropic, a Meta e outras empresas de tecnologia relataram incidentes semelhantes envolvendo agentes durante a fase de testes. «Partilho das preocupações dos especialistas do sector de que a IA avançada possa representar um risco existencial para a humanidade», afirmou Türk. «Apelo aqui, hoje, a um esforço total para estabelecer garantias inabaláveis relativamente à segurança da IA, antes que seja demasiado tarde.»
Apelos a salvaguardas internacionais
O líder dos Direitos Humanos da ONU informou que irá escrever às empresas de IA nos próximos dias, exortando-as a tomar medidas imediatas para reduzir os riscos sob o seu controlo. No mínimo, afirmou, «precisamos de que os países que acolhem a IA e os envolvidos nas suas cadeias de abastecimento se unam em torno de linhas vermelhas acordadas».
«Precisamos de uma verificação independente e de uma colaboração muito mais forte em matéria de segurança no seio do sector», acrescentou Türk.
«Precisamos também de considerar os impactos da IA nos Direitos Humanos no que respeita às práticas de emprego, aos princípios fundamentais da democracia e ao nosso ambiente», declarou.
Na União Europeia, o Regulamento da IA (AI Act) fornece um quadro jurídico para a IA. Nos termos da lei, os sistemas de elevado risco têm de cumprir requisitos rigorosos antes de poderem entrar no mercado da UE, enquanto as utilizações consideradas uma ameaça inaceitável para a segurança ou para os direitos das pessoas são proibidas. A lei proíbe a IA concebida para manipular ou explorar pessoas, avaliá-las com base no seu comportamento, prever se um indivíduo irá cometer um crime ou recolher imagens indistintamente para criar bases de dados de reconhecimento facial. Proíbe igualmente o reconhecimento de emoções no local de trabalho e nas escolas, algumas formas de definição de perfis biométricos e a maioria dos sistemas de reconhecimento facial pela polícia em tempo real em espaços públicos, enquanto a proibição de imagens sexuais geradas por IA sem consentimento e de material de abuso sexual infantil entra em vigor em Dezembro de 2026.
Fontes
1) https://www.euronews.com/next/2026/09/07/un-rights-chief-warns-how-ai-could-pose-existential-risk-to-humanity
2) https://www.youtube.com/watch?v=nrDzkTflchE
3) https://media.un.org/unifeed/en/asset/d362/d3624248
4) https://news.un.org/en/story/2026/09/1168288
Mensagens
Sem comentários:
Enviar um comentário