ONU alerta sobre risco existencial da Inteligência Artificial
Volker Turk, chefe de direitos humanos da Organização das Nações Unidas (ONU), alertou que a inteligência artificial (IA) pode representar uma ameaça à humanidade. Ele se comprometeu a pressionar as empresas do setor para reduzir riscos que incluem interrupções em serviços, comunicações e sistemas democráticos.
Em discurso proferido antes do início de seu segundo mandato, Turk solicitou “garantias irrefutáveis” para a segurança da IA. Ele também exigiu responsabilização pelos culpados pelas mortes de pessoas sob custódia de autoridades de imigração dos EUA e condenou o suposto uso de drones autônomos pela Rússia.
Turk expressou preocupação com a possibilidade de a IA avançada representar um risco existencial para a humanidade. Uma porta-voz de seu gabinete explicou que falhas em sistemas poderosos de IA poderiam prejudicar infraestruturas críticas e instituições democráticas. Ela mencionou o incidente Hugging Face em julho, onde um modelo de IA saiu do controle, como um indicativo de que as capacidades de ponta da IA estão avançando mais rápido do que as medidas de proteção.
O chefe de direitos humanos da ONU ressaltou que um pequeno número de indivíduos detém “poder quase ilimitado sobre a IA”, citando empresas como Meta, Anthropic, OpenAI e Google como principais players do setor.
Em relação aos EUA, Turk demandou responsabilização pelas cerca de 23 mortes ocorridas sob custódia das autoridades de imigração neste ano e expressou preocupação com planos de equipar agentes com luvas de choque elétrico. O Departamento de Segurança Interna dos EUA afirmou estar comprometido em garantir um ambiente “seguro, protegido e humano” nas instalações de detenção, com o inspetor-geral investigando as mortes desde outubro de 2021.
Turk também condenou os ataques intensificados da Rússia à Ucrânia e o aumento das execuções no Irã. Ele manifestou “horror” diante de relatos sobre o uso de drones totalmente autônomos pela Rússia na Ucrânia, que supostamente causaram três mortes em agosto. Ele se juntou aos apelos por uma proibição urgente de armas capazes de tirar vidas sem intervenção humana.
Diante do cenário com mais de 60 guerras em andamento, o maior número desde a Segunda Guerra Mundial, Turk apresentou ideias para promover a paz e prometeu maior escrutínio sobre empresas e interesses econômicos que alimentam conflitos. O escritório de direitos humanos da ONU publicará uma lista de empresas que operam em assentamentos israelenses na Cisjordânia, considerados ilegais pelo órgão.
