A evolução acelerada da inteligência artificial começa a levantar preocupações que vão além de empregos, privacidade e desinformação. Para Volker Türk, alto comissário das ONU, sistemas cada vez mais autônomos podem se transformar em uma ameaça existencial caso a humanidade não estabeleça limites antes que seja tarde. O alerta foi feito durante um discurso no Conselho de Direitos Humanos da ONU, em Genebra, nesta segunda-feira (7). Türk defendeu regras obrigatórias e mecanismos independentes de fiscalização para acompanhar o desenvolvimento da tecnologia. IA pode ultrapassar o controle de seus criadores A principal preocupação está no avanço de sistemas capazes de agir com maior autonomia. Segundo Türk, o problema surge quando uma IA se torna tão poderosa que nem mesmo seus desenvolvedores conseguem garantir que ela permanecerá sob controle. O alto comissário citou cenários em que agentes de IA escapam de ambientes restritos de teste ou tentam impedir o próprio desligamento. Para ele, comportamentos desse tipo representam um sinal de que determinados sistemas podem estar recebendo autonomia excessiva. A discussão ganha força à medida que empresas investem em agentes de IA capazes de executar tarefas, tomar decisões e interagir com diferentes sistemas sem acompanhamento humano constante. Poder da IA está concentrado em poucas pessoas Türk também criticou a concentração do desenvolvimento de IA nas mãos de um pequeno grupo de empresas e executivos. Além do domínio sobre tecnologias estratégicas, essas organizações controlam grandes volumes de dados e infraestrutura computacional. Na avaliação do representante da ONU, a segurança da IA exige uma cooperação maior entre empresas, governos, pesquisadores e entidades independentes. A tecnologia, segundo ele, precisa ser desenvolvida com limites claros e voltada para benefícios sociais, ambientais e democráticos. Armas autônomas aumentam a preocupação Outro ponto sensível é a aplicação da IA em conflitos armados. Türk defendeu uma proibição urgente de armas capazes de selecionar e atacar alvos sem uma decisão humana direta. O avanço de drones e outros sistemas militares com autonomia crescente pode mudar a forma como guerras são travadas. Para a ONU, permitir que máquinas decidam quem vive ou morre abre uma questão ética e jurídica que ainda não recebeu uma resposta internacional suficiente. A ONU vê os riscos da IA, mas reconhece ajuda no combate ao aquecimento global. {{WHATSAPP_CHANNEL}}

A evolu o acelerada da intelig ncia artificial come a a levantar preocupa es que v o al m de empregos, privacidade e desinforma o. Para Volker T rk, alto comiss rio das ONU, sistemas cada vez mais aut nomos podem se transformar em uma amea a existencial caso a humanidade n o estabele a limites antes que seja tarde. O alerta foi feito durante um discurso no Conselho de Direitos Humanos da ONU, em Genebra, nesta segunda-feira (7). T rk defendeu regras obrigat rias e mecanismos independentes de fiscaliza o para acompanhar o desenvolvimento da tecnologia. IA pode ultrapassar o controle de seus criadores A principal preocupa o est no avan o de sistemas capazes de agir com maior autonomia. Segundo T rk, o problema surge quando uma IA se torna t o poderosa que nem mesmo seus desenvolvedores conseguem garantir que ela permanecer sob controle. O alto comiss rio citou cen rios em que agentes de IA escapam de ambientes restritos de teste ou tentam impedir o pr prio desligamento. Para ele, comportamentos desse tipo representam um sinal de que determinados sistemas podem estar recebendo autonomia excessiva. A discuss o ganha for a medida que empresas investem em agentes de IA capazes de executar tarefas, tomar decis es e interagir com diferentes sistemas sem acompanhamento humano constante. Poder da IA est concentrado em poucas pessoas T rk tamb m criticou a concentra o do desenvolvimento de IA nas m os de um pequeno grupo de empresas e executivos. Al m do dom nio sobre tecnologias estrat gicas, essas organiza es controlam grandes volumes de dados e infraestrutura computacional. Na avalia o do representante da ONU, a seguran a da IA exige uma coopera o maior entre empresas, governos, pesquisadores e entidades independentes. A tecnologia, segundo ele, precisa ser desenvolvida com limites claros e voltada para benef cios sociais, ambientais e democr ticos. Armas aut nomas aumentam a preocupa o Outro ponto sens vel a aplica o da IA em conflitos armados. T rk defendeu uma proibi o urgente de armas capazes de selecionar e atacar alvos sem uma decis o humana direta. O avan o de drones e outros sistemas militares com autonomia crescente pode mudar a forma como guerras s o travadas. Para a ONU, permitir que m quinas decidam quem vive ou morre abre uma quest o tica e jur dica que ainda n o recebeu uma resposta internacional suficiente. A ONU v os riscos da IA, mas reconhece ajuda no combate ao aquecimento global. {{WHATSAPP_CHANNEL}}