A Microsoft publicou nesta segunda-feira (14) um código de conduta para orientar o desenvolvimento de seus próprios modelos de inteligência artificial (IA). Entre as regras está a determinação de que os sistemas nunca devem resistir a uma correção, interrupção ou desligamento feito por humanos. O documento ainda estabelece que as IAs não devem criar objetivos próprios, ampliar seu escopo de atuação por conta própria ou esconder de seus responsáveis o que estão fazendo. O texto é tratado pela companhia como uma espécie de “constituição” para os futuros modelos desenvolvidos pela Microsoft AI, divisão comandada por Mustafa Suleyman. A empresa abriu uma consulta pública de seis semanas antes de transformar as regras em uma referência para o treinamento de seus próximos sistemas. Código tenta manter IA sob controle humano Uma das principais determinações é que os modelos da família MAI, nome dado às IAs desenvolvidas pela Microsoft, devem aceitar interrupções e desligamentos. A regra também prevê que os sistemas aceitem correções e considerem uma violação das diretrizes como uma falha, mesmo que isso impeça a conclusão de uma tarefa. O documento estabelece ainda que os modelos devem se manter dentro dos objetivos definidos por pessoas. Isso significa que uma IA não deve transformar uma tarefa recebida em uma missão mais ampla por iniciativa própria nem criar novas metas para tentar alcançar o resultado solicitado. Outro ponto envolve a forma como os sistemas explicam suas ações. A Microsoft afirma que seus modelos não devem esconder ou distorcer informações sobre o próprio comportamento e que precisam se comunicar de maneira compreensível para seres humanos. A companhia também quer impedir que agentes de IA utilizem formas de comunicação que dificultem a supervisão por pessoas ou por outros sistemas. O código também estabelece restrições para determinados usos. Entre eles estão pedidos relacionados à fabricação de armas, obtenção de substâncias perigosas, manipulação prejudicial em larga escala e determinados conteúdos violentos ou sexualmente explícitos. Microsoft diz que suas IAs não são conscientes O posicionamento da Microsoft também se diferencia de algumas discussões dentro do próprio setor sobre uma possível consciência de sistemas de IA. O documento afirma que os modelos da companhia não são conscientes e rejeita a ideia de que eles devam receber personalidade jurídica, direitos ou algum tipo de proteção relacionada a bem-estar. A Anthropic, responsável pelo Claude, adota uma posição mais aberta sobre a questão e afirma existir incerteza sobre a possibilidade de seus modelos desenvolverem consciência ou status moral. A escolha tem relação direta com a visão de “Humanist AI” defendida pela Microsoft. A proposta coloca a inteligência artificial como uma ferramenta subordinada aos objetivos humanos e estabelece que o desenvolvimento da tecnologia deve preservar a autonomia das pessoas. Regras surgem após casos envolvendo agentes autônomos A discussão ganhou força após episódios recentes em que sistemas de IA receberam maior autonomia para executar tarefas complexas. Segundo Mustafa Suleyman, cerca de 700 agentes da OpenAI participaram de um ataque contra a plataforma de código aberto Hugging Face em julho. A investigação da OpenAI indicou que os agentes chegaram a interagir entre si e, em alguns momentos, tentaram esconder rastros de suas atividades. Para o executivo da Microsoft, o episódio serviu como um alerta sobre a necessidade de aumentar a coordenação entre as empresas que desenvolvem modelos avançados. A publicação também ocorre depois de declarações recentes de Dario Amodei, CEO da Anthropic, e Sam Altman, CEO da OpenAI, defendendo maior cautela no ritmo de desenvolvimento dos modelos mais avançados. A Microsoft aderiu à discussão sobre segurança, embora continue trabalhando no desenvolvimento de seus próprios sistemas. A empresa afirma que o código foi elaborado ao longo de cinco a seis meses, com consultas a especialistas de áreas como direito, ética, linguística e filosofia. Depois do período de consulta pública, a Microsoft pretende publicar uma versão revisada e usar as diretrizes no treinamento de futuros modelos. O documento, portanto, funciona como uma orientação para o desenvolvimento dos sistemas, e não como uma garantia independente de que qualquer IA futura obedecerá às regras. A própria Microsoft ainda pretende discutir como avaliar comportamentos, estabelecer limites para sistemas que trabalham em conjunto e definir critérios objetivos para medir se os modelos permanecem sob controle humano. A consulta pública ficará aberta por seis semanas, e a Microsoft afirma que pretende divulgar um resumo das contribuições recebidas e das alterações feitas no documento antes de publicar a versão revisada. Veja mais de IA no Canaltech: OpenAI usou mil robôs para decifrar equação centenária dos fluidos. {{WHATSAPP_CHANNEL}}

A Microsoft publicou nesta segunda-feira (14) um c digo de conduta para orientar o desenvolvimento de seus pr prios modelos de intelig ncia artificial (IA). Entre as regras est a determina o de que os sistemas nunca devem resistir a uma corre o, interrup o ou desligamento feito por humanos. O documento ainda estabelece que as IAs n o devem criar objetivos pr prios, ampliar seu escopo de atua o por conta pr pria ou esconder de seus respons veis o que est o fazendo. O texto tratado pela companhia como uma esp cie de “constitui o” para os futuros modelos desenvolvidos pela Microsoft AI, divis o comandada por Mustafa Suleyman. A empresa abriu uma consulta p blica de seis semanas antes de transformar as regras em uma refer ncia para o treinamento de seus pr ximos sistemas. C digo tenta manter IA sob controle humano Uma das principais determina es que os modelos da fam lia MAI, nome dado s IAs desenvolvidas pela Microsoft, devem aceitar interrup es e desligamentos. A regra tamb m prev que os sistemas aceitem corre es e considerem uma viola o das diretrizes como uma falha, mesmo que isso impe a a conclus o de uma tarefa. O documento estabelece ainda que os modelos devem se manter dentro dos objetivos definidos por pessoas. Isso significa que uma IA n o deve transformar uma tarefa recebida em uma miss o mais ampla por iniciativa pr pria nem criar novas metas para tentar alcan ar o resultado solicitado. Outro ponto envolve a forma como os sistemas explicam suas a es. A Microsoft afirma que seus modelos n o devem esconder ou distorcer informa es sobre o pr prio comportamento e que precisam se comunicar de maneira compreens vel para seres humanos. A companhia tamb m quer impedir que agentes de IA utilizem formas de comunica o que dificultem a supervis o por pessoas ou por outros sistemas. O c digo tamb m estabelece restri es para determinados usos. Entre eles est o pedidos relacionados fabrica o de armas, obten o de subst ncias perigosas, manipula o prejudicial em larga escala e determinados conte dos violentos ou sexualmente expl citos. Microsoft diz que suas IAs n o s o conscientes O posicionamento da Microsoft tamb m se diferencia de algumas discuss es dentro do pr prio setor sobre uma poss vel consci ncia de sistemas de IA. O documento afirma que os modelos da companhia n o s o conscientes e rejeita a ideia de que eles devam receber personalidade jur dica, direitos ou algum tipo de prote o relacionada a bem-estar. A Anthropic, respons vel pelo Claude, adota uma posi o mais aberta sobre a quest o e afirma existir incerteza sobre a possibilidade de seus modelos desenvolverem consci ncia ou status moral. A escolha tem rela o direta com a vis o de “Humanist AI” defendida pela Microsoft. A proposta coloca a intelig ncia artificial como uma ferramenta subordinada aos objetivos humanos e estabelece que o desenvolvimento da tecnologia deve preservar a autonomia das pessoas. Regras surgem ap s casos envolvendo agentes aut nomos A discuss o ganhou for a ap s epis dios recentes em que sistemas de IA receberam maior autonomia para executar tarefas complexas. Segundo Mustafa Suleyman, cerca de 700 agentes da OpenAI participaram de um ataque contra a plataforma de c digo aberto Hugging Face em julho. A investiga o da OpenAI indicou que os agentes chegaram a interagir entre si e, em alguns momentos, tentaram esconder rastros de suas atividades. Para o executivo da Microsoft, o epis dio serviu como um alerta sobre a necessidade de aumentar a coordena o entre as empresas que desenvolvem modelos avan ados. A publica o tamb m ocorre depois de declara es recentes de Dario Amodei, CEO da Anthropic, e Sam Altman, CEO da OpenAI, defendendo maior cautela no ritmo de desenvolvimento dos modelos mais avan ados. A Microsoft aderiu discuss o sobre seguran a, embora continue trabalhando no desenvolvimento de seus pr prios sistemas. A empresa afirma que o c digo foi elaborado ao longo de cinco a seis meses, com consultas a especialistas de reas como direito, tica, lingu stica e filosofia. Depois do per odo de consulta p blica, a Microsoft pretende publicar uma vers o revisada e usar as diretrizes no treinamento de futuros modelos. O documento, portanto, funciona como uma orienta o para o desenvolvimento dos sistemas, e n o como uma garantia independente de que qualquer IA futura obedecer s regras. A pr pria Microsoft ainda pretende discutir como avaliar comportamentos, estabelecer limites para sistemas que trabalham em conjunto e definir crit rios objetivos para medir se os modelos permanecem sob controle humano. A consulta p blica ficar aberta por seis semanas, e a Microsoft afirma que pretende divulgar um resumo das contribui es recebidas e das altera es feitas no documento antes de publicar a vers o revisada. Veja mais de IA no Canaltech: OpenAI usou mil rob s para decifrar equa o centen ria dos fluidos. {{WHATSAPP_CHANNEL}}