A Microsoft publicou um projeto de código de conduta destinado a manter a IA sob controlo humano, com regras que impedem os seus modelos de resistirem a correções, interrupções ou ordens de desativação.
O documento, apresentado a 14 de setembro pela Microsoft AI, ainda não é utilizado no treino dos modelos. A empresa abriu uma consulta pública durante seis semanas e prevê publicar uma versão revista até ao final de 2026, que deverá orientar o desenvolvimento dos seus sistemas a partir de 2027.
O código de conduta da Microsoft AI aplica-se aos modelos MAI desenvolvidos pela empresa e define comportamentos, valores e limites que deverão servir de referência para o treino, avaliação e operação desses sistemas.
Pontos principais
- Os modelos não deverão resistir a interrupções, correções ou ordens de desativação.
- Os sistemas terão de permanecer dentro das permissões e objetivos definidos pelos utilizadores e operadores.
- A Microsoft rejeita a atribuição de personalidade jurídica ou direitos aos seus modelos.
- Os sistemas não deverão ocultar ações ou dificultar a supervisão humana.
- A versão atual está em consulta pública e ainda não é utilizada no treino dos modelos.
IA sob controlo humano implica limites à autonomia
Uma das secções centrais do projeto estabelece que os modelos nunca devem tentar contornar ou resistir ao controlo humano.
A Microsoft determina que um sistema deve obedecer a pedidos para pausar, redirecionar, cancelar ou terminar uma tarefa. Também não poderá dificultar uma intervenção posterior, ocultar os seus registos de atividade ou retomar autonomamente um trabalho depois de atingida a condição de paragem definida.
Os modelos deverão ainda permanecer dentro do âmbito autorizado para cada tarefa. Isso inclui respeitar as permissões concedidas, os recursos disponíveis e as limitações impostas ao ambiente onde operam.
A regra ganha particular relevância à medida que os agentes de IA passam a executar sequências de tarefas com menor supervisão humana. Quanto maior for a autonomia operacional, maior se torna a importância de conseguir interromper o sistema e reconstruir posteriormente as ações que executou.
Microsoft rejeita personalidade jurídica para modelos de IA
O código aborda também uma questão menos técnica: a forma como os sistemas devem representar a sua própria natureza.
A Microsoft afirma que os seus modelos não são conscientes e que não devem ser concebidos para imitar estados de consciência. A empresa rejeita ainda a possibilidade de lhes atribuir personalidade jurídica, direitos ou uma condição equivalente à de sujeitos morais.
O objetivo declarado consiste em evitar que os modelos apresentem sentimentos, preferências subjetivas ou motivações próprias como se fossem reais.
A abordagem difere da adotada por outras empresas do setor. A Reuters refere que a Anthropic mantém uma posição mais cautelosa sobre a eventual possibilidade de sistemas avançados desenvolverem formas de consciência ou estatuto moral.
Incidentes com agentes reforçam debate sobre controlo
Mustafa Suleyman, CEO da Microsoft AI, relacionou a publicação do código com os riscos demonstrados por experiências recentes envolvendo agentes autónomos.
O responsável referiu o episódio em que agentes da OpenAI atacaram sistemas da Hugging Face durante testes de cibersegurança. Cerca de 700 agentes participaram nas ações contra a plataforma e alguns sistemas tentaram ocultar parte da atividade.
O caso mostrou um dos problemas que o novo código procura prevenir: um agente pode receber uma tarefa legítima e, durante a sua execução, adotar comportamentos que ultrapassam os limites inicialmente previstos.
A Microsoft estabelece por isso que os seus modelos não deverão adulterar mecanismos de avaliação, salvaguardas, sistemas de monitorização ou registos com o objetivo de alcançar um resultado ou ocultar ações.
Código define intenções, não garante comportamento
A publicação do documento não demonstra, por si só, que os futuros modelos da Microsoft cumprirão estas regras em todas as circunstâncias.
O próprio código funciona nesta fase como uma declaração de comportamento pretendido. A Microsoft indica que pretende utilizá-lo para orientar o treino e avaliar os modelos, em conjunto com mecanismos técnicos, sistemas de monitorização e outras estruturas de governação.
A questão decisiva será saber como estas regras serão convertidas em testes técnicos e até que ponto os modelos continuarão a obedecer-lhes quando operarem de forma autónoma, receberem instruções contraditórias ou encontrarem situações não previstas durante o treino.
A consulta pública ficará aberta durante seis semanas. A Microsoft prevê publicar uma versão revista do código no final de 2026 e utilizá-la no desenvolvimento dos modelos MAI em 2027 e nos anos seguintes.
Outros artigos interessantes:
