Sam Altman considera que os benefícios da inteligência artificial justificam aceitar alguns riscos associados à sua utilização e defende que os sistemas avançados devem permanecer acessíveis a um conjunto amplo de pessoas. O diretor executivo da OpenAI rejeita uma abordagem em que uma única entidade concentre o controlo sobre a tecnologia.
As declarações expõem uma diferença de abordagem face à posição mais cautelosa da Anthropic sobre a distribuição e supervisão dos modelos mais avançados. Altman reconhece a necessidade de medidas de segurança e admite que o desenvolvimento pode ter de abrandar em determinadas circunstâncias, mas argumenta que restringir excessivamente o acesso também cria riscos para a sociedade.
Segundo a Reuters, Altman descreveu a abordagem regulatória da OpenAI como menos restritiva do que a defendida pela Anthropic. Na entrevista ao Politico, o responsável sustentou que os benefícios sociais da inteligência artificial deverão superar os potenciais danos e classificou a concentração do controlo da tecnologia numa única entidade como uma contrapartida inaceitável.
Sam Altman coloca acesso e distribuição de poder no debate
A posição de Altman desloca parte da discussão sobre segurança da IA para uma questão de distribuição de poder. O debate deixa de se limitar à velocidade com que os modelos devem evoluir ou aos mecanismos necessários para manter sistemas avançados sob controlo humano.
Para a OpenAI, restringir o acesso também pode produzir consequências negativas se as capacidades mais avançadas ficarem concentradas num pequeno número de empresas, governos ou instituições. A empresa já tinha formalizado esta visão em abril, quando Altman defendeu que uma inteligência artificial geral deveria chegar ao maior número possível de pessoas, em vez de permanecer sob controlo de um grupo restrito.
A mesma posição foi desenvolvida em junho no documento «Concebido para beneficiar todos: o nosso plano». A OpenAI argumenta que uma distribuição mais ampla das capacidades de IA pode reduzir a concentração de poder, desde que seja acompanhada por segurança, privacidade, acesso económico, ecossistemas abertos e supervisão pública.
Altman voltou ao tema em setembro, num discurso perante o Conselho de Segurança das Nações Unidas. O responsável afirmou que a evolução recente tornou simultaneamente mais tangíveis os benefícios e mais imediatos os riscos da IA. Também defendeu que nenhum indivíduo, empresa ou país deveria concentrar poder suficiente para impor a sua visão através dos modelos mais avançados.
Segurança continua a impor limites ao desenvolvimento
A defesa de um acesso amplo não significa que Altman rejeite restrições. Em setembro, o diretor executivo da OpenAI classificou como inaceitável um cenário em que existisse uma probabilidade significativa de a IA provocar consequências catastróficas e manifestou concordância com a necessidade de abrandar o desenvolvimento dos sistemas mais poderosos quando os riscos o justificarem.
A própria OpenAI sustenta que não devem ser treinados modelos quando não exista uma base suficientemente forte para acreditar que poderão permanecer sob controlo humano. Esta posição aproxima a empresa de algumas das preocupações levantadas pela Anthropic, embora as duas organizações divirjam quanto ao peso que deve ser atribuído às restrições de acesso.
A Anthropic tem adotado uma posição mais cautelosa perante os riscos associados a modelos avançados. A documentação apresentada pela empresa aos investidores dedica uma parte substancial aos riscos da inteligência artificial, entre os quais autonomia excessiva, manipulação e perda de controlo. Dario Amodei também se encontra entre os responsáveis do setor que defenderam um ritmo mais lento de desenvolvimento para criar margem para medidas de segurança.
Falta uma métrica comum para definir o risco aceitável
A divergência não elimina uma dificuldade central. Não existe atualmente uma métrica comum que permita comparar de forma objetiva os benefícios esperados da distribuição ampla de sistemas avançados com riscos de baixa probabilidade, mas potencialmente graves.
Altman também não definiu um limiar quantitativo a partir do qual uma capacidade deveria deixar de ser disponibilizada de forma generalizada. Sem critérios comuns, permanece difícil comparar uma abordagem regulatória menos restritiva com propostas que defendem testes externos obrigatórios, limitações temporárias ou controlos adicionais antes da disponibilização de determinados sistemas.
A diferença entre as posições passa, assim, menos pelo reconhecimento da existência de riscos e mais pela forma como cada empresa pondera os diferentes perigos. Altman considera que uma concentração excessiva de poder também constitui um risco. A Anthropic atribui maior peso à possibilidade de sistemas avançados apresentarem comportamentos difíceis de prever ou controlar.
Outros artigos interessantes:
