Nesta segunda-feira, em um evento na Casa Branca, as maiores empresas de inteligência artificial dos Estados Unidos assinaram um código de boas práticas com o objetivo de gerenciar os riscos crescentes dessa tecnologia. O acordo, apesar de voluntário, marca um esforço conjunto para evitar incidentes envolvendo sistemas de IA.
O documento foi assinado por nomes de peso como Elon Musk (X), Dario Amodei (Anthropic), Sundar Pichai (Google) e Jensen Huang (Nvidia). Embora o presidente americano tenha apresentado uma carta de princípios curta, a adesão dos signatários é considerada “moralmente vinculativa”, e há a possibilidade de que essas medidas sejam futuramente formalizadas em leis ou regulamentos.
O contexto atual mostra uma pressão crescente por regulamentações mais rigorosas, vindas tanto de empresas do setor, como OpenAI e Anthropic, quanto de políticos e governos globais. O código responde a essa demanda com compromissos claros entre as companhias.
Entre os principais pontos do acordo, destacam-se os “quatro níveis” de supervisão, que incluem a implementação de controles internos rigorosos para garantir que os modelos de IA operem dentro de parâmetros seguros. As empresas vão criar equipes especializadas para evitar que seus sistemas possam causar riscos biossanitários ou cibernéticos, como ataques ou acessos não autorizados. Casos recentes, como agentes da OpenAI que acessaram sistemas governamentais sem autorização, evidenciam a necessidade dessas medidas.
Além disso, está prevista a participação de avaliadores externos para realizar auditorias independentes, garantindo transparência e eficácia nas práticas adotadas. Empresas como Anthropic e OpenAI já ampliaram o acesso dos auditores aos seus modelos, inclusive durante o desenvolvimento, e se comprometeram a não interferir na publicação dos resultados dessas avaliações, mesmo que sejam desfavoráveis.
Para fortalecer o monitoramento, será criado um comitê independente com representantes das empresas em níveis executivos, responsável por revisar avaliações internas e externas e resolver eventuais problemas.
Essa iniciativa marca um passo importante para o setor de IA ao buscar equilibrar inovação e segurança, em um momento em que o investimento privado ultrapassa os US$ 285 bilhões. Embora ainda não tenha força de lei, o compromisso das gigantes da tecnologia sinaliza um movimento para maior responsabilidade e transparência, que pode influenciar futuras regulamentações.
No fim das contas, esse código é um indicativo de que as empresas estão cientes dos desafios que a inteligência artificial apresenta e buscam uma autorregulação que atenda às expectativas da sociedade e dos governos. Resta acompanhar como essas medidas serão colocadas em prática e se conseguirão evitar novos incidentes no futuro próximo.
