"Empresas já usam inteligência artificial para decidir quem contratar, aprovar crédito e priorizar atendimentos, mas não sabem explicar como"

Decisões que antes eram exclusivamente humanas já estão sendo influenciadas por sistemas de inteligência artificial dentro das empresas. Processos de contratação, concessão de crédito e priorização de atendimento estão entre os exemplos mais comuns.

O problema é que, em muitos casos, essas decisões não conseguem ser explicadas de forma clara, nem mesmo por quem as utiliza.

Segundo Flávio Negrão, o avanço da inteligência artificial trouxe ganhos de eficiência, mas também elevou o nível de responsabilidade das organizações.

“Uma decisão pode ser tecnicamente correta e ainda assim não ser compreendida. Quando isso acontece, a empresa perde a capacidade de sustentar essa decisão no longo prazo”, afirma.

O que está em jogo nas decisões com inteligência artificial

A inteligência artificial é utilizada hoje para analisar grandes volumes de dados e identificar padrões. Com isso, empresas conseguem prever comportamentos, automatizar processos e tomar decisões com mais velocidade.

Na prática, isso significa que algoritmos já influenciam quem avança em um processo seletivo, quais clientes recebem crédito e até quais atendimentos são priorizados em determinados contextos.

Esse tipo de lógica já começa a aparecer em diferentes frentes da gestão de pessoas, como avaliação de desempenho, definição de salários e acompanhamento de clima organizacional. À medida que essas decisões passam a ser influenciadas por sistemas, cresce também a necessidade de critérios claros e capacidade de explicação.

Quando não existe clareza sobre como a decisão foi tomada, aumenta a percepção de arbitrariedade, o que pode gerar desconfiança entre colaboradores, clientes e parceiros.

Por que algoritmos podem reproduzir vieses

Sistemas de inteligência artificial são treinados a partir de dados históricos. Esses dados carregam padrões do passado, inclusive distorções e desigualdades.

Quando esses padrões são levados para escala, o impacto também cresce.

Em recrutamento, por exemplo, modelos podem favorecer perfis semelhantes aos já contratados. Em crédito, podem reforçar exclusões existentes ao priorizar determinados grupos.

“Os dados refletem o contexto em que foram gerados. Sem revisão crítica, a tecnologia tende a repetir esse contexto, mesmo quando ele já não faz mais sentido”, explica Negrão.

O papel da liderança nas decisões automatizadas

O uso de inteligência artificial não elimina a responsabilidade humana sobre as decisões. Pelo contrário, amplia.

A escolha de adotar um sistema, definir critérios e interpretar seus resultados continua sendo uma decisão da liderança.

Para o especialista, esse é um dos pontos mais negligenciados pelas empresas.

“Muitos líderes ainda tratam a inteligência artificial como uma ferramenta puramente técnica. Na prática, ela influencia decisões estratégicas e precisa ser tratada como tal”, afirma.

Entre os pontos que líderes precisam considerar estão:

• quais dados foram utilizados no treinamento dos sistemas

• como as decisões podem ser explicadas de forma clara

• quem é impactado por essas decisões

• como os resultados serão monitorados ao longo do tempo

Regulamentação aumenta pressão por transparência

O avanço do uso de inteligência artificial também vem sendo acompanhado por maior regulação. Na Europa, o AI Act estabelece regras para classificação de risco, exigência de transparência e auditoria de sistemas.

Empresas que operam internacionalmente ou que mantêm relações com parceiros europeus já começam a se adaptar a essas exigências.

A tendência é que a pressão por explicabilidade e governança aumente também em outros mercados.

Decisão continua sendo humana

Apesar do avanço da tecnologia, especialistas apontam que o principal desafio não está nos algoritmos, mas na forma como as empresas lidam com eles.

A inteligência artificial amplia a capacidade de decisão, mas não substitui a necessidade de critérios claros e responsabilidade.

No fim, decisões sobre pessoas continuam exigindo coerência entre contexto, critérios e impacto, especialmente em temas como remuneração, evolução de carreira e clima organizacional.

A Nortez atua apoiando empresas justamente na construção dessa base de decisão, combinando desenvolvimento de liderança com estruturação de práticas de gestão de pessoas, como cargos e salários e pesquisa de clima, para dar mais consistência às escolhas feitas no dia a dia.

Com a expansão do uso de inteligência artificial nas empresas, a discussão sobre algoritmos deixa de ser apenas técnica e passa a ocupar um espaço central na gestão e na estratégia. Contribuiu para a matéria Flávio Negrão, especialista em propósito, desenvolvimento humano e sócio-fundador da Nortez, consultoria brasileira de desenvolvimento humano e gestão, com atuação em remuneração, desenvolvimento de times e líderes e estruturação de cargos e salários. nortez.com.br
@denorteaz

Notícia distribuída pela saladanoticia.com.br. A Plataforma e Veículo não são responsáveis pelo conteúdo publicado, estes são assumidos pelo Autor(a): LEONEL DA TRINDADE
andresmloboo@gmail.com