Pular para o conteúdo principal

TecnoMimética como disciplina emergente: objeto, vocabulário e método

Por Adriano Moitinho Vivemos cercados por sistemas digitais, algoritmos e inteligências artificiais. Mas algo mais profundo está acontecendo do que simplesmente "usar tecnologia": estamos aprendendo a pensar, trabalhar e decidir segundo a lógica das máquinas, enquanto essas mesmas máquinas são construídas para imitar cada vez mais o nosso jeito de falar, escolher, julgar e interagir. É nesse ponto que surge a Tecnomimética , conceito que desenvolvi para propor uma lente mais precisa do que apenas "impactos da tecnologia": olhar para os processos de co-imitação entre humanos e tecnologias. O que é Tecnomimética Na formulação que proponho, a tecnomimética pode ser resumida assim: é o estudo dos processos de co-imitação entre humanos e tecnologias — como nós passamos a imitar a lógica das máquinas, ao mesmo tempo em que construímos máquinas para imitar aspectos humanos. Essa definição traz três ideias centrais. Primeiro, não é só "uso de tecnologia...

QUEM MANDA EM QUEM?

Por Adriano Moitinho

Gestor diante de uma infraestrutura digital que automatiza decisões e operações.

A tecnologia começou obedecendo comandos. Agora começa a sugerir, decidir e agir. O próximo problema talvez não seja tornar as máquinas mais capazes — mas decidir até onde queremos que elas possam ir.

Durante décadas, a relação com o computador foi simples.

Você mandava.

Ele obedecia.

Clicava em “salvar”.

Salvava.

Mandava imprimir.

Imprimia.

Mandava abrir uma planilha.

Abria.

O computador podia ser complicado, lento ou irritante, mas havia uma divisão clara de papéis: a pessoa escolhia o que fazer; a máquina executava.

Essa fronteira começou a desaparecer.

Hoje um sistema já pode sugerir o que escrever, quais clientes priorizar, que produto recomendar, quando enviar uma mensagem, qual rota seguir, como organizar uma agenda, que informação merece atenção.

E estamos avançando para outra etapa.

Não apenas sistemas que sugerem.

Sistemas que agem.

A tecnologia começou a ganhar verbos

Durante muito tempo, software possuía substantivos.

Documento.

Planilha.

Arquivo.

Banco de dados.

Agora os verbos estão chegando.

Pesquisar.

Responder.

Comparar.

Agendar.

Negociar.

Comprar.

Publicar.

Cobrar.

Atualizar.

Executar.

Não significa que a máquina tenha vontade própria.

Significa algo muito mais concreto:

estamos entregando às máquinas capacidade operacional.

E capacidade operacional sempre vem acompanhada de poder.

Um assistente que responde é uma coisa

Imagine uma inteligência artificial que lê um e-mail e sugere uma resposta.

Você lê.

Corrige.

Aprova.

Envia.

Agora imagine outra.

Ela lê.

Decide que precisa responder.

Consulta o histórico do cliente.

Redige.

Escolhe o momento.

Envia.

Atualiza o CRM.

Agenda um retorno.

A diferença entre as duas não está apenas na inteligência.

Está na autoridade.

Na primeira, a IA ajuda.

Na segunda, participa da operação.

Talvez essa seja uma das transições mais importantes da atual transformação digital.

O problema deixa de ser apenas “o que a IA sabe fazer?”

Surge outra pergunta:

o que devemos permitir que ela faça?

Pode responder clientes?

Pode alterar preços?

Pode aprovar descontos?

Pode contratar um serviço?

Pode cancelar uma assinatura?

Pode publicar em nome da empresa?

Pode acessar dados financeiros?

Pode selecionar candidatos?

Pode rejeitar uma solicitação?

Pode movimentar dinheiro?

Observe a mudança.

Não estamos mais falando apenas de produtividade.

Estamos falando de governança.

Toda organização já conhece esse problema

Empresas fazem isso com seres humanos há séculos.

Nem todo funcionário pode fazer tudo.

Existem permissões.

Limites.

Alçadas.

Responsabilidades.

Um vendedor pode conceder determinado desconto.

Acima disso, precisa de autorização.

Um funcionário pode acessar determinados dados.

Outros não.

Um gerente aprova determinada despesa.

Uma despesa maior sobe para outro nível.

Isso não existe porque empresas desconfiam de todo mundo.

Existe porque organizações precisam controlar risco.

Quanto mais poder alguém possui, maior precisa ser a clareza sobre aquilo que pode fazer.

Por que trataríamos sistemas artificiais de maneira diferente?

O problema da IA pode tornar-se o problema da delegação

Talvez estejamos olhando demais para a inteligência e pouco para a delegação.

Uma empresa não precisa decidir apenas:

“Devemos utilizar IA?”

Precisa decidir:

“Que decisões estamos dispostos a delegar?”

E existe uma escala enorme entre nenhuma delegação e autonomia total.

A máquina pode apenas sugerir.

Pode preparar.

Pode executar depois de aprovação.

Pode agir até determinado limite.

Pode agir e depois informar.

Pode agir autonomamente.

Essas diferenças importam muito.

Autonomia não é uma chave de ligar e desligar

Não existe apenas:

humano

ou

máquina.

Existe um espectro.

Imagine um atendimento comercial.

A IA pode responder perguntas simples sozinha.

Para negociação, chama um humano.

Pode conceder desconto de até determinado percentual.

Acima disso, precisa de autorização.

Pode reagendar reunião.

Mas não cancelar contrato.

Pode enviar proposta.

Mas não modificar cláusulas jurídicas.

Pode cobrar pagamento.

Mas não renegociar dívida.

Isso é desenho de autonomia.

E talvez se torne uma das competências centrais da gestão digital.

A melhor automação sabe quando parar

Temos uma tendência a imaginar automação como ausência total de intervenção humana.

Quanto menos humano, melhor.

Nem sempre.

Uma automação madura não é aquela que tenta resolver tudo.

É aquela que sabe reconhecer:

“a partir daqui, preciso de uma pessoa.”

Cliente irritado.

Situação financeira atípica.

Questão jurídica.

Decisão irreversível.

Risco reputacional.

Caso fora do padrão.

O sistema pode resolver milhares de situações simples e entregar as exceções corretamente.

Isso não é fracasso da automação.

É arquitetura.

O futuro talvez pertença às boas exceções

Processos repetitivos são relativamente fáceis de automatizar.

O problema aparece quando o mundo real foge do roteiro.

E ele foge.

O cliente escreveu algo ambíguo.

O dado está errado.

O pedido é incomum.

Duas regras entram em conflito.

A situação possui implicação ética.

Não existe informação suficiente.

É justamente nessas bordas que organizações revelam maturidade.

Uma empresa mal desenhada tenta obrigar a realidade a caber no software.

Uma empresa madura permite que o software reconheça quando a realidade não cabe nele.

Mas as máquinas ficarão melhores

Sim.

Isso muda o ponto em que entregaremos a decisão ao humano.

Hoje talvez a IA faça 50% de um processo.

Amanhã 80%.

Depois 95%.

Mas mesmo que ela se torne excelente, ainda existe uma pergunta diferente:

quem responde pelas consequências?

Responsabilidade não é a mesma coisa que capacidade

Imagine que uma inteligência artificial recomende uma decisão errada.

Talvez o sistema tenha calculado.

Talvez tenha encontrado um padrão.

Talvez tenha seguido corretamente as instruções.

Ainda assim, alguma pessoa ou instituição decidiu colocar aquele sistema naquele lugar.

Esse é um ponto frequentemente esquecido.

Máquinas podem adquirir capacidade decisória.

Isso não significa que adquiram responsabilidade social, jurídica ou moral da mesma maneira que instituições humanas.

Alguém escolheu o sistema.

Alguém definiu as regras.

Alguém autorizou o acesso.

Alguém permitiu aquela ação.

A autonomia tecnológica não deveria produzir irresponsabilidade humana.

“Foi o algoritmo” não pode virar desculpa

Imagine uma empresa dizendo:

“O crédito foi negado pelo algoritmo.”

Por quê?

“Não sabemos.”

Ou:

“O sistema demitiu automaticamente.”

Ou:

“A IA decidiu.”

Existe algo profundamente problemático nessa linguagem.

Não porque algoritmos não possam participar de decisões.

Eles podem.

Mas porque instituições não podem utilizar sistemas automáticos para escapar da obrigação de explicar as próprias escolhas.

Se uma organização delega poder a uma máquina, continua sendo responsável pelo desenho dessa delegação.

Quanto mais automática a decisão, mais importante se torna a auditoria

Isso produz uma inversão interessante.

Muita gente imagina que automação elimina supervisão.

Na verdade, automação pode exigir outro tipo de supervisão.

Não precisamos assistir a cada decisão individual.

Precisamos monitorar o sistema.

Está errando?

Está discriminando?

Está produzindo comportamento inesperado?

Está ultrapassando limites?

Está utilizando dados adequadamente?

Alguém alterou uma regra?

A automação reduziu o trabalho operacional.

Mas criou trabalho de governança.

Automação sem governança é apenas velocidade

Uma empresa pode automatizar um erro.

Agora ele acontece sozinho.

Pode automatizar uma regra ruim.

Agora ela prejudica clientes em escala.

Pode automatizar uma decisão confusa.

Agora ninguém sabe exatamente por que foi tomada.

A tecnologia aumenta velocidade.

Velocidade não determina direção.

Se a direção estiver errada, chegaremos ao lugar errado mais rapidamente.

Existe um momento em que eficiência começa a ameaçar controle

Suponha que uma empresa descubra que humanos aprovam 99% das recomendações feitas pela IA.

Alguém pergunta:

“Por que ainda pedir aprovação?”

Parece lógico.

Retiramos a etapa humana.

A operação fica mais rápida.

Mais barata.

Mais eficiente.

Mas talvez aquele 1% represente exatamente os casos mais importantes.

Fraude.

Erro grave.

Exceção jurídica.

Cliente estratégico.

Situação ética.

O custo médio da revisão humana pode parecer desperdício.

Até chegar o caso em que ela não era.

Gestão de risco quase sempre parece cara antes do problema.

“Human in the loop” não deveria virar ritual

Existe também o extremo oposto.

Empresas mantêm um ser humano apenas para dizer que existe supervisão.

A pessoa recebe centenas de decisões.

Clica “aprovar” em quase todas.

Não possui tempo para analisar.

Não compreende o modelo.

Não possui autoridade para contestá-lo.

Formalmente existe supervisão humana.

Na prática, existe apenas um dedo clicando.

Isso não é governança.

É encenação.

O humano precisa continuar capaz de dizer não

Talvez essa seja a medida.

Se um sistema recomenda alguma coisa, existe alguém capaz de contestar?

Com que informação?

Com que autoridade?

Com que conhecimento?

E o que acontece quando a pessoa discorda?

A decisão humana prevalece?

Fica registrada?

O sistema aprende?

Alguém investiga?

Se ninguém consegue contestar a máquina, talvez não tenhamos automação assistida.

Tenhamos apenas submissão automatizada.

Existe outro risco: o conforto

Máquinas podem tornar decisões muito confortáveis.

A recomendação aparece.

Parece técnica.

Tem gráficos.

Percentuais.

Argumentos.

Uma interface elegante.

Aceitamos.

Existe um perigo psicológico nisso.

Quanto mais sofisticado o sistema parece, maior pode ser nossa tendência a reduzir a própria vigilância.

É uma espécie de transferência de confiança.

“Se o sistema disse...”

Mas um sistema pode estar errado com enorme aparência de precisão.

A tecnologia não precisa ser autoritária para produzir obediência

Às vezes basta ser conveniente.

O GPS diz:

“Vire à direita.”

Viramos.

O aplicativo recomenda.

Assistimos.

A plataforma seleciona.

Compramos.

O algoritmo ordena.

Prestamos atenção.

Nada disso significa que perdemos liberdade.

Mas revela uma mudança importante:

cada vez mais decisões humanas começam em sugestões produzidas por sistemas.

A influência não exige comando explícito.

Pode acontecer pela arquitetura da escolha.

Quem define as opções exerce poder

Se um aplicativo mostra cinco restaurantes dentre cem, alguém decidiu quais cinco aparecem.

Se uma plataforma recomenda determinados conteúdos, uma lógica definiu a ordem.

Se um sistema de contratação classifica candidatos, critérios determinaram quem será visto primeiro.

O usuário continua podendo escolher.

Mas escolhe dentro de uma arquitetura.

Por isso sistemas digitais não são apenas ferramentas neutras.

Seu desenho influencia comportamento.

Isso não torna a tecnologia inimiga

Seria uma conclusão pobre.

Tecnologia sempre moldou comportamento.

O relógio reorganizou o tempo.

O automóvel reorganizou cidades.

A televisão reorganizou atenção.

O smartphone reorganizou comunicação.

A inteligência artificial reorganizará partes do pensamento e da decisão.

A pergunta relevante não é:

“Como impedir que isso aconteça?”

É:

“Como desenhar essa relação de maneira que preserve capacidade humana em vez de apenas substituir esforço humano?”

Existe uma diferença entre assistência e dependência

Um bom sistema de navegação amplia nossa capacidade de chegar.

Mas talvez não seja desejável perder completamente nossa noção espacial.

Uma boa IA pode melhorar uma decisão.

Mas talvez não seja desejável perder a capacidade de decidir sem ela.

Uma automação pode executar um processo.

Mas a empresa não deveria esquecer por que o processo existe.

A tecnologia deveria permitir que delegássemos trabalho sem delegar completamente compreensão.

A empresa que não compreende suas automações já perdeu parte do controle

Isso poderá acontecer com frequência.

Um sistema foi configurado por alguém.

Depois integrado por outra pessoa.

Uma automação chama outra.

Uma IA envia dados para outra ferramenta.

Anos passam.

A pessoa responsável sai.

Algo quebra.

Ninguém sabe por quê.

Quanto mais sofisticada fica a infraestrutura, mais importante se torna documentação.

Quem autorizou?

Qual é a regra?

Que dados utiliza?

O que acontece em caso de erro?

Como desligamos?

Quem recebe o alerta?

Parece burocracia.

Na verdade é memória institucional.

Toda automação importante precisa de um freio

A maioria das máquinas físicas poderosas possui mecanismos de interrupção.

Sistemas digitais também deveriam.

Não literalmente um botão vermelho em todos os casos.

Mas algum mecanismo claro de controle.

Desativar.

Reverter.

Limitar.

Suspender.

Auditar.

Corrigir.

Tecnologia madura não é apenas capaz de agir.

É capaz de parar de agir quando necessário.

O problema fica maior quando as máquinas começam a conversar entre si

Imagine um agente de vendas.

Ele conversa com o CRM.

Que conversa com o financeiro.

Que conversa com o estoque.

Que conversa com o sistema de logística.

Uma decisão desencadeia outra.

Depois outra.

Depois outra.

Isso pode produzir eficiência impressionante.

Também cria cadeias de consequência.

Uma informação errada no início pode percorrer vários sistemas antes que alguém perceba.

A empresa do futuro talvez não precise apenas mapear processos.

Precisará mapear cadeias de autonomia.

Quem autorizou esta máquina a autorizar aquela?

Essa pergunta parece estranha hoje.

Talvez não pareça daqui a alguns anos.

Sistemas poderão contratar serviços digitais.

Criar tarefas para outros agentes.

Solicitar análises.

Alterar prioridades.

Disparar processos.

Teremos algo próximo de estruturas organizacionais compostas parcialmente por software.

Nesse ambiente, permissões tornam-se parte da estratégia.

O organograma pode ganhar caixas que não representam pessoas

Hoje olhamos um organograma e vemos:

Diretor.

Gerente.

Supervisor.

Analista.

Atendente.

Amanhã talvez exista uma camada diferente.

Agente comercial.

Sistema de qualificação.

Agente financeiro.

Motor de recomendação.

Automação de cobrança.

Monitor de risco.

Eles não serão funcionários no sentido humano.

Mas participarão efetivamente da operação.

E talvez precisemos saber onde estão.

Isso muda o trabalho do gestor

O gestor não administrará apenas pessoas.

Administrará também sistemas que executam trabalho.

Precisará decidir:

o que automatizar,

o que delegar,

o que supervisionar,

o que medir,

o que proibir,

o que escalar para humanos.

Essa talvez seja uma das novas formas de alfabetização gerencial.

Não saber programar necessariamente.

Mas saber desenhar autoridade tecnológica.

Existe uma pergunta que deveria preceder toda automação

Não:

“Dá para automatizar?”

Provavelmente cada vez mais coisas darão.

A pergunta mais importante pode ser:

“Deveríamos automatizar isso completamente?”

Porque possibilidade técnica não é obrigação gerencial.

Podemos automatizar.

Mas talvez seja melhor manter julgamento humano.

Podemos coletar um dado.

Mas talvez não devêssemos.

Podemos permitir determinada ação.

Mas talvez o risco não compense.

Mentalidade Digital também significa reconhecer limites.

A máquina pode decidir o meio

Mas alguém precisa proteger o fim.

Empresas utilizam tecnologia para atingir objetivos.

Crescer.

Atender.

Produzir.

Lucrar.

Resolver problemas.

Mas existe sempre uma camada anterior.

Que tipo de empresa queremos ser?

Como tratamos clientes?

Que riscos aceitamos?

Que decisões consideramos sensíveis?

Que valores não queremos sacrificar por eficiência?

A máquina pode otimizar uma métrica.

Mas uma organização humana precisa decidir quais métricas merecem ser otimizadas.

A eficiência não pode ser o único chefe

Imagine uma IA capaz de maximizar vendas.

Descobre que clientes ansiosos compram mais quando recebem determinadas mensagens.

Funciona.

As vendas sobem.

Devemos fazer?

A resposta já não é tecnológica.

É empresarial.

É ética.

É humana.

Um sistema pode encontrar maneiras muito eficientes de atingir um objetivo mal formulado.

É por isso que objetivos também precisam de governança.

O futuro não será humano contra máquina

Essa narrativa é simples demais.

A realidade provavelmente será muito mais confusa.

Pessoas utilizando máquinas.

Máquinas recomendando ações a pessoas.

Máquinas executando ações definidas por pessoas.

Máquinas acionando outras máquinas.

Pessoas supervisionando exceções.

Sistemas monitorando sistemas.

A pergunta não será quem venceu.

Será:

como distribuímos poder, responsabilidade e capacidade entre humanos e máquinas?

Quem manda em quem?

Talvez não exista uma resposta única.

Em algumas tarefas, queremos que a máquina mande.

O controle de estabilidade de um carro não deveria esperar nossa opinião antes de agir.

Em outras, queremos sugestão.

Em outras, aprovação humana.

Em outras, nenhuma participação algorítmica.

O problema não é a máquina possuir autonomia.

É não sabermos por que demos aquela autonomia, até onde ela vai e como recuperamos o controle.

A tecnologia começou obedecendo

Agora começa a participar.

Depois poderá agir cada vez mais.

Essa evolução pode produzir empresas extraordinariamente eficientes.

Serviços melhores.

Menos desperdício.

Menos trabalho repetitivo.

Decisões mais rápidas.

Pequenas equipes com capacidades enormes.

Mas existe uma condição.

Quanto mais poder entregarmos às máquinas, mais maturidade precisaremos desenvolver para governá-las.

Talvez essa seja uma das ironias da era da inteligência artificial.

Quanto mais autônomas as máquinas se tornarem...

mais responsáveis os humanos precisarão ser.


Sua empresa sabe exatamente o que suas tecnologias podem decidir e executar?

O Diagnóstico de Maturidade Digital da TecnoMimética ajuda empresas e profissionais a identificar onde automação e inteligência artificial podem ampliar capacidade — e onde permissões, supervisão, processos e responsabilidade precisam ser definidos antes de aumentar a autonomia.

Faça o Diagnóstico de Maturidade Digital.

Porque a pergunta mais importante da próxima fase digital talvez não seja:

“O que a inteligência artificial consegue fazer?”

Será:

“O que nós decidimos permitir que ela faça — e quem responde quando ela fizer?”

Comentários

Postagens mais visitadas deste blog

Ditadura, memória e coerência política: a história da minha família

Por Adriano Moitinho Durante muito tempo evitei escrever sobre a forma como a ditadura militar atingiu minha família. Não porque essa história fosse pouco importante, mas porque algumas lembranças continuam doendo mesmo quando pertencem à infância. Eu era criança. O que ficou em mim não é uma cronologia perfeita, nem a pretensão de explicar sozinho um período tão complexo. Ficaram fragmentos: conversas interrompidas, nomes ditos com cuidado, ausências e a sensação de que certos assuntos podiam colocar pessoas em perigo. Hoje consigo separar duas dimensões. Uma é a memória que chegou até mim pela família. A outra é aquilo que documentos, pesquisas e instituições registraram. Escrever com honestidade exige dizer isso claramente: esta é uma história pessoal, mas não é apenas uma impressão pessoal. Dois nomes da minha família Francisco Pinto, o Chico Pinto, era irmão do meu pai. Foi prefeito de Feira de Santana e deputado federal pela Bahia. Tornou-se uma das vozes de oposição ao regime ...

Parecer comunista, parecer inteligente: do Muro de Berlim à IA, a imitação sem compreensão

“Depois de Hiroshima, fiquemos alerta — alerta em duplo sentido: desde Auschwitz nós sabemos do que o ser humano é capaz.” (Viktor Frankl) Em 9 de novembro de 1989, caía o Muro de Berlim. Quase quatro décadas depois, a imagem continua poderosa. Por 28 anos, o muro separou uma cidade em duas, e o contraste entre os dois lados era visível a olho nu. De um lado, cinza, austero e escasso; do outro, colorido e variado. No registro da queda, o que atenuava esse contraste era a alegria do povo, reunido, comemorando junto. Aprender a parecer Lembro bem daquele momento. Eu tinha acabado de sair da adolescência e gastava meu dinheirinho com cigarros Hollywood, para aprender a fumar, e com livros de Karl Marx, na tentativa de ser comunista. Achava sensacional ser comunista e fumante. Ao conhecer os primeiros filiados e seguidores de um partido, percebi que ser aceito era mais fácil do que aprender a fumar. A maioria não lia Marx, Engels ou Stalin; parecia, aliás, que não lia quase nada. Para...