PARTE 3 DA SÉRIE: A INTELIGÊNCIA ARTIFICIAL REDEFINE O PRESENTE E MOLDA O FUTURO DA TECNOLOGIA

Quem controla a inteligência artificial? Os desafios da autonomia, da ciência e do futuro dos modelos de IA

Na terceira reportagem desta série especial, a discussão avança para questões que vão além do impacto da inteligência artificial no mercado de trabalho e da produção de informações. Desta vez, o foco recai sobre os limites da autonomia das máquinas, os desafios para a pesquisa científica e um problema que já preocupa especialistas em todo o mundo: o chamado colapso de dados.

Nas duas primeiras reportagens, os pesquisadores explicaram como a inteligência artificial evoluiu em uma velocidade sem precedentes, transformando o mercado de trabalho, a educação e diferentes setores da sociedade. Também analisaram os desafios da desinformação, da regulamentação e a crescente presença dos assistentes inteligentes no cotidiano.

Agora, o debate se aprofunda. Até que ponto sistemas de inteligência artificial devem tomar decisões sem supervisão humana? Como impedir que uma tecnologia capaz de acelerar descobertas científicas também seja utilizada para fins nocivos? E o que pode acontecer quando as futuras gerações de modelos passarem a aprender, cada vez mais, com conteúdos produzidos por outras inteligências artificiais?

Para responder a essas questões, a reportagem volta a ouvir os pesquisadores Tarliz Liao e Sandra Cristina Martini Rostirola, que analisam os limites da autonomia da IA e os desafios que governos, empresas e a sociedade enfrentarão nos próximos anos.

Autonomia das máquinas: até onde podemos ir?

O desenvolvimento dos chamados agentes de inteligência artificial, capazes de executar tarefas de forma autônoma e com pouca intervenção humana, ampliou o debate sobre os limites dessa autonomia.

Para Tarliz Liao, antes mesmo de discutir até onde uma inteligência artificial pode agir sozinha, é necessário refletir sobre quem define essas regras. "Quando falamos em intervenção humana, precisamos perguntar: quais humanos? A quem eles servem? Quais interesses defendem? No limite, não se trata apenas de regular máquinas, mas de compreender quem regula e com quais objetivos."

Segundo o pesquisador, a discussão ultrapassa o campo tecnológico e envolve interesses econômicos, políticos e sociais. Por isso, a definição dos limites para o uso da inteligência artificial precisa contar com a participação de diferentes setores da sociedade.

Sandra Cristina Martini Rostirola concorda que a colaboração entre sistemas de inteligência artificial poderá gerar avanços significativos em áreas como saúde, pesquisa científica, desenvolvimento de medicamentos, indústria e resolução de problemas altamente complexos. No entanto, ela ressalta que a responsabilidade pelas decisões continua sendo das pessoas. "A responsabilidade por qualquer informação, resultado ou decisão continua sendo humana."

Segundo a pesquisadora, áreas sensíveis, como saúde, segurança pública, sistema financeiro e Poder Judiciário, exigem supervisão permanente, já que decisões tomadas nesses contextos afetam diretamente a vida das pessoas.

Outro desafio é compreender como sistemas altamente complexos chegam às próprias conclusões. Quanto maior a autonomia das máquinas, maior também a necessidade de transparência, rastreabilidade e mecanismos claros de responsabilização.

A IA acelera a ciência, mas também amplia riscos

A inteligência artificial já reduziu drasticamente o tempo necessário para analisar grandes volumes de dados, testar hipóteses e identificar padrões em pesquisas científicas. Nos últimos anos, a tecnologia passou a impulsionar descobertas em áreas como medicina, biologia molecular, química e desenvolvimento de novos materiais.

Entretanto, a mesma capacidade que acelera avanços científicos também pode ser utilizada de forma inadequada. Para Tarliz Liao, esse cenário exige mecanismos rigorosos de controle. "Controle de acesso, auditorias, revisão por pares, protocolos de biossegurança, registro de experimentos e responsabilização institucional são medidas fundamentais." Ainda assim, o pesquisador reconhece que seria ingênuo acreditar que toda tecnologia será empregada exclusivamente para fins positivos.

Sandra Cristina reforça que toda inovação carrega potencial para produzir benefícios, mas também pode ser utilizada de maneira destrutiva. Segundo ela, minimizar esses riscos depende de três pilares fundamentais. O primeiro é a ética, colocando o bem-estar humano no centro das decisões. O segundo é a cooperação internacional, uma vez que os impactos da inteligência artificial ultrapassam fronteiras. O terceiro envolve a criação de protocolos internacionais capazes de monitorar o desenvolvimento e a aplicação dessas tecnologias.

A pesquisadora também chama atenção para outro desafio frequentemente negligenciado. Os modelos de inteligência artificial aprendem a partir de conteúdos produzidos por seres humanos. Se esses dados contêm preconceitos, erros ou distorções, os sistemas tendem a reproduzir, e, em determinadas situações, até ampliar, esses problemas.

Por isso, ela defende que a produção científica original, a diversidade cultural e as experiências humanas continuem sendo a principal fonte de conhecimento para o treinamento das futuras gerações de modelos de IA.

O risco silencioso do "colapso de dados"

À medida que cresce o volume de textos, imagens, vídeos e códigos produzidos por inteligência artificial, pesquisadores passaram a discutir um fenômeno conhecido como colapso de dados.

A preocupação é relativamente simples. Se os próximos modelos forem treinados predominantemente com conteúdos gerados por outras inteligências artificiais, a qualidade das informações poderá se deteriorar gradualmente. Erros tendem a ser repetidos. Preconceitos podem ser reforçados. Informações imprecisas podem ser reproduzidas inúmeras vezes. E parte da diversidade presente nos dados originais poderá desaparecer. Para Tarliz Liao, esse risco já começou a se tornar realidade. "Modelos treinados a partir de conteúdo sintético tendem a reproduzir erros, revalidar preconceitos e reduzir a complexidade dos fatos sociais."

Sandra Cristina amplia essa reflexão ao afirmar que a solução não depende apenas da evolução tecnológica. Segundo ela, será fundamental formar profissionais capazes de interpretar criticamente as respostas produzidas pelos sistemas de inteligência artificial. "Não podemos formar pessoas que apenas aceitam o que a IA responde." A pesquisadora lembra que os modelos atuais ainda apresentam as chamadas "alucinações", produzindo respostas incorretas ou inventadas com aparência de credibilidade.

Por isso, ela defende uma educação voltada para o desenvolvimento da capacidade de investigar, validar informações e utilizar a inteligência artificial como ferramenta de apoio, jamais como substituta do pensamento crítico.

O futuro dependerá menos das máquinas e mais das pessoas

Quanto mais sofisticada se torna a inteligência artificial, maior é a responsabilidade da sociedade em definir como essa tecnologia será utilizada. Os desafios relacionados à autonomia dos sistemas, à segurança científica e à qualidade dos dados utilizados no treinamento dos modelos vão além das questões técnicas. Eles envolvem escolhas éticas, educacionais, jurídicas e políticas que terão impacto direto sobre o futuro da sociedade. A revolução da inteligência artificial já está em curso. A principal questão agora deixou de ser se essa transformação acontecerá e passou a ser como ela será conduzida.

Na quarta e última reportagem desta série especial, os pesquisadores analisam um tema que já afeta trabalhadores em diferentes setores: de que forma a inteligência artificial está redesenhando o mercado de trabalho e por que o aumento da produtividade não deve, necessariamente, significar jornadas mais longas.

A discussão também aborda um dos principais desafios dos próximos anos: se as máquinas assumirem parte das tarefas humanas, essa transformação poderá representar uma oportunidade para melhorar a qualidade do trabalho ou apenas intensificará a busca por resultados cada vez mais rápidos?