SAMPAIO, Rafael Cardoso; SABBATINI, Marcelo; LIMONGI, Ricardo. Diretrizes para o uso ético e responsável da Inteligência Artificial Generativa: um guia prático para pesquisadores. São Paulo: Editora Intercom, 2024.
A obra configura-se como um livro eletrônico de caráter orientador e normativo, voltado à comunidade acadêmica, cuja tese interpretativa sustenta que o uso da Inteligência Artificial Generativa na pesquisa científica é inevitável e potencialmente benéfico, desde que ancorado em princípios éticos sólidos, na preservação da agência humana e no fortalecimento da integridade acadêmica, rejeitando tanto o proibicionismo quanto a adoção acrítica motivada pelo entusiasmo tecnológico.
O prefácio situa historicamente a emergência da Inteligência Artificial Generativa no interior de transformações mais amplas das tecnologias da inteligência, relacionando escrita, digitalização, plataformização e automação às mudanças nos modos de produção e circulação do conhecimento científico. Sustenta-se que a atual onda de incertezas nas universidades decorre menos da tecnologia em si e mais da fragilidade institucional diante de processos opacos, acelerados e controlados por grandes corporações, exigindo respostas coletivas, políticas institucionais e amadurecimento ético contínuo.
Na apresentação, os autores explicitam o objetivo central do guia, que consiste em orientar pesquisadores de diferentes áreas sobre usos éticos e responsáveis da Inteligência Artificial Generativa, enfatizando a tecnologia como meio auxiliar do processo científico e não como substituta da atividade intelectual humana. Destaca-se a preocupação com integridade, originalidade, autoria, privacidade e soberania científica nacional, bem como a necessidade de superar o hype e promover uma cultura de letramento em IA no contexto acadêmico brasileiro.
O preâmbulo mobiliza situações recorrentes e problemáticas da pesquisa contemporânea, como referências inexistentes, pareceres automatizados, textos incoerentes e vazamento de ideias inéditas, para evidenciar que o uso descuidado da Inteligência Artificial Generativa produz impactos devastadores sobre a ética acadêmica. Argumenta-se que tais problemas decorrem da ausência de compreensão técnica, crítica e normativa sobre o funcionamento dessas ferramentas, reforçando a urgência de diretrizes claras.
Na introdução, desenvolve-se uma contextualização detalhada da ascensão da Inteligência Artificial Generativa, especialmente após o lançamento do ChatGPT, analisando sua rápida adoção, capacidades técnicas e diferenciais em relação a tecnologias anteriores. Os autores discutem os Grandes Modelos de Linguagem, suas bases probabilísticas, o fenômeno das alucinações, os vieses estruturais, o colonialismo de dados e a dependência das Big Techs, sustentando que tais características impõem riscos significativos à validade, à replicabilidade e à justiça social na produção científica.
Ainda na introdução, argumenta-se que a ausência de diretrizes nacionais claras por parte de órgãos como MEC, CAPES e CNPq cria um vazio normativo no Brasil, o que torna iniciativas como este guia particularmente relevantes. Defende-se uma abordagem baseada em princípios e boas práticas, e não em regras rígidas, reconhecendo a diversidade de áreas do conhecimento, metodologias e contextos institucionais, bem como o caráter dinâmico e mutável das tecnologias de IA.
O capítulo de princípios gerais estabelece os fundamentos éticos do uso da Inteligência Artificial Generativa na pesquisa acadêmica. No princípio da compreensão das ferramentas, enfatiza-se que pesquisadores devem conhecer termos de serviço, políticas de privacidade, modelos de negócios e limitações técnicas das plataformas, reconhecendo seu caráter proprietário, seus riscos à proteção de dados e sua inadequação estrutural para determinadas realidades do Sul Global. A análise evidencia que a falta de transparência dos modelos reforça assimetrias de poder e exige postura crítica permanente.
No princípio da autoria humana, sustenta-se que sistemas de Inteligência Artificial Generativa não podem ser reconhecidos como autores, pois não possuem responsabilidade moral ou legal. A autoria permanece como prerrogativa humana, sendo indelegável a responsabilidade pela veracidade, originalidade, coerência e integridade do conteúdo produzido. Os autores reforçam que o uso de IA exige revisão rigorosa, supervisão constante e aprovação final humana, sob pena de comprometimento ético do trabalho científico.
O princípio da transparência aborda tanto a opacidade estrutural dos modelos quanto a obrigação ética dos pesquisadores de declarar o uso de Inteligência Artificial Generativa. Defende-se que a descrição detalhada das ferramentas, versões, datas, finalidades, prompts e outputs é condição para a confiabilidade, replicabilidade e avaliação crítica das pesquisas. A transparência é apresentada como elemento central do ethos científico contemporâneo diante de tecnologias estocásticas e mutáveis.
Os princípios de integridade da pesquisa acadêmica, plágio, originalidade e direitos autorais aprofundam a discussão sobre riscos de fabricação de dados, reprodução não intencional de conteúdos protegidos e enfraquecimento do rigor metodológico. Argumenta-se que a Inteligência Artificial Generativa pode amplificar práticas de produtivismo acadêmico e superficialidade intelectual, exigindo maior vigilância ética e compromisso com a qualidade científica.
O princípio da preservação da agência humana sustenta que a tecnologia deve permanecer subordinada às capacidades críticas, interpretativas e decisórias do pesquisador. Alerta-se para o risco de dependência tecnológica, erosão do pensamento autônomo e redução da criatividade científica, defendendo-se a IA como ferramenta complementar e não como instância de decisão ou validação do conhecimento.
O princípio do uso eticamente orientado e do letramento em IA reforça a necessidade de formação contínua, reflexão crítica e responsabilidade institucional. Defende-se que o domínio técnico deve ser acompanhado de compreensão ética, social e política, promovendo usos conscientes, contextualizados e alinhados aos valores da ciência aberta, da justiça social e da soberania científica.
Na seção de princípios práticos, o livro apresenta orientações específicas para diferentes etapas da pesquisa, como exploração inicial de ideias, busca e leitura de literatura, escrita acadêmica, análise de dados, programação, transcrição, tradução, elaboração de pareceres, seleção, uso de agentes de IA e detecção de conteúdos gerados artificialmente. Em cada caso, são discutidos benefícios potenciais e riscos associados, reforçando a necessidade de supervisão humana, checagem de resultados e adequação metodológica.
As considerações finais analisam criticamente políticas institucionais existentes e defendem uma abordagem colaborativa e interdisciplinar para o uso da Inteligência Artificial Generativa na academia. Sustenta-se que o enfrentamento ético da tecnologia exige articulação entre universidades, associações científicas, agências de fomento e pesquisadores, evitando soluções simplistas e tecnodeterministas.
Nas palavras finais, os autores ampliam o debate ao discutir o uso soberano da Inteligência Artificial Generativa no Brasil, destacando a importância de investimentos em infraestrutura, formação de recursos humanos e desenvolvimento de soluções alinhadas às realidades nacionais. Argumenta-se que a soberania tecnológica é condição para reduzir vieses, dependências e assimetrias globais no campo científico.
Em análise crítica, a obra apresenta elevada consistência teórica, ampla base bibliográfica e forte compromisso normativo, constituindo referência relevante para o debate contemporâneo sobre ética, tecnologia e pesquisa científica. Contudo, seu foco predominante nas Ciências Humanas e Sociais Aplicadas pode limitar a aplicabilidade direta de algumas diretrizes a áreas experimentais ou altamente técnicas, exigindo adaptações contextuais. Ainda assim, essa limitação é reconhecida pelos próprios autores e não compromete a robustez do argumento central.
Do ponto de vista autoral, o livro consolida-se como contribuição estratégica para a construção de uma cultura acadêmica ética no uso da Inteligência Artificial Generativa, ao articular reflexão crítica, orientação prática e posicionamento político-institucional. Ao rejeitar tanto o entusiasmo acrítico quanto a interdição moralizante, a obra propõe um caminho equilibrado, fundamentado na responsabilidade, na transparência e na centralidade da agência humana, alinhando-se aos desafios contemporâneos da pesquisa científica em um cenário de rápida transformação tecnológica.
