Imagens com o uso de inteligencia artificial

Fonte: Correio Braziliense

A Nature, uma revista inglesa que publica artigos científicos de alto impacto, vem discutindo e debatendo a questão do uso de inteligência artificial (IA) há vários meses, após a explosão de conteúdo usando ferramentas generativas de IA, como ChatGPT e Midjourney.

Exceto artigos que sejam especificamente sobre IA, a revista Nature resolveu não publicar nenhum conteúdo em que fotografias, vídeos ou ilustrações tenham sido criados total ou parcialmente usando IA generativa, pelo menos no futuro próximo.

E por que não se permite o uso de IA generativa em conteúdo visual?

• Integridade. o processo de publicação — tanto no que diz respeito à ciência como à arte — é sustentado por um compromisso com a integridade. Isso inclui transparência. Como pesquisadores, editores e publicadores, todos nós precisamos conhecer as fontes dos dados e das imagens, para que estes possam ser verificados como precisos e verdadeiros. As ferramentas generativas de IA existentes não fornecem acesso às suas fontes para que tal verificação possa acontecer.

• Atribuição. quando um trabalho existente é usado ou citado, ele deve ser atribuído. Este é um princípio fundamental da ciência e da arte, e as ferramentas generativas de IA não atendem a esta expectativa.

• Consentimento e permissão. estes devem ser obtidos se, por exemplo, estiverem sendo identificadas pessoas ou se estiver envolvida a propriedade intelectual de artistas e ilustradores. Mais uma vez, aplicações comuns de IA generativa falham nesses testes.

Os sistemas generativos de IA produzem imagens para as quais não foram feitos esforços para identificar a fonte. Obras protegidas por direitos autorais são rotineiramente usadas para treinar IA generativa sem as permissões apropriadas. Em alguns casos, a privacidade também é violada – por exemplo, quando os sistemas generativos de IA criam o que parecem ser fotografias ou vídeos de pessoas sem o seu consentimento. Além das preocupações com a privacidade, a facilidade com que estes ‘deepfakes’ podem ser criados acelera a propagação de informações falsas.

Advertências corretas

Por enquanto, a revista Nature está permitindo a inclusão de texto produzido com a ajuda de IA generativa, desde que isso seja feito com as devidas ressalvas (ver go.nature.com/3cbrjbb). O uso dessas ferramentas precisa ser documentado nos métodos ou na seção de agradecimentos de um artigo, e espera-se que os autores forneçam fontes para todos os dados, incluindo aqueles gerados com a assistência de IA. Além disso, nenhuma ferramenta de IA será aceita como autora de um artigo científico.

O mundo está à beira de uma revolução na IA. Esta revolução é muito promissora, mas a IA — e particularmente a IA generativa — também está derrubando rapidamente convenções há muito estabelecidas na ciência, na arte, na publicação e muito mais. Estas convenções levaram, em alguns casos, séculos a desenvolver, mas o resultado é um sistema que protege a integridade na ciência e protege os criadores de conteúdos da exploração. Se não tivermos cuidado ao lidar com a IA, todos estes ganhos correm o risco de se desmancharem.

Muitos sistemas de regulamentação e jurídicos ainda estão formulando respostas ao aumento da IA generativa. Até que se recuperem, como editora de investigação e de trabalhos criativos, a posição da Nature continuará a ser um simples “não” à inclusão de conteúdo visual criado através da IA generativa.

Fonte:

Nature 618, 214 (2023) - https://doi.org/10.1038/d41586-023-01546-4