Textos produzidos pelo ChatGPT poderão carregar uma espécie de “marca d’água” invisível capaz de revelar que o conteúdo foi gerado por Inteligência Artificial. A novidade foi anunciada pela OpenAI como parte das medidas adotadas pela empresa para cumprir as novas regras de transparência da União Europeia.
A legislação europeia estabelece novas exigências relacionadas à identificação de determinados conteúdos produzidos ou manipulados por sistemas de Inteligência Artificial.
Para atender às regras, a OpenAI desenvolveu uma tecnologia própria chamada textGrain, destinada a permitir a identificação de conteúdos produzidos por seus modelos.
Como funciona a ‘marca d’água’ do ChatGPT?
Diferentemente de uma marca d’água convencional, o usuário não verá qualquer símbolo ou indicação no texto.
Segundo a OpenAI, o textGrain “adiciona um sinal estatístico invisível às escolhas de palavras do modelo”.
Esse padrão pode posteriormente ser analisado por um detector desenvolvido para identificar o sinal e determinar se determinado texto ou código foi produzido com o uso das ferramentas de Inteligência Artificial da empresa.
Nos testes realizados pela OpenAI, o sistema “igualou ou excedeu” o desempenho de tecnologias semelhantes de identificação de textos disponíveis atualmente.
A própria empresa, porém, reconhece que a ferramenta não é infalível.
Consultar Obras
“Um forte desempenho sob condições ideais não garante uma detecção confiável no uso cotidiano”, alerta a OpenAI.
Textos curtos e editados são um problema
Entre as principais limitações estão os textos muito curtos e aqueles que sofreram alterações depois de terem sido produzidos pela Inteligência Artificial.
Quanto mais um conteúdo é editado, por exemplo, mais difícil pode se tornar a identificação do sinal estatístico inserido pelo sistema.
Conteúdos matemáticos também representam um desafio. Segundo a empresa, em determinados casos pode não ser possível identificar com segurança que uma ferramenta de Inteligência Artificial foi utilizada para solucionar um problema.
Por isso, a presença ou ausência da identificação não deverá ser interpretada isoladamente como uma prova definitiva de que determinado conteúdo foi ou não produzido por IA.
Sistema não será ativado para todos
A OpenAI também esclareceu que as “marcas d’água” não serão aplicadas por padrão a todos os conteúdos produzidos pelo ChatGPT no mundo.
A implementação ocorrerá em “texto elegível do ChatGPT e do Codex na União Europeia”.
Além disso, os usuários precisarão ativar o recurso em “determinados modelos”, segundo a empresa.
Inicialmente, o acesso às ferramentas de detecção também será restrito. A OpenAI informou que elas estarão disponíveis para “pesquisadores aprovados e organizações especialistas”, sem detalhar quais instituições poderão utilizar a tecnologia.
A medida faz parte da adaptação das empresas de tecnologia às novas exigências europeias para aumentar a transparência sobre conteúdos produzidos por sistemas de Inteligência Artificial.
Notícias ao minuto
Djalma Almeida Paixão é natural de Santo Antônio de Jesus.
Com muita dedicação e muitos estudos, Djalma formou-se em rádio e televisão pelo (ICB), Instituto do Conhecimento da Bahia, e possui o registro de número 8747/BA.
Dalma Almeida é formado em Análises Clínicas, Administração de empresa e Língua inglesa pela Uneb (Universidade do Estado da Bahia)
Djalma Almeida também é licenciado em Pedagogia pela Unifacs (Universidade Salvador), e possui vários cursos na área da educação como : Educacação Inclusiva, Neuroeducação, Coordenação Pedagógica, e Ensino Remoto através da Educação Inclusiva.
Djalma Almeida agora é pós graduando em psicopedagogia pela Unifacs, universidade o qual é licenciado em pedagogia.
Seu grande talento e inspiração pelo rádio começou em 1990 na rádio Recôncavo Fm, quando operava na frequência de 104,3, hoje operando em 98,5 Mhz, atuando como Disc jockey (Programação musical), e atuou também na rádio Clube Am como repórter quando operava em 680 Khz, hoje operando em Fm em 92,7 Mhz.
Atualmente, é repórter da rádio Prazeres Fm 87,9, na cidade de Jiquiriçá, com atuação dentro do programa “Conexão do Vale”. Djalma também foi por mais de três anos o diretor e editor do site da rádio Prazeres Fm 87,9.
Também é o proprietário do site “Cidadedaspalmeirasnews.com.br”, onde ocupa o mesmo cargo.
Djalma Almeida também é servidor público estadual, onde desempenha a sua função com dedicação a mais de 38 anos de bons serviços prestados a população.
