A Unesco (Organização das Nações Unidas para a Educação, a Ciência e a Cultura) anunciou nesta quinta-feira (7) um primeiro guia para orientar o uso de ferramentas de inteligência artificial generativa na educação. Por uma preocupação com o rápido avanço deste tipo de tecnologia em contraposição à falta de diretrizes sobre uso em escolas nos mais diversos países, o material gratuito dedica-se a explicar como esse tipo de ferramenta que tenta imitar conversas humanas funciona e quais são suas implicações para a educação.

De acordo com uma recente pesquisa global, realizada com mais de 450 escolas e universidades, menos de 10% delas possuem políticas institucionais e/ou diretrizes formais sobre o uso de aplicações generativas de IA, em grande parte devido à falta de regulamentações nacionais. A pesquisa e o guia foram anunciados durante a Digital Learning Week (Semana de Aprendizagem Digital), evento realizado entre 4 e 7 de setembro, na sede da entidade, em Paris, na França.

Um dos primeiros alertas da Unesco no texto é sobre o agravamento da “exclusão digital”. Essa expressão faz referência à desigualdade entre aqueles (países ou empresas) que podem coletar, armazenar e gerenciar grandes volumes de dados e aqueles cujos dados são coletados, mas não participam do nível de tomada de decisão. O ChatGPT, sistema lançado em novembro de 2022 pela Openai e o Google Bard, anunciado no começo de 2023, são treinados com dados de usuários online, que refletem os valores e normas sociais dominantes do hemisfério norte.

Por isso, a Unesco sugere sete passos para que governos possam regular a IA generativa e estabeler diretrizes éticas para seu uso em educação e pesquisa. Com esse tipo de sistema, estudantes conseguem gerar trabalhos escolares completos, que vão de redação à resolução de problemas matemáticos a partir de poucas instruções. 

Em vez de simplesmente selecionar páginas da web, usando conteúdo já existente como nos sites de busca tradicionais, sistemas de inteligência artificial generativa conseguem produzir um novo conteúdo, que aparece na forma de textos escritos em linguagem natural, imagens (incluindo fotografias, arte digital e desenhos animados), vídeos, música e código de software.

A partir deste ponto as implicações para a educação começam a ficar mais evidentes. “Embora a inteligência artificial generativa possa ajudar professores e pesquisadores a gerar textos e outros resultados úteis para apoiar seu trabalho, esse não é necessariamente um processo simples. Podem ser necessárias várias tentativas antes de obter o resultado desejado. Uma preocupação é que estudantes, por serem por definição menos experientes que os professores, possam aceitar sem crítica e cuidado um conteúdo que seja superficial, impreciso ou até prejudicial”, destaca o texto do guia.

A agência das Nações Unidas defende a criação de regras de proteção de dados e privacidade em vários níveis. Também é recomendado estabelecer um limite de idade de 13 anos para o uso de ferramentas de inteligência artificial em sala de aula e destaca a necessidade de oferta de programas de formação de professores sobre o tema.

“Os desenvolvedores de sistemas de inteligência artificial generativa (GenAI, na sigla em inglês) devem ser responsabilizados por garantir a adesão a valores fundamentais e propósitos legais, respeitando a propriedade intelectual e mantendo práticas éticas, ao mesmo tempo em que previnem a disseminação de desinformação e discursos de ódio”, disse a UNESCO.

Para além de todos os alertas, o guia apresenta também uma lista de ferramentas existentes para geração de conteúdo em texto, imagem, áudio e vídeo. Além disso, traz recomendações para planejar a adoção de tais ferramentas em programas de formação de professores, educação especial e inclusiva e criação de sistemas de tutoria em arte, matemática e programação. 

Como atividades de pesquisa mais básicas podem ser facilmente atendidas, o documento também traz referenciais que auxiliam educadores a estruturar debates e a aprendizagem baseada em projetos utilizando sistemas de inteligência artificial generativa.

O guia gratuito de 48 páginas sobre inteligência artificial generativa está disponível (por enquanto apenas em inglês) na biblioteca digital da Unesco (clique para acessar). 

FONTE:

https://porvir.org/guia-regulamentacao-uso-inteligencia-artificial/