Foto: Divulgação/ Vanderlei Zampaulo

A deputada estadual Professora Bebel (PT) está propondo instituir o marco regulatório para o uso de ferramentas digitais de Inteligência Artificial no âmbito das escolas públicas do Estado de São Paulo. A proposta está contida no projeto de lei 270/2024, protocolado nesta semana na Assembleia Legislativa do Estado de São Paulo, em que se estabelece a criação da Agência Estadual Reguladora do Uso de Mecanismos de Inteligência Artificial nas Escolas Públicas do Estado de São Paulo (AER-IA), com representantes do Governo do Estado, dos professores, dos pais de estudantes, dos estudantes e das universidades.

De acordo com Bebel, caberá a essa Agência a certificação dos mecanismos de inteligência artificial para uso nas escolas públicas do Estado de São Paulo, a edição de materiais periódicos de orientação de seu uso, assim como o planejamento de ações de aperfeiçoamento no conhecimento e capacitação dos mecanismos de inteligência artificial nas escolas públicas do Estado de São Paulo,  a formulação de código de comportamento ético na utilização de tais mecanismos, a constituição de fórum permanente entre a agência e as empresas mantenedoras de mecanismos de inteligência artificial, com o objetivo de conhecer tais mecanismos e entender as implicações de seu uso, bem como compreender o comportamento ético de cada um desses mecanismos, bem como os preceitos básicos de treinamento dos mecanismos de inteligência artificial e de seus mecanismos de proteção na coleta de dados para seu treinamento e formulação de conteúdo, de modo a evitar o uso de dados falsos ou fundados em preconceitos e conceitos socialmente inaceitáveis, assim como realizar avaliações periódicas do uso dos mecanismos de inteligência artificial nas escolas públicas do Estado de São Paulo.

Bebel diz que apresentou esta proposta porque fechar os olhos para a existência da Inteligência Artificial é um erro. “Negar a possibilidade dela passar a estar cada vez mais presente nas escolas, é cegueira. Tomando como verdadeiras essas premissas, e ela são, o que é necessário é buscar criar um marco regulatório para essa realidade, de modo que não se deixe campo livre para ações aventureiras e impensadas sobre o assunto. Tal marco deve tomar a inteligência artificial como algo construído pela inteligência humana, que deve ser utilizada para o engrandecimento da humanidade e não para sua escravidão. Quando se pensa nesse uso nas escolas, deve-se reconhecer a necessidade de atenção redobrada aos estudantes, para que se proteja sua individualidade. A Inteligência artificial não é um mecanismo que tenha plena autonomia, porque é uma ferramenta que se auto educa, mas para tanto, toma como base conteúdo que está nas redes sociais, e esses conteúdos não são necessariamente filtrados, podendo ser carregados de preconceitos e material que não reflita a verdade científica, então, é necessário que exista uma agência reguladora, não para a censura, mas para construção responsável e solidária de sua utilização”, destaca.

Conforme a proposta estabelecida na propositura, o  marco regulatório será aplicado nas escolas da rede privada e nas escolas das redes públicas dos municípios do Estado de São Paulo, desde que essas redes estabeleçam convênio com o Estado de São Paulo. A proposta da deputada Professora Bebel reconhece o estudante como potencial utilizador dos mecanismos de inteligência artificial, e, como tal, reconhece que, por definição, esses são menos especializados do que seus professores, e devem contar com a colaboração desses para formar visão crítica sobre os resultados obtidos com a utilização dos mecanismos de que cuida a presente lei, assim como a necessidade de atitude crítica, quer os estudantes, quer dos professores, com os resultados fornecidos pelos mecanismos de inteligência artificial nas relações acadêmicas havidas nas escolas públicas.

De acordo com a propositura, são diretrizes básicas para o uso da inteligência artificial nas escolas públicas estaduais a observação dos princípios da transparência, equidade, inclusão, responsabilidade e ética, o uso de mecanismos de inteligência artificial desenvolvidos levando em consideração a diversidade cultural, étnica, social e cognitiva dos estudantes, o reconhecimento de que a inteligência artificial não é substituta da inteligência humana, e que é mecanismo de complementação dos instrumentos de estudo e de construção do conhecimento, visando o auxílio do processo educativo. “O poder público deverá promover a capacitação contínua de professores e gestores escolares para o uso adequado e eficaz da inteligência artificial no ambiente educacional, enquanto que as  escolas públicas deverão adotar medidas de segurança adequadas para proteger os dados dos estudantes e garantir sua privacidade no contexto da utilização de sistemas de inteligência artificial, além de zelar para que o tratamento dos dados coletados pelos sistemas de inteligência artificial seja realizado em conformidade com a legislação vigente sobre tal uso”, estabelece o projeto.

Também determina que o uso da inteligência artificial nas escolas públicas do Estado de São Paulo deve estar fundado no reconhecimento de que seus mecanismos devem estar centrados no reconhecimento de que o ser humano é o centro de sua existência, de modo que seja instrumento que melhore suas capacidades, especialmente visando o desenvolvimento sustentável, e a colaboração homem-máquina eficaz, de modo que os princípios constitucionais relacionados à educação sejam plenamente atingidos. Já o Poder Público deverá garantir acesso equitativo dos aos mecanismos de inteligência artificial quando definir a importância desse mecanismo para o processo educativo.

Texto: Vanderlei Zampaulo/ Assessoria Parlamentar

Publicação: Enzo Oliveira/ MTV