Microsoft firma acordo de privacidade de IA com sindicatos de professores

Microsoft assinou um acordo com a American Federation of Teachers (AFT), o segundo maior sindicato de professores dos EUA, e sua afiliada de Nova Iorque, a United Federation of Teachers (UFT), estabelecendo dez princípios de segurança e privacidade para IA nas escolas, uma semana após as proibições de IA em Nova Iorque e Los Angeles.

O pacto obriga a Microsoft a não treinar modelos de IA com dados de estudantes ou educadores, a limitar a quantidade de dados coletados, a divulgar em linguagem simples como suas ferramentas funcionam, a proibir “companheiros” de IA e a exigir revisão humana para decisões de alto risco. A partir de novembro, os distritos podem acrescentar esses termos a novos ou já existentes contratos sem renegociar todo o acordo.

O que aconteceu

O acordo, firmado com a AFT e a UFT, contém dez princípios que podem ser aplicados contratualmente pelos distritos que os adotarem. Entre eles estão a proibição de usar dados de alunos ou professores para treinar modelos de IA, a limitação da coleta de informações e a exigência de revisão humana em decisões consideradas de alto risco. As cláusulas podem ser inseridas em contratos escolares a partir de novembro, sem necessidade de renegociação completa.

A iniciativa surge depois que Nova Iorque e Los Angeles impuseram bans de um ano ao uso de ferramentas de IA para muitos estudantes, dando tempo para que os distritos definam regras e barreiras adequadas. A AFT, que tem criticado o uso de tecnologia nas escolas, também se mostrou aberta a colaborar com empresas de tecnologia para enfrentar a onda atual de IA. Em discurso em maio, a presidente da AFT, Randi Weingarten, pediu a proibição de telas antes da terceira série e de IA voltada ao estudante antes do ensino médio, ao mesmo tempo que anunciou um hub de treinamento de IA de US$ 23 milhões para educadores, financiado por Anthropic, Microsoft e OpenAI.

“Entre eles estão a proibição de usar dados de alunos ou professores para treinar modelos de IA, a limitação da coleta de informações e a exigência de revisão humana em decisões consideradas de alto risco.”

Segundo a presidente da AFT, Randi Weingarten, “os termos são ‘irrefutáveis’ e necessários porque ninguém mais se responsabiliza”.

Por que importa

O acordo oferece às escolas um conjunto de salvaguardas juridicamente vinculantes, algo que a própria presidente da AFT considerou ausente em políticas federais. Ao impedir que a Microsoft treine modelos com dados de alunos e ao exigir revisão humana em decisões críticas, o pacto responde às preocupações de pais e educadores que têm resistido ao uso de IA e de telas nas salas de aula.

Com as proibições temporárias de Nova Iorque e Los Angeles ainda em vigor, o modelo de contrato pode servir de referência para outros distritos que buscam equilibrar o potencial educativo da IA com a proteção da privacidade dos estudantes.

O que observar

• A partir de novembro, os distritos podem incluir os dez princípios nos contratos sem renegociar todo o acordo.
• O acordo proíbe treinar modelos de IA com dados de estudantes ou professores.
• Decisões de alto risco exigem revisão humana segundo os novos termos.
• A AFT lançou um hub de treinamento de IA de US$ 23 milhões, financiado por Anthropic, Microsoft e OpenAI.