“Cada vez com mais frequência, as escolas dos Estados Unidos estão recorrendo a soluções apoiadas pela inteligência artificial para impedir atos trágicos de violência estudantil”. A informação é do site IEEE Innovation, que reflete sobre as perspectivas da tecnologia e mostra exemplos de empresas de TI que já desenvolvem sistemas e fornecem para escolas, preocupadas com os casos de violência, como o ocorrido em Suz.

Empresas como a Bark Technologies, Gaggle.net e Securly, Inc. estão usando uma combinação de inteligência artificial (IA) e aprendizado de máquina (ML) com especialistas treinados em segurança humana para verificar e-mails, textos, documentos e em alguns casos, atividade de mídia social. As empresas de tecnologia procuram sinais de alerta emitidos pelos estudantes em suas redes.

O objetivo é monitorar indicadores de ciberbullying, sexismo, uso de drogas e álcool, depressão e outros indicadores de que os estudantes podem representar um risco violento não apenas para si mesmos, mas também para os colegas de turma. Quaisquer problemas potenciais descobertos desencadeiam alertas para a administração da escola, pais e agentes da lei, dependendo da gravidade.

A Bark Technologies executou um piloto de teste de seu programa com 25 escolas no outono de 2017. O chefe de patentes da Bark, Titania Jordan, diz que foram encontrados alguns problemas bastante alarmantes, incluindo uma ameaça de bombardeio e tiroteio na escola”.

O sistema desenvolvido pela Bark é gratuito para escolas nos Estados Unidos. A empresa é capaz de oferecer o serviço gratuitamente às escolas, porque recebe dinheiro de uma versão de seu programa destinada aos pais. O programa específico para pais custa US $ 9 por mês, por família ou US $ 99 por ano. Inclui monitoramento em mais de 25 plataformas de mídia social, incluindo Twitter, Instagram, Snapchat e YouTube.

Fornecedores

Segundo Bill McCullough, vice-presidente de vendas da Gaggle, “estudos mostram que as crianças se comunicam antes que um ato violento aconteça e elas se comunicarão eletronicamente. Se você não tem os meios para ouvir aqueles gritos de ajuda, você vai ter filhos em risco.

As escolas pagam à Gaggle US $ 6 por aluno, por ano, por seu serviço. A empresa alega ter interrompido 447 mortes por suicídio nos 1.400 distritos escolares que usam seu serviço. Bate-papo também diz que parou 240 casos no ano passado, quando uma criança trouxe uma arma para a escola para prejudicar outro estudante ou pretendia fazê-lo. Em tais circunstâncias, o Gaggle alertará imediatamente um contato de emergência na escola e, se necessário, a aplicação da lei.

Outra empresa especializada, a Securly trabalha com cerca de 2.000 distritos escolares. A empresa cobra US $ 3 por aluno, por ano, por um produto principal chamado Filter, com add-ons premium que podem adicionar cerca de US $ 2,50 por aluno. O serviço premium da Securly, conhecido como 24, combina inteligência artificial com analistas humanos treinados.

Em outubro passado, 24 sinalizaram um estudante que pesquisou no Google tanto “como fazer uma bomba” quanto “como se matar”. O analista entrou em contato com a escola. Outro exemplo envolveu um estudante que procurou por “maneiras indolores de se matar” e assistiu a vídeos do YouTube sobre o tema.

Entendendo as limitações

Os avanços são reais, mas há limitações. Segundo o jornal USA Today, nenhuma empresa reivindicava a capacidade de capturar comportamentos suspeitos todas as vezes. Falsos positivos às vezes surgem. Uma escola não pode policiar o smartphone de um aluno ou outros dispositivos fora do que ele emitiu, a menos que o aluno tenha entrado em uma mídia social ou outra conta, usando o e-mail ou as credenciais fornecidas pela escola.

Os alunos geralmente são mais experientes em tecnologia do que seus pais e não informam sobre todas as contas que possuem. Mesmo com essas limitações, os funcionários das escolas estão envolvidos em abraçar essas soluções para o bem de seus alunos. Rich O’Malley, superintendente das escolas de Florence, na Carolina do Sul, cliente da Gaggle, diz que “apenas salvar uma vida o

Autor:
Carlos Plácido Teixeira
Diretor de IA da Sucesu e Dono do Radar do Futuro D