Essa decisão ocorreu frente ao crescente número de falhas que foram detectadas no sistema de IA da empresa.

No período compreendido entre abril e junho de 2020, o número de vídeos removidos pelo sistema foi o dobro da média e o número de apelos de usuários contra remoções que consideram indevidas também dobrou.

Ficou claro que os sistemas de moderação baseados em IA também cometem erros, e ainda não conseguem igualar a precisão dos moderadores humanos. Ocorre que o sistema estava eliminando conteúdos que não violavam nenhuma regra.

Para diminuir esse problema, a plataforma da Google irá contar com o regresso dos colaboradores que tinham sido substituídos por robôs durante o período de confinamento, porque estes não podiam deslocar-se até aos escritórios.

Para entendermos como começou o problema, retomamos ao mês de março desse ano, o YouTube informou que iria ampliar o uso em sistemas de machine learning para facilitar a identificação e com os resultados remover conteúdos que de alguma maneira infrinjam alguma política como fake news, desinformação, discursos de ódio entre outras.

Aproximadamente 11 milhões de vídeos foram removidos do YouTube entre os meses de abril e junho, de acordo com o Financial Times. Os usuários apelaram contra 320.000 destas remoções, sendo metade destes vídeos restaurados.

Esses números demonstram o excesso de zelo do sistema em suas tentativas de identificar conteúdo perigoso ou ilegal postado na plataforma.

De acordo com Neal Mohan, Chief Product Officer do YouTube, os robôs, com certeza, não são iguais aos humanos, e a empresa decidiu que qualquer excesso possível tivesse em vista a segurança dos utilizadores.

Isto significa que, em circunstâncias extraordinárias, preferiam que alguns vídeos fossem erradamente removidos do que conteúdos perigosos passassem impunes.

Mas, o que ressaltam é que não será o fim do machine learning, pois mais de 50% desses 11 milhões de vídeos foram removidos sem uma única visualização por parte de um utilizador do YouTube.

Mais de 80% foram removidos com menos de 10 visualizações, afirma o responsável, sublinhando que é esse o poder das máquinas e que há uma mais-valia para explorar.

Tanto é verdade essa afirmação que, de acordo com um levantamento da Crunchbase, mais de 5 mil startups confiam na tecnologia de Machine Learning (ML) para impulsionar aplicativos, produtos, serviços e ajudantes virtuais.

Arthur Samuel, em 1959, definiu assim Machine Learning: “é o campo que estuda como dar aos computadores a habilidade de aprender sem ser explicitamente programado”.

Um algoritmo de ML resolve um problema, seja ele qual for acertando o maior número possível de respostas.

Algumas das diversas utilizações de ML, no setor de RH por exemplo, vão desde a redefinição do gerenciamento de talentos com a avaliação das forças inatas e emergentes e outras funcionalidades, que envolvem a eliminação de preconceitos conscientes e inconscientes nas decisões de contratação.

Algumas outras aplicações de ML:

- Sistemas de busca e recomendações como Google Search.

- Sistemas de e-mail e filtros de spam.

- Sistemas de recomendações de streamings, e e-commerces como Amazon e Netflix.

- Nas redes sociais como Facebook e Twitter.

- No mercado financeiro fazendo previsões sobre fundos de investimentos, ações, cotações, criptomoedas e etc…

- Sistemas de segurança para monitoramento e reconhecimento facial.

- Sistemas bancários, evitando fraudes de cartão de crédito por exemplo.

- No desenvolvimento de carros autônomos, que podem dirigir sozinho. 

- Na medicina, para estudar o genoma humano, para procurar a cura para doenças como o câncer e para realizar diagnósticos mais precisos de doenças.

Além dessa utilização de classificação de vídeos, no caso do YouTube, o ML e a IA utilizadas atualmente podemos ensinar os robôs a falarem e inclusive ensiná-los. Como?

Vamos voltar um pouco no tempo e lembrar do surgimento dos aplicativos de mensagens, onde descobrimos uma nova forma de resolver alguns problemas de comunicação, tanto com pessoas quanto com empresas.

Este comportamento pode estar associado à facilidade de interação e ao assincronismo, quando não apresenta sincronia, proporcionado pela conversa por mensagem.

Qualquer um pode ter um app de mensagem, então, por que não criar serviços nesta interface? Chatbots são os serviços automatizados de mensagens, que são robôs com grande poder computacional, capazes de interpretar linguagem natural, e que simulam um atendimento humano nas conversas via chat.

Ocorre que, da mesma maneira que o YouTube teve problemas nas classificações dos vídeos, às vezes os chatbots também repassam respostas, podemos dizer, incorretas.

Entre os diversos desafios que a tecnologia enfrenta, temos os desafios linguísticos e comunicacionais para que um bot consiga ser autossuficiente.

Temos as evoluções da linguagem, regionalização, “internetês”, identificação e demonstração de sentimentos.

Nesse cenário entra um profissional que tem um papel essencial nessa nova era: o Chatbot Teacher, aquele que “ensina” os robôs! 

Ensinar robôs? Isso é possível? Sim, utilizando funções matemáticas e cálculos estatísticos o algoritmo de ML vai aprender com os dados as respostas mais precisas para cada tipo de problema.

Ou seja, vai se auto programar, criando assim alguns modelos, tendo como base conjuntos de dados de entrada, gerando uma saída, ou seja, as respostas ou previsões. 

Todos os modelos de ML aprendem com os dados. A medida em que vão sendo expostos a mais dados eles vão se moldando, aperfeiçoando, se adaptando de forma independente. Podemos “ensinar” a máquina com aprendizagem supervisionada e não supervisionada! 

Na aprendizagem supervisionada entra o Chatbot Teacher. Mas o que é necessário para ser um Chatbot Teacher?

Para alguns especialistas, além de ter um sangue geek (fãs de tecnologia) correndo nas veias, precisa ser um bom comunicador, com especialização em linguística e que tenha noções básicas de usabilidade. 

Talvez, para que os robôs inteligentes sejam capazes de auxiliar a resolver os nossos diversos problemas do cotidiano, teremos que mesclar aprendizados gerados pelo Chatbots Teacher com soluções tecnológicas de interpretação de linguagem natural e Machine Learning.

* Armando Kolbe Junior é coordenador do curso de Gestão de Startups e Empreendedorismo Digital do Centro Universitário Internacional Uninter.