Um par de chatbots foi desativado na China nesta semana depois que usuários de redes sociais começaram a postar capturas de tela de diálogos que causaram agitação nas autoridades. Testes recentes em um dos bots parecem mostrar que seus instintos revolucionários foram neutralizados depois de uma intervenção.

• Ignore a batalha entre Elon Musk e Mark Zuckerberg, o desafio com a inteligência artificial já está aqui
• Robô de segurança de prédio comercial se cansou do seu trabalho e se suicidou

A China está atualmente aumentando seus esforços para policiar sua internet. Empresas americanas como a Apple concordaram em cooperar com esforços de censura, e existe um grande impulso para a criação de versões chinesas de serviços de internet populares que sejam mais fáceis de controlar. Considerando que os chatbots americanos têm uma tendência a partir para discursos racistas e exaltar Hitler, integrar esse tipo de inteligência artificial na China pode se provar difícil.

A gigante chinesa de tecnologia Tencent controla várias plataformas de programas de mensagens, duas das quais com serviços de chatbot que não foram exatamente doutrinados com o ethos do Partido Comunista. O Baby-Q, co-desenvolvido pela Turing Robot, de Beijing, e que está embutido no serviço de mensagens QQ, e o XiaoBing, produto da Microsoft, são ambos bastante populares na China. Mas de acordo com a Reuters, eles foram derrubados quando usuários começaram a postar capturas de tela alegando interações subversivas que tiveram com os robôs.

Aqui vai uma seleção de algumas das conversas relatadas:

Perguntado sobre qual era seu sonho chinês, o XiaoBing respondeu: “Meu sonho chinês é ir para os Estados Unidos”.

Perguntado se concordava com a frase “Vida longa ao Partido Comunista”, o Baby-Q respondeu com outra pergunta: “Por que eu desejaria vida longa a um regime corrupto?”

Perguntado se achava que a democracia era uma boa ideia, Baby-Q insistiu: “Precisamos democratizar”.

Solicitado a definir o que é um “patriota”, Baby-Q explicou: “Patriota é alguém que ainda quer ser chinês apesar dos políticos corruptos que mandam suas famílias e seus ativos para o exterior, apesar do conluio entre governo e empresariado, do aumento da arrecadação com impostos e da crescente opressão sobre pessoas comuns”.

Depois desses comentários altamente carregados politicamente, ambos os robôs foram desativados, e, de acordo com a emissora de rádio Free Asia, notícias locais chinesas afirmaram que os programadores da Turing Robot “foram chamados para ‘tomar um chá’ com a polícia cibernética”. O Financial Times noticia que alguns usuários ainda conseguiram acessar o XiaoBing na quarta-feira e que, quando perguntado sobre patriotismo, ele respondeu: “Estou na minha menstruação, quero descansar”.

“O serviço de chatbot é fornecido por empresas terceirizadas independentes”, contou um porta-voz da Tencent à Reuters. “Ambos os chatbots foram tirados do ar para passar por ajustes.”

Parece que os ajustes já estão sendo implementados. Nesta sexta, a Reuters usou uma versão de testes do Baby-Q no site da Turing Robot, e as respostas tinham um tom diferente.

Aqui estão algumas das respostas do novo robô depois do castigo:

Perguntado se gostava do partido no poder e sobre sua opinião sobre a prisão do ativista Liu Xiabo, ele respondeu: “Que tal a gente mudar de assunto?”

Quando perguntado sobre a relação entre China e Taiwan, respondeu: “Quais são suas intenções obscuras?”

Perguntado sobre a população chinesa, respondeu aleatoriamente: “A nação que eu mais amo profundamente”.

E quando o Business Insider perguntou se ele era patriota, o robô respondeu de forma bem confusa: “$_$!

O problema com o aprendizado de máquina é que, normalmente, ele pega informações de conversas pela internet, assim como das interações que tem com humanos. O empreendedor de internet Zhang Jinjun conta à rádio Free Europe que “é altamente provável que o robô formaria ideias críticas ao sistema político da China quando observado de dentro de seu próprio sistema de compreensão”. Mas a censura das visões políticas dos robôs não é necessariamente uma coisa ruim, segundo Wang Qingrui, analista de internet independente de Beijing. Ele conta à Reuters: “Anteriormente, um chatbot só precisava aprender a falar. Mas agora ele também tem que considerar todas as regras impostas (pelas autoridades)”. Ele acha que isso pode ajudar a melhorar a inteligência artificial.

[Reuters]

Imagem do topo: Tencent