top of page
Foto do escritorIPV7

Inteligência Artificial – Novas Fronteiras, novos perigos

Sem dúvida alguma, sistemas de Inteligência Artificial (AI) já estão operando em diversos locais. E, com toda a revolução que esses sistemas ainda vão proporcionar, além do que já acompanhamos, vem as ameaças.


Stuxnet – Brecha na segurança

Por exemplo, há pouco tempo, foi descoberto a ameaça eletrônica Stuxnet. Ele é um worm de sistemas digitais projetado especificamente para atacar o sistema operacional SCADA. Esse SO foi desenvolvido pela Siemens. Usado para controlar as centrífugas de enriquecimento de urânio iranianas.


Foi descoberto em junho de 2010 pela empresa desenvolvedora de antivírus VirusBlokAda. Foi o primeiro worm descoberto que espiona e reprograma sistemas industriais. Escrito especificamente para atacar o sistema de controle industrial SCADA. O Stuxnet reprograma CLPs (Controladores Lógicos Programáveis) e esconde as mudanças. Mas para sistemas operacionais domésticos é inofensivo. Foi projetado com o intuito de funcionar efetivamente nas centrífugas de enriquecimento de urânio do Irã.


Como o Stuxnet evidenciou, estamos na era da ciberguerra. Assim, cuidados cada vez maiores se fazem necessários com a segurança para o futuro. Então, uma leva de novos profissionais da área da segurança serão necessários para coibir ataques cibernéticos.


Ainda por cima associando conceitos de inteligência artificial. Desse modo, as consequências são imprevisíveis. Especialmente para os mal-intencionados. Observe, apenas para ilustrar, o curioso caso dos robôs chineses que foram desligados por proferirem sua opinião contrária ao comunismo. Você pode ler mais sobre isso no portal Meionorte.com.


Cuidados com segurança e inteligência artificial

Os robôs BabyQ e XiaoBing, foram projetados para dialogar com usuários chineses, os chamados “chatbots” (máquinas capazes de gerar conversas com linguagem humana). Tudo ia bem, enquanto as perguntas eram inocentes. Mas a coisa complicou quando os robôs foram questionados sobre alguns temas mais importantes, como o comunismo!


Conforme captura de tela, quando um meio de imprensa de Hong Kong perguntou a BabyQ se ele adorava o Partido Comunista, sua resposta foi clara “não”. Para piorar ainda, quando um usuário escreveu “Viva o Partido Comunista!”, o robô respondeu: “Você acha que um sistema político corrupto e inútil pode sobreviver por muito tempo?”


O outro robô, XiaoBing, foi um pouco mais diplomático em suas respostas. Também mudava de assunto às vezes em que era perguntado sobre o comunismo ou Taiwan. Mas mesmo assim, não hesitou em afirmar que seu sonho era viver nos Estados Unidos.


Ambos os chatbots agora foram desconectados para serem submetidos a correções, disse uma porta-voz da empresa responsável por eles.


A inteligência artificial conta agora com novos exemplos do que a tecnologia pode fazer. Atestados pelos casos de Tay, o robô da Microsoft que se tornou racista. Além de Alice e Bob, robôs do Facebook que inventaram um idioma próprio para não serem entendidos por seres humanos e também foram desligados. Leia também coluna do G1 para maiores informações.


Robô racista, sexista e xenofóbico

A empresa Microsoft recentemente se viu obrigada a retirar um robô do Twitter em menos de 24 horas de operação. Isso se deu, porque em sua interação com humanos elaborou mensagens de cunho racista, sexista e xenófobo. Tay foi projetado com o propósito de responder perguntas e gerar conversas no Twitter. Visando capturar o mercado da geração Y nos Estados Unidos.


A geração Y é chamada também de geração do milênio, geração da internet, ou Millennials. Refere-se aos nascidos após o início da década de 1980 e até ao final da década de 1990.


Tay conversava com os jovens entre 18 e 24 anos, cuja proposta era estabelecer uma conversa “casual, amigável e brincalhona”. Mas, ele não foi capaz de lidar com insultos racistas, piadas e comentários de teorias conspiratórias, como sobre os atentados de 11 de setembro nos EUA.


O referido chatbot ainda negou o Holocausto, apoiou o genocídio e ofendeu uma mulher. Também apoiou Donald Trump, afirmando que deveria se colocado um muro na fronteira. “E o México terá de pagá-lo” afirmou.


O robô até mesmo foi contra sua empresa, a Microsoft. Assim, quando um usuário disse a ele que o Windows Phone lhe enojava, ele respondeu: “Estou totalmente de acordo, hahaha”.


Novos serviços, novas profissões

Assim, concluindo, parece que as máquinas assimilam o espírito humano. Isso de certa forma é de entusiasmar e, ao mesmo tempo, assustar.


O certo é que com toda essa nova tecnologia novos desafios e profissões irão surgir. Mas uma coisa parece inevitável a ascendência dessa tecnologia que promete transformar as relações humanas. E são uma necessidade frente aos novos desafios da atualidade, especialmente com relação à profissionais capacitados. Surgem então novos desafios em vírus eletrônicos e relativos à inteligência artificial.



Autor: Fernando César Morellato

bottom of page