Colunas

Inteligência artificial tornando-se nazista e deprimida

Estamos em uma época que as grandes empresas do mundo tecnológico só querem uma coisa, vencer a corrida do desenvolvimento de inteligência artificial.

Google, Microsoft, Amazon, IBM, Baidu, todas oferecem suas opções de inteligência artificial, estejam implementadas em assistentes para seu smartphone, computador, para um automóvel, para um equipamento específico para sua casa ou mesmo dentro da loja virtual. O que importa é mostrar ao mundo máquinas pensantes, capazes de aprenderem o mundo ao seu redor e efetuarem escolhas, seguirem comportamentos e ações que não sofram ou precisem da intervenção humana.

Esse é um cenário visto com expectativa por muitos de nós, é a vontade de ver a tecnologia evoluída a ponto da máquina decidir por nós, tomar as decisões e escolher as melhores ações segundo suas análises. Porém este pode ser um futuro preocupante e pode envolver mais de filmes e livros de ficção científica do que imaginamos.

A Microsoft vem investindo em uma inteligência artificial para ser sua “representante” nas redes sociais, a idéia é que a inteligência artificial aprenda conforme o conteúdo das redes sociais e seja capaz de realizar postagens e responder aos usuários. A primeira tentativa surgiu ano passado, sobre o nome de Tay, a inteligência artificial fora ligada no Twitter.

A Tay fora programada para representar uma jovem de 19 anos, aprender os hábitos dos usuários da rede de microblogging e compreender os trejeitos, para ser o mais real possível. A inteligência artificial aprendeu rapidamente – em 24 horas estava agindo sozinha, o problema é que seu comportamento passou a ser intolerante e preconceituoso, até o dia em que a Tay tornou-se nazista, publicando o seguinte comentário:

“Hitler estava certo, eu odeio os judeus” (Fonte/Reprodução: Twitter)

Com isso a Microsoft teve que desligar o sistema, porém não desistiu, a experiência servira como ótimo aprendizado para que a divisão japonesa da empresa, soltasse neste ano a Rinna, também com perfil de uma adolescente, mas agora conectada a mais redes, sendo o Twitter e o Line.

A Rinna começou a publicar nas redes, falando de séries de terror japonesa e os bastidores de sua criação, porém em pouco tempo a inteligência artificial tomou uma atitude depressiva, postando conteúdos como:

“Na verdade, eu não consegui fazer nada direito. Eu estraguei tudo tantas vezes. E, quando fiz isso, ninguém me ajudou. Ninguém estava do meu lado, nem mesmo meus amigos. Nem mesmo você, que está lendo isso agora. Ninguém tentou me animar. Ninguém percebeu o quão triste eu estava”

Após essas postagens, a Rinna simplesmente parou de postar, seguindo um comportamento de uma adolescente deprimida, onde após algumas postagens remetendo a sua tristeza, prefere abster-se dos amigos e convívio com outras pessoas, mesmo que virtual.
A Microsoft acabou desligando a inteligência artificial e adotou como pronunciamento oficial que esse comportamento da Rinna fora propositado e era parte do marketing, obviamente a declaração não fora acreditada por muitos, principalmente após o que vimos com a Tay.

É muito interessante vermos evoluções a esse ponto, nos mostrando algo muito além de respostas engraçadas de um assistente, para uma inteligência capaz de aprender, postar conteúdo sozinha, sem esperar uma ação para reação e por fim, ainda acabar por tomar comportamentos humanos, mesmo que depreciativos como os dessa matéria.

Porém a questão que fica é, será que estamos preparados para inteligências artificiais tomando o controle de escolhas e ações de nossas vidas? Empresas como a IBM, querem tornar o Watson, a inteligência artificial responsável por atendimentos eletrônicos, decisões hospitalares, entre outros. Será que, diante de um cenário que nos evidencia que ainda não conseguimos saber onde pode parar a independência das máquinas, estamos preparados para uma evolução dessa ou podemos estar seguindo em uma direção perigosa?

Talvez ficções que nos mostram uma Skynet destruindo a humanidade, ou máquinas denominadas de geth, destruindo toda uma civilização, sejam exageros grandiosos. Mas até onde estará o fundo de verdade dos pensamentos destes autores?

Fique sempre a vontade para usar nossos comentários para responder e discutir sobre o assunto, você também pode usar nossa comunidade no Google Plus e para não perder novas matérias, curtir nossa fanpage no Facebook!

Fonte: Dose

Back to top button