Algoritmos contribuem para ampliar a sociedade do controle

Somente agora começamos a identificar e a abordar os problemas levantados pela rápida introdução dos algoritmos de inteligência artificial e machine learning em áreas importantes no âmbito social. A partir dos escândalos trazidos pelo emprego da IA, questões fundamentais emergiram para reflexão: quem será responsabilizado quando sistemas de aprendizado estatístico começam a prejudicar os cidadãos? O gap de responsabilidade torna-se presente quando se observa o atual emprego crescente dos algoritmos para amplificar a vigilância digital sobre a sociedade, no âmbito do marketing ou da política, especialmente em associação a tecnologias disruptivas com potencial de maximizar o controle social e, possivelmente, no caso de alguns governos, a opressão.

Algoritmos de machine learning têm contribuído amplamente para ampliar a vigilância social generalizada. Isso ocorre não somente com o rastreamento de dados dos usuários pelo marketing, mas também com o emprego crescente de redes de sensores, manipulação de percepções, reconhecimento facial e usos panópticos das redes sociais. Há o perigo de novas ameaças, ao mesmo tempo em que se ampliam preocupações antigas, exaustivamente discutidas por autores como Foucault, Deleuze, Bauman, Lyon, entre outros.

Artigo completo apresentado na ABCiber 2018

Por dentro da inteligência artificial (I)

Atualmente há uma extensa corrida pelo emprego da inteligência artificial (IA) entre as grandes empresas da internet.

O interesse cresce na mesma proporção do investimento em pesquisa pura nesse campo. Há uma guerra em curso entre as companhias de tecnologia para atrair os melhores talentos da área, devido ao seu potencial econômico de crescimento futuro e ao ritmo promissor das inovações.

Pesquisadores e cientistas da IA têm encontrado, por enquanto, nas empresas, um ambiente de liberdade de pesquisa e de publicação, com conferências, conversas com pares, flexibilização de propriedade intelectual, num clima próximo ao do mundo acadêmico. Nesse sentido, estas empresas têm trabalhado na mesma direção das universidades, em busca de respostas a problemas de pesquisa fundamentais.

O campo da inteligência artificial busca estudar princípios matemáticos do aprendizado que podem ser aplicados a computadores. Segundo Yoshua Bengio, um programa tradicional de computador representa um processo passo-a-passo que insere na sua memória um conhecimento previamente existente. Mas o computador também pode ser programado para desenvolver a habilidade de aprender: por isso, o programa de aprendizado é, na verdade, um metaprograma. É como se ele recebesse uma receita de propósito geral que habilita o aprendizado, sendo que a única diferença serão os dados — os exemplos do mundo real com os quais o computador tem contato. Ou seja, os humanos podem ensinar às máquinas, mostrando-lhes exemplos, representados pelos dados.

Para Bengio, o aprendizado humano não se limita à leitura de livros, ao acúmulo de fatos ou dados; é uma adaptação que acontece em resposta a estímulos do ambiente. O aprendizado significa integrar informações que obtemos pela experiência em abstrações que nos permitem tomar melhores decisões, compreender as conexões entre as coisas que vemos, e predizer o que acontecerá em seguida.

Em inteligência artificial (IA) trabalha-se com a noção de generalização: a máquina pode generalizar a partir de coisas que já tenha visto e aprendido para novas situações, em um processo lento e gradual, totalmente baseado na experiência, através do contato com um grande volume de dados. É o que se chama aprendizado de máquina ou aprendizado estatístico.

Bengio cita alguns exemplos disruptivos de áreas de aplicação da inteligência artificial: a produção industrial, a medicina, o transporte, a agricultura, assistentes pessoais, traduções, reconhecimento de voz, reconhecimento facial, etc.

Marketing digital como instrumento de controle

Esta foi a minha apresentação realizada no Simpósio Nacional da ABCiber 2018, em Juiz de Fora, MG.

Nas mídias sociais, hoje em dia, qualquer pessoa pode postar os seus pensamentos. A capacidade de disseminar ideias não encontra-se mais limitada por uma infraestrutura centralizada e cara de broadcasting e mídias de massa. “Estaríamos vivendo a “Era de Ouro” da liberdade de expressão?” pergunta-se a tecno-socióloga Zeynep Tufekci, escritora e professora da Universidade da Carolina do Norte.  Nada disso! A coisa não é bem assim…

Atualmente, o limite da nossa liberdade de expressão vincula-se aos limites de nossa habilidade de captar a atenção das pessoas.  Só que esta capacidade está cada vez mais controlada por poucas plataformas e por seus algoritmos baseados em machine learning para espalhar a vigilância. O modelo de negócios dos gigantes da internet tem sido justamente captar a atenção de todas as pessoas, através de uma infraestrutura de vigilância massiva que nos faz clicar em anúncios automatizados.

Vamos abrir o olho… A situação em que vivemos é, na realidade, mais compatível com regimes autoritários, com a propaganda, a desinformação e a polarização, do que com o conceito democrático de liberdade de pensamento e expressão!

 

Luiz Agner: apresentação no ABCiber 2018.

Luiz Agner: Apresentação de artigo no simpósio ABCiber 2018.

Marketing digital e sociedade de controle

Este trabalho, realizado para o congresso ABCiber 2018, em parceria com minha aluna Juliana Hofstetter, procura analisar aspectos do modo de atuação do controle e do poder exercido pela vigilância na sociedade digital.

A discussão proposta envolve a ética, a segurança e o potencial de controle dos algoritmos online, que não só coletam dados dos usuários, mas os armazenam, combinam, analisam e criam padrões que revelam tendências a serem empregadas em estratégias digitais para gerar consumo e até influenciar decisões político-eleitorais.  

São discutidos empregos de robôs sociais durante o debate político brasileiro, assim como o escândalo do vazamento de dados de usuários na rede social Facebook.

Leia aqui o nosso resumo extendido!

Na era dos espaços mistos e ecossistemas cross-channel

Os conceitos de arquitetura de informação com que trabalhamos evoluíram, ou tiveram seu sentido expandido, ressignificado, adaptando-se aos tempos. O arquiteto não mais se circunscreve unicamente a produzir “entregáveis”, como wireframes, taxonomias ou sitemaps, para documentar a proposta de estrutura da informação. Sabe-se que ela agora, sendo pervasiva, deve ser consistente para uma complexa ecologia – composta de aplicativos, dispositivos móveis e ubíquos, websites, vestíveis, utilitários domésticos conectados, além de outros pontos de contato do cliente com a narrativa transmídia das marcas e organizações e espaços mistos.

A Internet das Coisas (IoT) chegou para colocar no bojo da interação humano-tecnologia os avanços, benefícios, problemas e riscos trazidos pela inteligência artificial e pelas interações tecnologia-tecnologia. O termo Internet das Coisas (IoT) simboliza a visão na qual a internet se estende do mundo on-line para o mundo real, numa revolução na qual objetos físicos não são mais desligados do mundo virtual, mas atuam como pontos de acesso à rede de informação mundial.

Proliferam-se, a cada dia, em nosso meio sociotécnico, as oportunidades para a intervenção de atores não-humanos que tendem a impor-nos a sua lógica. Bruno Latour – a partir da teoria ator-rede – questiona a nossa tendência em enxergarmos somente no humano as responsabilidades sobre o comportamento da coletividade. Ele propõe a aceitação da influência de elementos não-humanos (objetos e coisas) na dinâmica sociológica. Para o autor, a trama social é tanto o resultado da influência de ações humanas quanto da agência de atores não-humanos; estes últimos provocam resultados importantes podendo efetivamente transformar as situações em que se encontram, deixando de ser apenas intermediários tecnológicos.

As diversas mídias convergiram e as conexões se entrelaçaram com força total: cada artefato, produto, dado, informação ou serviço é agora parte de um ecossistema e como tal deve ser considerado pelo arquiteto de informação, seja no ambiente físico ou virtual. Lemos descreveu o atual estágio do desenvolvimento das tecnologias digitais como a fase da cibercultura que cria novos territórios informacionais com a fusão dos espaços eletrônicos e físicos. Para dar conta disto, o autor utilizou a metáfora do “download do ciberespaço”, onde informações e suas trocas emergem de coisas, objetos e lugares concretos do espaço urbano. A contribuição de Lemos vai em linha com o conceito de “espaços mistos”, proposto por Benyon e Resmini  e com a ideia de ecossistemas cross-channel. É no bojo dessa nova configuração conceitual que agora o arquiteto de informação precisará trabalhar.

Delineia-se um enorme desafio que coloca os arquitetos de informação,  assim como os designers de UX, diante da tarefa de repensar seus processos, de modo a que todo artefato, produto ou serviço trabalhe em interações de fluxo contínuo e sem costuras, dentro de um sistema emergente onde velhas e novas mídias colidem, o físico e o digital, agora convergentes, sejam projetados, entregues e experienciados como um todo integrado. Tal parece ser a tarefa da nova arquitetura de informação.

Marketing digital e vigilância

É possível visualizar uma sociedade cada vez mais vinculada à tecnologia. A cada dia, o cotidiano, as interações e tomada de decisões estão cada vez mais integradas à internet e aos dispositivos tecnológicos, resultando em uma dependência difícil de se evitar.

Quando se debate o tema da vigilância é possível que a perda de privacidade seja a primeira coisa a ser relacionada como enunciado central. Porém, há muito mais a ser compreendido. A vigilância e o controle sempre existiram, bem como os investimentos em poder que articulam sujeito e sociedade, seja nas sociedades disciplinares de Foucault (2016), seja nas sociedades de controle de Deleuze (1992).

A atuação e ampliação da vigilância no contexto da cultura digital tornou a absorção de dados a principal prática responsável por gerenciar e influenciar comportamentos sociais e de consumo. A partir disso, com base nos aspectos ‘líquidos’ das sociedades atuais propostas por Bauman (2012), é possível notar que as possibilidades foram pluralizadas pela internet e o espaço virtual proporcionou aos usuários acesso livre às notícias, maior liberdade de escolha, estreitamento de relações interpessoais e uma descentralização de informações, fazendo com que novas articulações de vigilância pudessem atuar. É importante considerar, em primeiro lugar, as motivações que conduzem as pessoas a contribuir em sua própria vigilância, e o segundo, como isso alimenta as relações de consumo.

Apresentação em parceria com a ex-aluna da Facha, Juliana Hofstetter.
Leia aqui o artigo completo para o 2. tRec – Simpósio Nacional sobre Transformações na Retórica do Consumo.

Vigilância e controle na sociedade digital

Fico sempre superfeliz quando meus alunos e orientandos de TCC fazem um excelente trabalho e são merecedores da nota máxima (dez, com louvor!). É o caso da Juliana Hofstetter,  do curso de Comunicação Social/ Publicidade e Propaganda da Facha.

O  trabalho da Juliana teve como objetivo, em suas palavras,  “contextualizar as consequências do controle e da vigilância digital que dominam a sociedade contemporânea, apresentando, através de uma abordagem integrada de diversos autores, a construção, manutenção e transformação dos dispositivos de poder a que os indivíduos foram submetidos e como esses meios foram potencializados com a internet e os avanços tecnológicos, elevando o poder da comunicação como forma de gerenciar comportamentos sociais e de consumo.”

Segundo ela, “o advento da cultura digital, os acessos ao mundo online, sejam para compras, pesquisas ou redes sociais, permitiram que a abrangência da vigilância se estendesse a todos os campos da vida social, produzindo consequências, para o bem e para o mal.”

Conforme diz a Juliana em sua monografia, “por um lado, os serviços digitais oferecidos são úteis e gratuitos – redes sociais, contas de e-mails, mecanismos de busca, navegadores, gps, e muitos outros – representando ferramentas facilitadoras do dia a dia. Mas, por outro, absorvem dados pessoais e comportamentais através do sistema de inteligência artificial, executados por algoritmos que regem as estratégias de marketing no ciberespaço, com o objetivo de gerar consumo e influenciar decisões.”

Baseada em Foucault,  Deleuze, Bruno, Lyon e Bauman, a pesquisa (que não é sobre UX nem AI mas sobre coisas que certamente as influenciam) descortina toda a atuação e ampliação da vigilância no contexto da cultura digital, dos algoritmos do Google, passando pelo remarketing e chegando nos social bots que infestam as nossas redes sociais com objetivos de manipulação política ou ideológica muitas vezes inconfessáveis.

Leia aqui na íntegra a monografia da Juliana.

Christian Bernard, Luiz Agner, Juliana Hofstetter e Sandro Torres (banca de defesa de TCC na Facha Botafogo).

 

 

Parcerias com alunos no InterCom (I)

Apresento aqui artigos desenvolvidos em parceria com meus alunos da Facha e da PUC-Rio, no Congresso InterCom 2014. O primeiro trabalho (“O modelo crowdsourcing aplicado à produção de imagens para o mercado fotográfico brasileiro”), em co-autoria com Fernando Blum, da startup TryPic, apresenta o modelo crowdsourcing e refere-se ao uso da inteligência coletiva disponível na internet como ferramenta de inovação e criação de novos modelos de negócios. O texto apresenta ainda o conceito de Lean Startup, idéia introduzida pelo autor e empreendedor Eric Ries, que envolve o conjunto de processos usados para desenvolver novos produtos e mercados combinando desenvolvimento ágil de software, participação dos usuários e emprego de plataformas existentes. O trabalho analisa como estudo de caso a nova plataforma online que aplica o modelo da concorrência criativa para aproximar compradores e provedores de imagens.

Cultura da convergência em pauta


De acordo com Henry Jenkins, a cultura da convergência reflete uma transformação cultural (e não somente tecnológica) que está em curso. Ela torna imprecisas as fronteiras entre os meios de comunicação tal qual os conhecemos. A relação de cada meio estabelecido com o seu uso está se corroendo pois o mesmo conteúdo flui por diversos canais e assume formas distintas de recepção. Haverá um longo período de transição midiática com sinais confusos, interesses conflitantes, direções imprecisas e resultados imprevisíveis, gerando novas oportunidades para a expressão da cultura popular. Surgem novas relações entre públicos, produtores e conteúdos de mídia.

Em suma, os tempos mudaram e as empresas percebem que é preciso inovar para capturar o olhar dos consumidores para seus produtos e marcas.

Se você gostou deste post, também poderá gostar destes outros.