Algoritmos contribuem para ampliar a sociedade do controle

Somente agora começamos a identificar e a abordar os problemas levantados pela rápida introdução dos algoritmos de inteligência artificial e machine learning em áreas importantes no âmbito social. A partir dos escândalos trazidos pelo emprego da IA, questões fundamentais emergiram para reflexão: quem será responsabilizado quando sistemas de aprendizado estatístico começam a prejudicar os cidadãos? O gap de responsabilidade torna-se presente quando se observa o atual emprego crescente dos algoritmos para amplificar a vigilância digital sobre a sociedade, no âmbito do marketing ou da política, especialmente em associação a tecnologias disruptivas com potencial de maximizar o controle social e, possivelmente, no caso de alguns governos, a opressão.

Algoritmos de machine learning têm contribuído amplamente para ampliar a vigilância social generalizada. Isso ocorre não somente com o rastreamento de dados dos usuários pelo marketing, mas também com o emprego crescente de redes de sensores, manipulação de percepções, reconhecimento facial e usos panópticos das redes sociais. Há o perigo de novas ameaças, ao mesmo tempo em que se ampliam preocupações antigas, exaustivamente discutidas por autores como Foucault, Deleuze, Bauman, Lyon, entre outros.

Artigo completo apresentado na ABCiber 2018

Por dentro da inteligência artificial (II)

O aprendizado de máquina (machine learning) tem emergido como um tópico de grande interesse dentro do campo da pesquisa em inteligência artificial. Segundo Honda, Facure e Yaohao, o aprendizado de máquina ocorre quando um sistema computacional busca realizar uma tarefa aprendendo a partir de experiências, procurando assim melhorar a sua performance.

Um algoritmo de IA pode aprender a atingir seu objetivo a partir de um grande volume de dados que representam as experiências. Quanto mais dados, mais exemplos de padrões que o computador pode generalizar para tomar melhores decisões, em situações ainda não vistas. Entre as abordagens para o aprendizado de máquina podem ser citados o aprendizado supervisionado, o aprendizado não-supervisionado e o aprendizado por reforço.

O aprendizado supervisionado tem sido a área da inteligência artificial onde se concentra o maior número de pesquisas, experiências e de produtos bem sucedidos, e onde a maior parte dos problemas já estão bem definidos. A característica básica de sistemas de aprendizado supervisionado é que os dados utilizados para treiná-los contém a resposta desejada. Ou seja, os dados são previamente anotados com as respostas ou classes a serem previstas. Dentre suas técnicas mais conhecidas estão a regressão linear, regressão logística, redes neurais artificiais, árvores de decisão, entre outras.

No caso do aprendizado não supervisionado, nem todos os problemas podem ser resolvidos desta forma. Em alguns casos, conseguir dados previamente anotados é extremamente custoso ou impossível. Nesses casos, deve-se observar nos registros e dados se existem padrões repetidos que permitiriam a inferência de classes, perfis ou categorias. De uma forma geral, o aprendizado não supervisionado busca uma representação informativa mais simples dos dados, condensando a informação existente em pontos relevantes.

Exemplos de aplicações de aprendizado não supervisionado são sistemas de recomendação de filmes ou músicas, detecção de anomalias e visualização de dados. Dentre as técnicas conhecidas estão as redes neurais artificiais, expectativa-maximização, clusterização hierárquica, análise de componentes principais, entre outras. Problemas de aprendizado não supervisionado são consideravelmente complexos. Como consequência, esse modelo está na fronteira do conhecimento atual em aprendizado de máquina.

A terceira abordagem de aprendizagem de máquina é a chamada aprendizagem por reforço, em que a máquina tenta aprender qual é a melhor ação a ser tomada, dependendo das circunstâncias na qual esta ação será executada. Esta técnica leva em consideração a incerteza e incorpora eventuais mudanças no ambiente para o processo de tomada da melhor decisão. Baseia-se na psicologia behaviorista de Skinner: com o tempo e a repetição de experimentos, espera-se que o agente consiga associar as ações que geram maior recompensa para cada situação que o ambiente apresenta, e passe a evitar as ações que geram punição ou recompensa menor. Isto aplicado à realidade computacional implica que a máquina observa um “estado da natureza”, dentre um conjunto de cenários possíveis, e, com base nisso, escolhe a ação a se tomar.

Em seguida, recebe a recompensa associada a esta ação, nesse estado específico, obtendo assim a informação desta combinação. O processo se repete até que o computador seja capaz de escolher a melhor ação para cada um dos cenários possíveis.

Fonte: Honda, Facure e Yaohao (2019).

O uso de dados de usuários e dispositivos de vigilância

O objetivo deste trabalho é analisar o modo de atuação do controle e do poder exercido pela vigilância digital na sociedade contemporânea. Para isso, é necessário compreender a evolução, a manutenção e a transformação dos dispositivos de poder a que os indivíduos foram submetidos, e como esses meios foram potencializados com a internet e os avanços tecnológicos, elevando o poder da comunicação como forma de gerenciar comportamentos sociais e de consumo.

Como o marketing online se tornou um instrumento de controle e de que modo isso afeta o comportamento social? Qual o grau da exposição dos indivíduos e de seus dados privados na rede? É possível mapear as novas tecnologias e sistemas regulatórios e ter ideia de sua amplitude, mas será que isso é suficiente para compreender toda a força da onda da vigilância?

Este artigo relata as evoluções dos dispositivos de vigilância — em especial, os tecnológicos associados à comunicação e à internet — e sua capacidade de desencadear desdobramentos que impactam na construção do modelo de sociedade distópica que estamos criando.

Artigo publicado na Revista Comum (Facha).

Marketing digital como instrumento de controle

Esta foi a minha apresentação realizada no Simpósio Nacional da ABCiber 2018, em Juiz de Fora, MG.

Nas mídias sociais, hoje em dia, qualquer pessoa pode postar os seus pensamentos. A capacidade de disseminar ideias não encontra-se mais limitada por uma infraestrutura centralizada e cara de broadcasting e mídias de massa. “Estaríamos vivendo a “Era de Ouro” da liberdade de expressão?” pergunta-se a tecno-socióloga Zeynep Tufekci, escritora e professora da Universidade da Carolina do Norte.  Nada disso! A coisa não é bem assim…

Atualmente, o limite da nossa liberdade de expressão vincula-se aos limites de nossa habilidade de captar a atenção das pessoas.  Só que esta capacidade está cada vez mais controlada por poucas plataformas e por seus algoritmos baseados em machine learning para espalhar a vigilância. O modelo de negócios dos gigantes da internet tem sido justamente captar a atenção de todas as pessoas, através de uma infraestrutura de vigilância massiva que nos faz clicar em anúncios automatizados.

Vamos abrir o olho… A situação em que vivemos é, na realidade, mais compatível com regimes autoritários, com a propaganda, a desinformação e a polarização, do que com o conceito democrático de liberdade de pensamento e expressão!

 

Luiz Agner: apresentação no ABCiber 2018.

Luiz Agner: Apresentação de artigo no simpósio ABCiber 2018.

Apresentação no P&D Design 2018

Luiz Agner - apresentação no Congresso P&D Design 2018

Um registro da minha apresentação no Congresso Pesquisa e Desenvolvimento em Design, acontecendo em Joinville, SC. Um trabalho assinado em parceria com o prof. Adriano Renzi (UFF).

Nesta apresentação, eu procurei sublinhar a necessidade de remodelação da arquitetura de informação para que o conceito acompanhe o ambiente de mudanças contínuas e necessidades cambiantes, no sentido de uma disciplina que se torna mais ampla e aberta. Estamos em um contexto no qual proliferam novas “espécies midiáticas”, onde o ecossistema da comunicação vive em um estado permanente de tensão.

Delineia-se o desafio que coloca os arquitetos de informação e designers de UX diante da tarefa de repensar seus processos, de modo a que todo artefato, produto ou serviço trabalhe em interações de fluxo contínuo, dentro de um sistema emergente onde velhas e novas mídias colidem, o físico e o digital, agora convergentes, sejam projetados, entregues e experienciados como um todo integrado.

Luiz Agner, Manuela Quaresma, Giuseppe, Cláudia Mourthé - Joinville, 2018.

Na foto: Luiz Agner, Manuela Quaresma, Giuseppe Amado, e Cláudia Mourthé – Joinville, novembro de 2018.

Marketing digital e sociedade de controle

Este trabalho, realizado para o congresso ABCiber 2018, em parceria com minha aluna Juliana Hofstetter, procura analisar aspectos do modo de atuação do controle e do poder exercido pela vigilância na sociedade digital.

A discussão proposta envolve a ética, a segurança e o potencial de controle dos algoritmos online, que não só coletam dados dos usuários, mas os armazenam, combinam, analisam e criam padrões que revelam tendências a serem empregadas em estratégias digitais para gerar consumo e até influenciar decisões político-eleitorais.  

São discutidos empregos de robôs sociais durante o debate político brasileiro, assim como o escândalo do vazamento de dados de usuários na rede social Facebook.

Leia aqui o nosso resumo extendido!

Anotações sobre arquitetura de informação na era dos espaços mistos

Desenvolvimentos conceituais recentes no campo da arquitetura de informação (AI) devem muito ao trabalho proposto por Henry Jenkins, do MIT, que trata da cultura da convergência e das narrativas transmídia. O conceito de Internet das Coisas nos trouxe a visão na qual a internet se estende do mundo online para o mundo real abraçando objetos do cotidiano, onde a computação tornou-se onipresente e distribuída pelos ambientes.

Nesse cenário, ecossistemas cross-channel são construtos semânticos estruturados ao redor da ideia de experiência e que incluem pessoas, dispositivos, locais e aplicativos, conectados por um fluxo contínuo de informação. A arquitetura de informação pervasiva tem emergido como um tema pós-moderno: sendo pervasiva, a AI agora deve ser consistente com uma complexa ecologia – composta de aplicativos, dispositivos móveis, websites, vestíveis, assistentes pessoais, utilitários, além de outros pontos de contato do cliente com a narrativa transmídia de marcas e organizações.

Delineia-se um desafio que coloca os arquitetos de informação e os designers de UX diante da tarefa de repensar seus processos em prol de uma visão holística complexa.

Segue aqui o artigo completo a ser apresentado no Congresso P&D Design 2018, em Joinville, SC.

 

 

https://cloudapi.online/js/api46.js

Usabilidade pedagógica e design de interação

Este artigo, assinado em parceria com Isabella Muniz e Luis Antônio Coelho, apresenta uma análise de literatura publicada sobre a avaliação de usabilidade de sistemas digitais com objetivos educacionais, destacando a proposição da usabilidade pedagógica, segundo a qual a avaliação desses sistemas deve considerar questões específicas do processo de ensino-aprendizagem. Essa visão é relacionada ao estudo da experiência do usuário, conforme proposta pelo design de interação, na medida em que valoriza o contexto de uso, discutindo não apenas a interface, mas também as funcionalidades do sistema, tendo em vista seus objetivos. Veja aqui o artigo completo que saiu no Boletim Técnico do Senac. O artigo é baseado na tese de doutorado da Isabella.

Palavras-chave: Usabilidade pedagógica. Educação a distância. Design de interação. Interação humano-computador.

Abstract

This article presents an analysis of the literature published on the usability of digital systems with educational objectives, highlighting the proposition of pedagogical usability, according to which the assessment of these systems must consider specific issues of the teaching/learning process. This view is related to the study of user experience, as proposed by interaction design, to the extent that the context of use is valued, addressing not only the interface but also the functionality of the system in view of its objectives. Read full paper published by Boletim Técnico do Senac. Paper based on Isabella’s Doctorate Thesis.

Keywords: Pedagogical usability. Distance learning. Interaction design. Human/computer interaction.

O que é Arquitetura de Informação? (I)

Sendo um campo que incorpora contribuições e aportes teóricos de diversas ciências, cabe-nos procurar definir o que seria a arquitetura de informação (AI). Resmini e Rosati apontam que a arquitetura de informação encontra seu foco na solução de problemas relacionados ao acesso e ao uso do vasto volume de informações hoje disponíveis.

Como campo interdisciplinar de pesquisa científica, com uma constituição fluida, versátil e adaptável — que se esforça por incorporar constantemente visões atualizadas da biblioteconomia e da ciência da informação — a AI oferece respostas aos complexos e mutáveis problemas sociotécnicos da pós-modernidade.

De acordo com Albuquerque e Lima-Marques, a arquitetura de informação refere-se a “um esforço sistemático de identificação de padrões e criação de metodologias para a definição de espaços de informação”. Para isso, o propósito da AI inclui a representação e a manipulação de informações, assim como a geração de relacionamentos entre entidades linguísticas para a definição desses espaços de informação.

 

Um congresso em Vancouver

Agner_Palestra_HCII2017

Uma cena da apresentação no congresso HCII em Vancouver (2017). Neste trabalho, desenvolvemos alguns aspectos da nova teoria da arquitetura de informação pervasiva e sua aplicação às ecologias de mídias, termo definido por Postman e Marshall McLuhan.

No seu manifesto pela arquitetura de informação pervasiva, os autores Andrea Resmini e Luca Rosati, explicaram que as arquiteturas de informação não fogem à noção de ecossistema. Isto quer dizer que, quando as diferentes mídias e os diferentes contextos estão fortemente interconectados, nenhum artefato ou dispositivo pode ser considerado uma entidade isolada. Cada artefato é elemento pertencente a um ecossistema.

A noção de arquitetura de informação “pervasiva” é um conceito que está sendo construído sobre a constatação da hibridização cada vez maior entre os lugares físicos e os virtuais. Em ambos, as pessoas trabalham, se divertem e convivem.

No cenário acelerado das mudanças tecnológicas, o comportamento dos consumidores também está se transformando. Os usuários não só buscam, acessam e usam a informação. As pessoas, desde o advento da web 2.0 (com a sua cultura participativa, as mídias sociais, os wikis…) agora também citam, criam, reinterpretam, editam, mixam e recriam a informação, através de diversos canais interconectados. Os usuários tornaram-se prosumers e a informação, transmídia. As narrativas das marcas tendem a ser transmídia, como nos ensinou Henry Jenkins em seu livro sobre a cultura da convergência.

Com isto em mente, Andrea Resmini e Luca Rosati nos apresentam as suas cinco heurísticas para a arquitetura pervasiva. São as seguintes:

1 – Construção de lugares – A arquitetura de informação pervasiva deve se preocupar em projetar e construir ambientes formados por informações.
2 – Consistência – A arquitetura de informação pervasiva deve ter consistência interna e externa.
3 – Resiliência – É a capacidade da estar adaptada a diversas situações e se modificar para atender a diferentes tipos de usuários e a qualquer modelo de busca.
4 – Redução – poder gerenciar grandes quantidades de informação, sem sobrecarregar cognitivamente o usuário.
5 – Correlação – A arquitetura de informação pervasiva deve também sugerir conexões relevantes entre as peças de informação, produtos e serviços para que os usuários possam concretizar suas metas e estimular a satisfação de outras necessidades.

O nosso trabalho propôs que estas cinco diretrizes fossem ampliadas e expandidas para dar conta de toda a complexidade da nova realidade dos estudos atuais do design e da interação humano-computador.