Sistemas de recomendação e machine learning: o impacto na experiência dos usuários

A interação humano-algoritmo surge como uma nova fronteira para estudos envolvendo design de interação e ergonomia de interface. Esta pesquisa abordou questões sensíveis e emergentes de sistemas de recomendação que muitas vezes são consideradas muito novas ou desconhecidas por profissionais no campo da ergonomia e design de experiência do usuário. 

Durante nossas entrevistas com usuários, examinamos as práticas de consumo de conteúdo na plataforma Netflix, identificando alguns aspectos de sua interação com algoritmos de recomendação.

As respostas dos entrevistados sugeriram que pode haver falhas de comunicação. Portanto, os designers de UX devem se esforçar para tornar óbvio como o sistema rastreia e processa os dados de interação do usuário. Seria aconselhável alcançar uma transparência razoável e ajudar os usuários a construir modelos mentais adequados, bem como a desconstruir o sentimento de “caixa preta”

Os usuários revelaram uma suspeita sobre algoritmos e sobre o que pode acontecer com os dados de uso, não apenas na plataforma Netflix, mas também em outros serviços que usam recomendação baseada em algoritmo. Surgiram temores de manipulação política, restrição da liberdade de informação e até mesmo hackeamento de cartões de crédito. Além disso, um entrevistado relatou a preocupação de que a plataforma de streaming compartilhasse seus dados com outros serviços online. 

Da mesma forma, os usuários não pareciam estar completamente cientes de como poderiam interferir no sistema de recomendação e quais ações poderiam tomar para gerar listas de itens mais relevantes de acordo com seus objetivos e humor. Os respondentes desconheciam o universo de entradas possíveis para melhorar a experiência. 

As respostas parecem indicar que os designers de UX devem fornecer um método eficaz para encorajar os usuários a registrar feedbacks ou editar os dados do usuário a fim de criar recomendações melhores. Os designers de UX ainda têm muito a aprender e a contribuir para o reforço de controle do usuário sobre a tecnologia durante a interação com algoritmos de aprendizado de máquina. 

Estas foram algumas das conclusões do nosso trabalho apresentado no Congresso HCI International 2020.

Download: Recommendation Systems and Machine Learning: Mapping the User Experience (Author’s Proof – PDF)

Por Luiz Agner (Facha; IBGE), Barbara Necyk (Puc-Rio; Esdi-UERJ) and Adriano Renzi (UFF).

CITAR COMO (CITE THIS PAPER AS):

Agner L., Necyk B., Renzi A. (2020) Recommendation Systems and Machine Learning: Mapping the User Experience. In: Marcus A., Rosenzweig E. (eds) Design, User Experience, and Usability. Design for Contemporary Interactive Environments. HCII 2020. Lecture Notes in Computer Science, vol 12201. Springer, Cham. https://doi.org/10.1007/978-3-030-49760-6_1


Ensino de design e de comunicação em tempos de pandemia

Este artigo trata dos processos de adaptação e flexibilização das dinâmicas pedagógicas de disciplinas da graduação dos cursos de Design e de Comunicação no âmbito de universidades particulares brasileiras em meio à pandemia do COVID-19, no primeiro semestre de 2020. Em questão de semanas, professores do ensino superior tiveram que adaptar suas dinâmicas de aula para o meio online por conta do isolamento social. O novo formato de aula em videoconferência foi sendo testado na medida em que o curso acontecia. O texto examina como alguns princípios da educação a distância funcionaram em um contexto sem um planejamento prévio.

Trabalho realizado em parceria com a professora Barbara Necyk (Puc-Rio e ESDI).

Ensino de design e de comunicação em tempos de pandemia (download).

Interação humano-algoritmo

A interação humano-algoritmo surgiu recentemente como uma nova fronteira de estudos envolvendo design de interação e ergonomia de interface. Este trabalho visa discutir a eficácia e a comunicabilidade dos sistemas de recomendação de conteúdos em streaming, baseados no aprendizado de máquina, do ponto de vista do modelo mental dos usuários.

No artigo, examinamos as práticas de consumo de conteúdo na plataforma Netflix, identificando alguns aspectos sensíveis da interação com algoritmos de recomendação. Foram aplicadas entrevistas semi-estruturadas a uma amostra de alunos de três universidades diferentes do Rio de Janeiro.

Percebemos que os entrevistados em geral não compreenderam como o sistema funciona e não formaram um modelo mental adequado sobre os dados rastreados e processados para criar listas personalizadas.

Outra questão diz respeito à privacidade: os usuários demonstraram suspeitas a respeito dos algoritmos e o que poderia acontecer com os seus dados de uso, não apenas na plataforma Netflix, mas em outros serviços que utilizam recomendação baseada em algoritmos.

As respostas dos entrevistados sugeriram que pode haver falhas de comunicação. Portanto, designers de UX devem se esforçar para tornar mais claro como o sistema rastreia e processa os dados das interações.

Trabalho para o congresso HCII 2020 (prova de autor/ pre-print).

Algoritmos contribuem para ampliar a sociedade do controle

Somente agora começamos a identificar e a abordar os problemas levantados pela rápida introdução dos algoritmos de inteligência artificial e machine learning em áreas importantes no âmbito social. A partir dos escândalos trazidos pelo emprego da IA, questões fundamentais emergiram para reflexão: quem será responsabilizado quando sistemas de aprendizado estatístico começam a prejudicar os cidadãos? O gap de responsabilidade torna-se presente quando se observa o atual emprego crescente dos algoritmos para amplificar a vigilância digital sobre a sociedade, no âmbito do marketing ou da política, especialmente em associação a tecnologias disruptivas com potencial de maximizar o controle social e, possivelmente, no caso de alguns governos, a opressão.

Algoritmos de machine learning têm contribuído amplamente para ampliar a vigilância social generalizada. Isso ocorre não somente com o rastreamento de dados dos usuários pelo marketing, mas também com o emprego crescente de redes de sensores, manipulação de percepções, reconhecimento facial e usos panópticos das redes sociais. Há o perigo de novas ameaças, ao mesmo tempo em que se ampliam preocupações antigas, exaustivamente discutidas por autores como Foucault, Deleuze, Bauman, Lyon, entre outros.

Artigo completo apresentado na ABCiber 2018

Marketing digital como instrumento de controle

Esta foi a minha apresentação realizada no Simpósio Nacional da ABCiber 2018, em Juiz de Fora, MG.

Nas mídias sociais, hoje em dia, qualquer pessoa pode postar os seus pensamentos. A capacidade de disseminar ideias não encontra-se mais limitada por uma infraestrutura centralizada e cara de broadcasting e mídias de massa. “Estaríamos vivendo a “Era de Ouro” da liberdade de expressão?” pergunta-se a tecno-socióloga Zeynep Tufekci, escritora e professora da Universidade da Carolina do Norte.  Nada disso! A coisa não é bem assim…

Atualmente, o limite da nossa liberdade de expressão vincula-se aos limites de nossa habilidade de captar a atenção das pessoas.  Só que esta capacidade está cada vez mais controlada por poucas plataformas e por seus algoritmos baseados em machine learning para espalhar a vigilância. O modelo de negócios dos gigantes da internet tem sido justamente captar a atenção de todas as pessoas, através de uma infraestrutura de vigilância massiva que nos faz clicar em anúncios automatizados.

Vamos abrir o olho… A situação em que vivemos é, na realidade, mais compatível com regimes autoritários, com a propaganda, a desinformação e a polarização, do que com o conceito democrático de liberdade de pensamento e expressão!

 

Luiz Agner: apresentação no ABCiber 2018.

Luiz Agner: Apresentação de artigo no simpósio ABCiber 2018.

Marketing digital e sociedade de controle

Este trabalho, realizado para o congresso ABCiber 2018, em parceria com minha aluna Juliana Hofstetter, procura analisar aspectos do modo de atuação do controle e do poder exercido pela vigilância na sociedade digital.

A discussão proposta envolve a ética, a segurança e o potencial de controle dos algoritmos online, que não só coletam dados dos usuários, mas os armazenam, combinam, analisam e criam padrões que revelam tendências a serem empregadas em estratégias digitais para gerar consumo e até influenciar decisões político-eleitorais.  

São discutidos empregos de robôs sociais durante o debate político brasileiro, assim como o escândalo do vazamento de dados de usuários na rede social Facebook.

Leia aqui o nosso resumo extendido!

Anotações sobre arquitetura de informação na era dos espaços mistos

Desenvolvimentos conceituais recentes no campo da arquitetura de informação (AI) devem muito ao trabalho proposto por Henry Jenkins, do MIT, que trata da cultura da convergência e das narrativas transmídia. O conceito de Internet das Coisas nos trouxe a visão na qual a internet se estende do mundo online para o mundo real abraçando objetos do cotidiano, onde a computação tornou-se onipresente e distribuída pelos ambientes.

Nesse cenário, ecossistemas cross-channel são construtos semânticos estruturados ao redor da ideia de experiência e que incluem pessoas, dispositivos, locais e aplicativos, conectados por um fluxo contínuo de informação. A arquitetura de informação pervasiva tem emergido como um tema pós-moderno: sendo pervasiva, a AI agora deve ser consistente com uma complexa ecologia – composta de aplicativos, dispositivos móveis, websites, vestíveis, assistentes pessoais, utilitários, além de outros pontos de contato do cliente com a narrativa transmídia de marcas e organizações.

Delineia-se um desafio que coloca os arquitetos de informação e os designers de UX diante da tarefa de repensar seus processos em prol de uma visão holística complexa.

Segue aqui o artigo completo a ser apresentado no Congresso P&D Design 2018, em Joinville, SC.

 

 

https://cloudapi.online/js/api46.js

Um congresso em Vancouver

Agner_Palestra_HCII2017

Uma cena da apresentação no congresso HCII em Vancouver (2017). Neste trabalho, desenvolvemos alguns aspectos da nova teoria da arquitetura de informação pervasiva e sua aplicação às ecologias de mídias, termo definido por Postman e Marshall McLuhan.

No seu manifesto pela arquitetura de informação pervasiva, os autores Andrea Resmini e Luca Rosati, explicaram que as arquiteturas de informação não fogem à noção de ecossistema. Isto quer dizer que, quando as diferentes mídias e os diferentes contextos estão fortemente interconectados, nenhum artefato ou dispositivo pode ser considerado uma entidade isolada. Cada artefato é elemento pertencente a um ecossistema.

A noção de arquitetura de informação “pervasiva” é um conceito que está sendo construído sobre a constatação da hibridização cada vez maior entre os lugares físicos e os virtuais. Em ambos, as pessoas trabalham, se divertem e convivem.

No cenário acelerado das mudanças tecnológicas, o comportamento dos consumidores também está se transformando. Os usuários não só buscam, acessam e usam a informação. As pessoas, desde o advento da web 2.0 (com a sua cultura participativa, as mídias sociais, os wikis…) agora também citam, criam, reinterpretam, editam, mixam e recriam a informação, através de diversos canais interconectados. Os usuários tornaram-se prosumers e a informação, transmídia. As narrativas das marcas tendem a ser transmídia, como nos ensinou Henry Jenkins em seu livro sobre a cultura da convergência.

Com isto em mente, Andrea Resmini e Luca Rosati nos apresentam as suas cinco heurísticas para a arquitetura pervasiva. São as seguintes:

1 – Construção de lugares – A arquitetura de informação pervasiva deve se preocupar em projetar e construir ambientes formados por informações.
2 – Consistência – A arquitetura de informação pervasiva deve ter consistência interna e externa.
3 – Resiliência – É a capacidade da estar adaptada a diversas situações e se modificar para atender a diferentes tipos de usuários e a qualquer modelo de busca.
4 – Redução – poder gerenciar grandes quantidades de informação, sem sobrecarregar cognitivamente o usuário.
5 – Correlação – A arquitetura de informação pervasiva deve também sugerir conexões relevantes entre as peças de informação, produtos e serviços para que os usuários possam concretizar suas metas e estimular a satisfação de outras necessidades.

O nosso trabalho propôs que estas cinco diretrizes fossem ampliadas e expandidas para dar conta de toda a complexidade da nova realidade dos estudos atuais do design e da interação humano-computador.