A interação humano-algoritmo surge como uma nova fronteira para estudos envolvendo design de interação e ergonomia de interface. Esta pesquisa abordou questões sensíveis e emergentes de sistemas de recomendação que muitas vezes são consideradas muito novas ou desconhecidas por profissionais no campo da ergonomia e design de experiência do usuário. 

Durante nossas entrevistas com usuários, examinamos as práticas de consumo de conteúdo na plataforma Netflix, identificando alguns aspectos de sua interação com algoritmos de recomendação.

As respostas dos entrevistados sugeriram que pode haver falhas de comunicação. Portanto, os designers de UX devem se esforçar para tornar óbvio como o sistema rastreia e processa os dados de interação do usuário. Seria aconselhável alcançar uma transparência razoável e ajudar os usuários a construir modelos mentais adequados, bem como a desconstruir o sentimento de “caixa preta”. 

Os usuários revelaram uma suspeita sobre algoritmos e sobre o que pode acontecer com os dados de uso, não apenas na plataforma Netflix, mas também em outros serviços que usam recomendação baseada em algoritmo. Surgiram temores de manipulação política, restrição da liberdade de informação e até mesmo hackeamento de cartões de crédito. Além disso, um entrevistado relatou a preocupação de que a plataforma de streaming compartilhasse seus dados com outros serviços online. 

Da mesma forma, os usuários não pareciam estar completamente cientes de como poderiam interferir no sistema de recomendação e quais ações poderiam tomar para gerar listas de itens mais relevantes de acordo com seus objetivos e humor. Os respondentes desconheciam o universo de entradas possíveis para melhorar a experiência. 

As respostas parecem indicar que os designers de UX devem fornecer um método eficaz para encorajar os usuários a registrar feedbacks ou editar os dados do usuário a fim de criar recomendações melhores. Os designers de UX ainda têm muito a aprender e a contribuir para o reforço de controle do usuário sobre a tecnologia durante a interação com algoritmos de aprendizado de máquina. 

Estas foram algumas das conclusões do nosso trabalho apresentado no Congresso HCI International 2020.

Download: Recommendation Systems and Machine Learning: Mapping the User Experience (Author’s Proof – PDF)

Por Luiz Agner (Facha; IBGE), Barbara Necyk (Puc-Rio; Esdi-UERJ) and Adriano Renzi (UFF).

CITAR COMO (CITE THIS PAPER AS):

Agner L., Necyk B., Renzi A. (2020) Recommendation Systems and Machine Learning: Mapping the User Experience. In: Marcus A., Rosenzweig E. (eds) Design, User Experience, and Usability. Design for Contemporary Interactive Environments. HCII 2020. Lecture Notes in Computer Science, vol 12201. Springer, Cham. https://doi.org/10.1007/978-3-030-49760-6_1