Como as pesquisas acadêmicas são utilizadas na vida real

Certa vez ouvi uma frase que muito me marcou: dizia que quando você publica um trabalho e o joga para o mundo, ele imediatamente deixa de ser seu. O Academia (uma rede social mundial onde acadêmicos compartilham trabalhos) detecta os artigos onde cada pesquisador foi mencionado. É muito interessante para um professor verificar quais são as diferentes formas que as suas pesquisas são utilizadas na prática, por outros estudiosos, dentro ou fora do seu campo de pesquisa. Fico muito feliz que os meus textos são usados como referência…

No arquivo .pdf abaixo segue a listagem de 242 citações de trabalhos, tal qual encontradas na web pelo Academia (com os seus links) até a data de hoje.

Listagem de artigos com citações acadêmicas (segundo o site Academia).

Sistemas de recomendação e machine learning: o impacto na experiência dos usuários

A interação humano-algoritmo surge como uma nova fronteira para estudos envolvendo design de interação e ergonomia de interface. Esta pesquisa abordou questões sensíveis e emergentes de sistemas de recomendação que muitas vezes são consideradas muito novas ou desconhecidas por profissionais no campo da ergonomia e design de experiência do usuário. 

Durante nossas entrevistas com usuários, examinamos as práticas de consumo de conteúdo na plataforma Netflix, identificando alguns aspectos de sua interação com algoritmos de recomendação.

As respostas dos entrevistados sugeriram que pode haver falhas de comunicação. Portanto, os designers de UX devem se esforçar para tornar óbvio como o sistema rastreia e processa os dados de interação do usuário. Seria aconselhável alcançar uma transparência razoável e ajudar os usuários a construir modelos mentais adequados, bem como a desconstruir o sentimento de “caixa preta”

Os usuários revelaram uma suspeita sobre algoritmos e sobre o que pode acontecer com os dados de uso, não apenas na plataforma Netflix, mas também em outros serviços que usam recomendação baseada em algoritmo. Surgiram temores de manipulação política, restrição da liberdade de informação e até mesmo hackeamento de cartões de crédito. Além disso, um entrevistado relatou a preocupação de que a plataforma de streaming compartilhasse seus dados com outros serviços online. 

Da mesma forma, os usuários não pareciam estar completamente cientes de como poderiam interferir no sistema de recomendação e quais ações poderiam tomar para gerar listas de itens mais relevantes de acordo com seus objetivos e humor. Os respondentes desconheciam o universo de entradas possíveis para melhorar a experiência. 

As respostas parecem indicar que os designers de UX devem fornecer um método eficaz para encorajar os usuários a registrar feedbacks ou editar os dados do usuário a fim de criar recomendações melhores. Os designers de UX ainda têm muito a aprender e a contribuir para o reforço de controle do usuário sobre a tecnologia durante a interação com algoritmos de aprendizado de máquina. 

Estas foram algumas das conclusões do nosso trabalho apresentado no Congresso HCI International 2020.

Download: Recommendation Systems and Machine Learning: Mapping the User Experience (Author’s Proof – PDF)

Por Luiz Agner (Facha; IBGE), Barbara Necyk (Puc-Rio; Esdi-UERJ) and Adriano Renzi (UFF).

CITAR COMO (CITE THIS PAPER AS):

Agner L., Necyk B., Renzi A. (2020) Recommendation Systems and Machine Learning: Mapping the User Experience. In: Marcus A., Rosenzweig E. (eds) Design, User Experience, and Usability. Design for Contemporary Interactive Environments. HCII 2020. Lecture Notes in Computer Science, vol 12201. Springer, Cham. https://doi.org/10.1007/978-3-030-49760-6_1


Ensino de design e de comunicação em tempos de pandemia

Este artigo trata dos processos de adaptação e flexibilização das dinâmicas pedagógicas de disciplinas da graduação dos cursos de Design e de Comunicação no âmbito de universidades particulares brasileiras em meio à pandemia do COVID-19, no primeiro semestre de 2020. Em questão de semanas, professores do ensino superior tiveram que adaptar suas dinâmicas de aula para o meio online por conta do isolamento social. O novo formato de aula em videoconferência foi sendo testado na medida em que o curso acontecia. O texto examina como alguns princípios da educação a distância funcionaram em um contexto sem um planejamento prévio.

Trabalho realizado em parceria com a professora Barbara Necyk (Puc-Rio e ESDI).

Ensino de design e de comunicação em tempos de pandemia (download).

300 citações acadêmicas

300 citações no site Academia.edu

O site Academia é uma espécie de rede social de pesquisadores de todo o mundo. Recentemente, alcancei este marco no número de citações acadêmicas ao meu trabalho de pesquisa (referências a artigos científicos que estão compartilhados no Academia.).

PS – Em 02 de julho de 2021, após uma triagem e seleção rigorosa (já na versão Premium do Academia), retirei os erros do algoritmo e os pesquisadores homônimos, perfazendo um total de 241 citações previamente checadas.

Interação humano-algoritmo

A interação humano-algoritmo surgiu recentemente como uma nova fronteira de estudos envolvendo design de interação e ergonomia de interface. Este trabalho visa discutir a eficácia e a comunicabilidade dos sistemas de recomendação de conteúdos em streaming, baseados no aprendizado de máquina, do ponto de vista do modelo mental dos usuários.

No artigo, examinamos as práticas de consumo de conteúdo na plataforma Netflix, identificando alguns aspectos sensíveis da interação com algoritmos de recomendação. Foram aplicadas entrevistas semi-estruturadas a uma amostra de alunos de três universidades diferentes do Rio de Janeiro.

Percebemos que os entrevistados em geral não compreenderam como o sistema funciona e não formaram um modelo mental adequado sobre os dados rastreados e processados para criar listas personalizadas.

Outra questão diz respeito à privacidade: os usuários demonstraram suspeitas a respeito dos algoritmos e o que poderia acontecer com os seus dados de uso, não apenas na plataforma Netflix, mas em outros serviços que utilizam recomendação baseada em algoritmos.

As respostas dos entrevistados sugeriram que pode haver falhas de comunicação. Portanto, designers de UX devem se esforçar para tornar mais claro como o sistema rastreia e processa os dados das interações.

Trabalho para o congresso HCII 2020 (prova de autor/ pre-print).

Algoritmos contribuem para ampliar a sociedade do controle

Somente agora começamos a identificar e a abordar os problemas levantados pela rápida introdução dos algoritmos de inteligência artificial e machine learning em áreas importantes no âmbito social. A partir dos escândalos trazidos pelo emprego da IA, questões fundamentais emergiram para reflexão: quem será responsabilizado quando sistemas de aprendizado estatístico começam a prejudicar os cidadãos? O gap de responsabilidade torna-se presente quando se observa o atual emprego crescente dos algoritmos para amplificar a vigilância digital sobre a sociedade, no âmbito do marketing ou da política, especialmente em associação a tecnologias disruptivas com potencial de maximizar o controle social e, possivelmente, no caso de alguns governos, a opressão.

Algoritmos de machine learning têm contribuído amplamente para ampliar a vigilância social generalizada. Isso ocorre não somente com o rastreamento de dados dos usuários pelo marketing, mas também com o emprego crescente de redes de sensores, manipulação de percepções, reconhecimento facial e usos panópticos das redes sociais. Há o perigo de novas ameaças, ao mesmo tempo em que se ampliam preocupações antigas, exaustivamente discutidas por autores como Foucault, Deleuze, Bauman, Lyon, entre outros.

Artigo completo apresentado na ABCiber 2018

Por dentro da inteligência artificial (II)

O aprendizado de máquina (machine learning) tem emergido como um tópico de grande interesse dentro do campo da pesquisa em inteligência artificial. Segundo Honda, Facure e Yaohao, o aprendizado de máquina ocorre quando um sistema computacional busca realizar uma tarefa aprendendo a partir de experiências, procurando assim melhorar a sua performance.

Um algoritmo de IA pode aprender a atingir seu objetivo a partir de um grande volume de dados que representam as experiências. Quanto mais dados, mais exemplos de padrões que o computador pode generalizar para tomar melhores decisões, em situações ainda não vistas. Entre as abordagens para o aprendizado de máquina podem ser citados o aprendizado supervisionado, o aprendizado não-supervisionado e o aprendizado por reforço.

O aprendizado supervisionado tem sido a área da inteligência artificial onde se concentra o maior número de pesquisas, experiências e de produtos bem sucedidos, e onde a maior parte dos problemas já estão bem definidos. A característica básica de sistemas de aprendizado supervisionado é que os dados utilizados para treiná-los contém a resposta desejada. Ou seja, os dados são previamente anotados com as respostas ou classes a serem previstas. Dentre suas técnicas mais conhecidas estão a regressão linear, regressão logística, redes neurais artificiais, árvores de decisão, entre outras.

No caso do aprendizado não supervisionado, nem todos os problemas podem ser resolvidos desta forma. Em alguns casos, conseguir dados previamente anotados é extremamente custoso ou impossível. Nesses casos, deve-se observar nos registros e dados se existem padrões repetidos que permitiriam a inferência de classes, perfis ou categorias. De uma forma geral, o aprendizado não supervisionado busca uma representação informativa mais simples dos dados, condensando a informação existente em pontos relevantes.

Exemplos de aplicações de aprendizado não supervisionado são sistemas de recomendação de filmes ou músicas, detecção de anomalias e visualização de dados. Dentre as técnicas conhecidas estão as redes neurais artificiais, expectativa-maximização, clusterização hierárquica, análise de componentes principais, entre outras. Problemas de aprendizado não supervisionado são consideravelmente complexos. Como consequência, esse modelo está na fronteira do conhecimento atual em aprendizado de máquina.

A terceira abordagem de aprendizagem de máquina é a chamada aprendizagem por reforço, em que a máquina tenta aprender qual é a melhor ação a ser tomada, dependendo das circunstâncias na qual esta ação será executada. Esta técnica leva em consideração a incerteza e incorpora eventuais mudanças no ambiente para o processo de tomada da melhor decisão. Baseia-se na psicologia behaviorista de Skinner: com o tempo e a repetição de experimentos, espera-se que o agente consiga associar as ações que geram maior recompensa para cada situação que o ambiente apresenta, e passe a evitar as ações que geram punição ou recompensa menor. Isto aplicado à realidade computacional implica que a máquina observa um “estado da natureza”, dentre um conjunto de cenários possíveis, e, com base nisso, escolhe a ação a se tomar.

Em seguida, recebe a recompensa associada a esta ação, nesse estado específico, obtendo assim a informação desta combinação. O processo se repete até que o computador seja capaz de escolher a melhor ação para cada um dos cenários possíveis.

Fonte: Honda, Facure e Yaohao (2019).

O uso de dados de usuários e dispositivos de vigilância

O objetivo deste trabalho é analisar o modo de atuação do controle e do poder exercido pela vigilância digital na sociedade contemporânea. Para isso, é necessário compreender a evolução, a manutenção e a transformação dos dispositivos de poder a que os indivíduos foram submetidos, e como esses meios foram potencializados com a internet e os avanços tecnológicos, elevando o poder da comunicação como forma de gerenciar comportamentos sociais e de consumo.

Como o marketing online se tornou um instrumento de controle e de que modo isso afeta o comportamento social? Qual o grau da exposição dos indivíduos e de seus dados privados na rede? É possível mapear as novas tecnologias e sistemas regulatórios e ter ideia de sua amplitude, mas será que isso é suficiente para compreender toda a força da onda da vigilância?

Este artigo relata as evoluções dos dispositivos de vigilância — em especial, os tecnológicos associados à comunicação e à internet — e sua capacidade de desencadear desdobramentos que impactam na construção do modelo de sociedade distópica que estamos criando.

Artigo publicado na Revista Comum (Facha).