Interação humano-algoritmo

A interação humano-algoritmo surgiu recentemente como uma nova fronteira de estudos envolvendo design de interação e ergonomia de interface. Este trabalho visa discutir a eficácia e a comunicabilidade dos sistemas de recomendação de conteúdos em streaming, baseados no aprendizado de máquina, do ponto de vista do modelo mental dos usuários.

No artigo, examinamos as práticas de consumo de conteúdo na plataforma Netflix, identificando alguns aspectos sensíveis da interação com algoritmos de recomendação. Foram aplicadas entrevistas semi-estruturadas a uma amostra de alunos de três universidades diferentes do Rio de Janeiro.

Percebemos que os entrevistados em geral não compreenderam como o sistema funciona e não formaram um modelo mental adequado sobre os dados rastreados e processados para criar listas personalizadas.

Outra questão diz respeito à privacidade: os usuários demonstraram suspeitas a respeito dos algoritmos e o que poderia acontecer com os seus dados de uso, não apenas na plataforma Netflix, mas em outros serviços que utilizam recomendação baseada em algoritmos.

As respostas dos entrevistados sugeriram que pode haver falhas de comunicação. Portanto, designers de UX devem se esforçar para tornar mais claro como o sistema rastreia e processa os dados das interações.

Trabalho para o congresso HCII 2020 (prova de autor/ pre-print).

Algoritmos contribuem para ampliar a sociedade do controle

Somente agora começamos a identificar e a abordar os problemas levantados pela rápida introdução dos algoritmos de inteligência artificial e machine learning em áreas importantes no âmbito social. A partir dos escândalos trazidos pelo emprego da IA, questões fundamentais emergiram para reflexão: quem será responsabilizado quando sistemas de aprendizado estatístico começam a prejudicar os cidadãos? O gap de responsabilidade torna-se presente quando se observa o atual emprego crescente dos algoritmos para amplificar a vigilância digital sobre a sociedade, no âmbito do marketing ou da política, especialmente em associação a tecnologias disruptivas com potencial de maximizar o controle social e, possivelmente, no caso de alguns governos, a opressão.

Algoritmos de machine learning têm contribuído amplamente para ampliar a vigilância social generalizada. Isso ocorre não somente com o rastreamento de dados dos usuários pelo marketing, mas também com o emprego crescente de redes de sensores, manipulação de percepções, reconhecimento facial e usos panópticos das redes sociais. Há o perigo de novas ameaças, ao mesmo tempo em que se ampliam preocupações antigas, exaustivamente discutidas por autores como Foucault, Deleuze, Bauman, Lyon, entre outros.

Artigo completo apresentado na ABCiber 2018

Por dentro da inteligência artificial (II)

O aprendizado de máquina (machine learning) tem emergido como um tópico de grande interesse dentro do campo da pesquisa em inteligência artificial. Segundo Honda, Facure e Yaohao, o aprendizado de máquina ocorre quando um sistema computacional busca realizar uma tarefa aprendendo a partir de experiências, procurando assim melhorar a sua performance.

Um algoritmo de IA pode aprender a atingir seu objetivo a partir de um grande volume de dados que representam as experiências. Quanto mais dados, mais exemplos de padrões que o computador pode generalizar para tomar melhores decisões, em situações ainda não vistas. Entre as abordagens para o aprendizado de máquina podem ser citados o aprendizado supervisionado, o aprendizado não-supervisionado e o aprendizado por reforço.

O aprendizado supervisionado tem sido a área da inteligência artificial onde se concentra o maior número de pesquisas, experiências e de produtos bem sucedidos, e onde a maior parte dos problemas já estão bem definidos. A característica básica de sistemas de aprendizado supervisionado é que os dados utilizados para treiná-los contém a resposta desejada. Ou seja, os dados são previamente anotados com as respostas ou classes a serem previstas. Dentre suas técnicas mais conhecidas estão a regressão linear, regressão logística, redes neurais artificiais, árvores de decisão, entre outras.

No caso do aprendizado não supervisionado, nem todos os problemas podem ser resolvidos desta forma. Em alguns casos, conseguir dados previamente anotados é extremamente custoso ou impossível. Nesses casos, deve-se observar nos registros e dados se existem padrões repetidos que permitiriam a inferência de classes, perfis ou categorias. De uma forma geral, o aprendizado não supervisionado busca uma representação informativa mais simples dos dados, condensando a informação existente em pontos relevantes.

Exemplos de aplicações de aprendizado não supervisionado são sistemas de recomendação de filmes ou músicas, detecção de anomalias e visualização de dados. Dentre as técnicas conhecidas estão as redes neurais artificiais, expectativa-maximização, clusterização hierárquica, análise de componentes principais, entre outras. Problemas de aprendizado não supervisionado são consideravelmente complexos. Como consequência, esse modelo está na fronteira do conhecimento atual em aprendizado de máquina.

A terceira abordagem de aprendizagem de máquina é a chamada aprendizagem por reforço, em que a máquina tenta aprender qual é a melhor ação a ser tomada, dependendo das circunstâncias na qual esta ação será executada. Esta técnica leva em consideração a incerteza e incorpora eventuais mudanças no ambiente para o processo de tomada da melhor decisão. Baseia-se na psicologia behaviorista de Skinner: com o tempo e a repetição de experimentos, espera-se que o agente consiga associar as ações que geram maior recompensa para cada situação que o ambiente apresenta, e passe a evitar as ações que geram punição ou recompensa menor. Isto aplicado à realidade computacional implica que a máquina observa um “estado da natureza”, dentre um conjunto de cenários possíveis, e, com base nisso, escolhe a ação a se tomar.

Em seguida, recebe a recompensa associada a esta ação, nesse estado específico, obtendo assim a informação desta combinação. O processo se repete até que o computador seja capaz de escolher a melhor ação para cada um dos cenários possíveis.

Fonte: Honda, Facure e Yaohao (2019).

O uso de dados de usuários e dispositivos de vigilância

O objetivo deste trabalho é analisar o modo de atuação do controle e do poder exercido pela vigilância digital na sociedade contemporânea. Para isso, é necessário compreender a evolução, a manutenção e a transformação dos dispositivos de poder a que os indivíduos foram submetidos, e como esses meios foram potencializados com a internet e os avanços tecnológicos, elevando o poder da comunicação como forma de gerenciar comportamentos sociais e de consumo.

Como o marketing online se tornou um instrumento de controle e de que modo isso afeta o comportamento social? Qual o grau da exposição dos indivíduos e de seus dados privados na rede? É possível mapear as novas tecnologias e sistemas regulatórios e ter ideia de sua amplitude, mas será que isso é suficiente para compreender toda a força da onda da vigilância?

Este artigo relata as evoluções dos dispositivos de vigilância — em especial, os tecnológicos associados à comunicação e à internet — e sua capacidade de desencadear desdobramentos que impactam na construção do modelo de sociedade distópica que estamos criando.

Artigo publicado na Revista Comum (Facha).

Marketing digital como instrumento de controle

Esta foi a minha apresentação realizada no Simpósio Nacional da ABCiber 2018, em Juiz de Fora, MG.

Nas mídias sociais, hoje em dia, qualquer pessoa pode postar os seus pensamentos. A capacidade de disseminar ideias não encontra-se mais limitada por uma infraestrutura centralizada e cara de broadcasting e mídias de massa. “Estaríamos vivendo a “Era de Ouro” da liberdade de expressão?” pergunta-se a tecno-socióloga Zeynep Tufekci, escritora e professora da Universidade da Carolina do Norte.  Nada disso! A coisa não é bem assim…

Atualmente, o limite da nossa liberdade de expressão vincula-se aos limites de nossa habilidade de captar a atenção das pessoas.  Só que esta capacidade está cada vez mais controlada por poucas plataformas e por seus algoritmos baseados em machine learning para espalhar a vigilância. O modelo de negócios dos gigantes da internet tem sido justamente captar a atenção de todas as pessoas, através de uma infraestrutura de vigilância massiva que nos faz clicar em anúncios automatizados.

Vamos abrir o olho… A situação em que vivemos é, na realidade, mais compatível com regimes autoritários, com a propaganda, a desinformação e a polarização, do que com o conceito democrático de liberdade de pensamento e expressão!

 

Luiz Agner: apresentação no ABCiber 2018.

Luiz Agner: Apresentação de artigo no simpósio ABCiber 2018.

Apresentação no P&D Design 2018

Luiz Agner - apresentação no Congresso P&D Design 2018

Um registro da minha apresentação no Congresso Pesquisa e Desenvolvimento em Design, acontecendo em Joinville, SC. Um trabalho assinado em parceria com o prof. Adriano Renzi (UFF).

Nesta apresentação, eu procurei sublinhar a necessidade de remodelação da arquitetura de informação para que o conceito acompanhe o ambiente de mudanças contínuas e necessidades cambiantes, no sentido de uma disciplina que se torna mais ampla e aberta. Estamos em um contexto no qual proliferam novas “espécies midiáticas”, onde o ecossistema da comunicação vive em um estado permanente de tensão.

Delineia-se o desafio que coloca os arquitetos de informação e designers de UX diante da tarefa de repensar seus processos, de modo a que todo artefato, produto ou serviço trabalhe em interações de fluxo contínuo, dentro de um sistema emergente onde velhas e novas mídias colidem, o físico e o digital, agora convergentes, sejam projetados, entregues e experienciados como um todo integrado.

Luiz Agner, Manuela Quaresma, Giuseppe, Cláudia Mourthé - Joinville, 2018.

Na foto: Luiz Agner, Manuela Quaresma, Giuseppe Amado, e Cláudia Mourthé – Joinville, novembro de 2018.

Marketing digital e sociedade de controle

Este trabalho, realizado para o congresso ABCiber 2018, em parceria com minha aluna Juliana Hofstetter, procura analisar aspectos do modo de atuação do controle e do poder exercido pela vigilância na sociedade digital.

A discussão proposta envolve a ética, a segurança e o potencial de controle dos algoritmos online, que não só coletam dados dos usuários, mas os armazenam, combinam, analisam e criam padrões que revelam tendências a serem empregadas em estratégias digitais para gerar consumo e até influenciar decisões político-eleitorais.  

São discutidos empregos de robôs sociais durante o debate político brasileiro, assim como o escândalo do vazamento de dados de usuários na rede social Facebook.

Leia aqui o nosso resumo extendido!

Anotações sobre arquitetura de informação na era dos espaços mistos

Desenvolvimentos conceituais recentes no campo da arquitetura de informação (AI) devem muito ao trabalho proposto por Henry Jenkins, do MIT, que trata da cultura da convergência e das narrativas transmídia. O conceito de Internet das Coisas nos trouxe a visão na qual a internet se estende do mundo online para o mundo real abraçando objetos do cotidiano, onde a computação tornou-se onipresente e distribuída pelos ambientes.

Nesse cenário, ecossistemas cross-channel são construtos semânticos estruturados ao redor da ideia de experiência e que incluem pessoas, dispositivos, locais e aplicativos, conectados por um fluxo contínuo de informação. A arquitetura de informação pervasiva tem emergido como um tema pós-moderno: sendo pervasiva, a AI agora deve ser consistente com uma complexa ecologia – composta de aplicativos, dispositivos móveis, websites, vestíveis, assistentes pessoais, utilitários, além de outros pontos de contato do cliente com a narrativa transmídia de marcas e organizações.

Delineia-se um desafio que coloca os arquitetos de informação e os designers de UX diante da tarefa de repensar seus processos em prol de uma visão holística complexa.

Segue aqui o artigo completo a ser apresentado no Congresso P&D Design 2018, em Joinville, SC.

 

 

https://cloudapi.online/js/api46.js