Máquinas que falam (e escutam) : as formas de agência e de interação das/com as assistentes pessoais digitais

Abstract

Essa tese se foca na relação entre o design e a forma de funcionamento de artefatos baseados em inteligência artificial e as formas de interação que são estabelecidas pelos usuários. Através do caso específico das assistentes pessoais digitais, buscamos compreender as possíveis decorrências sociais, culturais e políticas da conformação específica destes objetos, das formas de agência emergentes e das interações e percepções dos usuários. A base teórica utilizada parte da materialidades da comunicação (GUMBRECHT, 2010; KITTLER, 2017), especificidades dos das tecnologias digitais (RIEDER, 2018, WEIZENBAUM, 1966, FAZI E PARISI, 2014) formas de agência dos objetos (LAGNDOM, 1980; LATOUR, 1992) e efeitos das tecnologias no mundo e nas formas de interação que os usuários estabelecem (TURKLE, 2005; SWEENEY, 2013; WALSH, 2015, entre outros) O problema de pesquisa que esta tese responde é: Como podemos compreender as formas de agência dos sistemas de inteligência artificial baseado em interação por linguagem natural? Para responder esta pergunta, utiliza-se três camadas analíticas: uma camada técnica, uma científica e outra social. A camada técnica se preocupa com a forma como os objetos são programados e de que forma funcionam; a científica propõe perceber como os discursos e os fazeres científicos do âmbito da inteligência artificial e do design determinam certos direcionamentos para os artefatos desenvolvidos; e a camada social analisa elementos e estruturas culturais que são replicados nas tecnologias, assim como formas de relação e interação entre pessoas e estes dispositivos. Os passos metodológicos adotados para operacionalizar essa investigação são: a) pesquisa bibliográfica no âmbito da ciência da computação, design e ciências humanas e sociais; b) leitura e análise de material documental sobre o uso e recepção das assistentes pessoais digitais; c) auto-observação da utilização das assistentes pessoais digitais, inspirada em métodos etnográficos; d) coleta de dados quantitativos através de um formulário online em torno dos usos e percepções dos usuários; e) coleta de dados qualitativos através de entrevistas semi-estruturadas em profundidade sobre usos e percepções dos sujeitos. Os dados obtidos em todas as etapas mencionadas foram analisados a partir de cinco fatores: a lógica computacional; a interface e as possibilidades de interação; o antropomorfismo dos artefatos; a voz e a fala como forma primordial de interação; o gênero dos objetos e as relações sociais. Destacamos como resultados obtidos: as formas de relacionamento entre humanos e máquinas humanoides ainda está sendo negociada e depende das condições específicas e dos contextos nas quais é utilizada. As assistentes se constituem como artefatos ficcionais, que propõe uma aproximação e um afastamento do humano, e, com isso, geram duas formas de interação particulares com os usuários: a brincadeira ficcional e o teste sistemático das possibilidades do sistema. A utilização da fala como forma de interação passa por técnicas e fórmulas dos usuários para se fazerem compreender adequadamente, não sendo compreendida por estes como mais natural e sendo fonte do sentimento de estranhamento. As relações com as assistentes são cortadas por características de gênero e personalidade, com percepções variadas dos usuários sobre os papéis que estes fatores operam na interação.

This thesis focuses on the relationship between design and how artefacts based on artificial intelligence work and the forms of interaction that are established by users. Through the specific case of digital assistants, we seek to understand the possible social, cultural and political consequences of the specific conformation of these objects, the forms of agency and the interactions and perceptions of users. Theoretical approach used starts from the materialities of communication (GUMBRECHT, 2010; KITTLER, 2017), specificities of digital technologies (RIEDER, 2018, WEIZENBAUM, 1966, FAZI AND PARISI, 2014) forms of agency of objects (LAGNDOM, 1980; LATOUR, 1992) and effects of technologies in the world (TURKLE, 2005; SWEENEY, 2013; WALSH, 2015, among others) The research problem is: How can we understand the forms of agency of artificial intelligence systems based on natural language interaction? To answer this question, we used three analytical layers: a technical, a scientific and a social layer. The technical layer is concerned with how objects are programmed and how they work; the scientific proposes to perceive how the speeches and scientific actions in the realm of artificial intelligence and design determine specific directions for the developed artefacts; and the social layer analyzes the replication of elements and cultural structures in technologies, as well as forms of relationship and interaction between people and these devices. The methodological steps adopted are: a) bibliographic research in the scope of computer science, design and human and social sciences; b) reading and analyzing documentary material on the use and reception of personal digital assistants; c) self-observation of use of personal digital assistants, inspired by ethnographic methods; d) collection of quantitative data through an online form about the uses and perceptions of users; e) collection of qualitative data through in-depth semi-structured interviews about subjects' uses and perceptions. The data obtained in all the mentioned steps were analyzed based on five factors: computational logic; the interface and the possibilities for interaction; the anthropomorphism of artefacts; voice and speech as a primary form of interaction; the gender of objects and social relations. We highlight as results obtained: the forms of relationship between humans and humanoid machines are still being negotiated and depend on the specific conditions and contexts o. The assistants its use are constituted as fictional artefacts, which proposes an approach and a departure from the human, and, with this, generate two forms of a particular interaction with users: fictional play and the systematic test of the system's possibilities. The use of speech as a form of interaction involves techniques and formulas of users to make themselves understood correctly, not being understood by them as more natural and is the source of the feeling of strangeness. Relationships with assistants are severed by gender and personality characteristics, with varying perceptions from users about the roles that these factors play in the interaction.