Smart cities: influência e contestabilidade das tecnologias

545
Tecnologias.
Dreamweb 728×90 – Video I

Na Ásia, América e Europa está em curso a dotação de “inteligência” às cidades. Um caso de participação nesse movimento global, e assim também de ilustração do conceito “cidade inteligente”, é a iniciativa Aveiro Tech City com os seus diversos projetos e atividades.

Por Miguel Soares de Albergaria *

Sucesso tecnológico vs. “tecnomagia”

Os benefícios potenciais dessas tecnologias são entusiasmantes. Mas a primeira condição da sua realização será enjeitarmos, desde o início, a atitude “tecnomágica” que atribui à tecnologia a virtualidade de resolver sem custos tendencialmente quaisquer problemas ou limitações humanas. Em virtude dos enviesamentos humanos e das incongruências que se verificam na IA daqueles processos digitais, como aqui introduzi há dias.

Os quais, como também aí procurei assinalar, põem particularmente em risco a liberdade “negativa” (ausência de imposições) dos habitantes destas cidades, enquanto todavia podem facultar uma maior liberdade “positiva” (capacitação) destes últimos.
Neste período de reflexão crítica sobre as cidades e de projetos estruturantes para as mesmas, como serão quaisquer projetos de tecnologias urbanas inteligentes, todos quantos nos posicionamos em algum ponto do espectro entre aqueles dois modos do valor “liberdade” deveremos assim procurar uma condição que se constitua qual mínimo múltiplo comum de ambos.

Capacitação vs. restrição, e contestabilidade

Na CEPE/IACAP Joint Conference 2021: The Philosophy and Ethics of Artificial Intelligence, no passado mês de julho, Sage Cammers-Goodwin reconheceu essa tensão entre o aprimoramento das ações ou até capacitação (liberdade positiva) dos habitantes de cidades inteligentes pela intermediação destas tecnologias, e uma substancial redução da liberdade negativa das pessoas igualmente possível aos sistemas tecnológicos inteligentes.
Essa investigadora propõe a condição de “contestabilidade” como o mínimo múltiplo comum que invocamos acima, a aplicar onde possível. Esta condição é constituída pelas admissões, tanto pelo sistema quanto por cada utilizador, de que nenhuma das partes é suficiente para reconhecer e avaliar cada situação dada, e para decidir aí a ação mais adequada. Uma vez que esta ação implica as intervenções das duas partes, cada uma destas potencia o conjunto ao promover e participar na ação, mas mantém a respetiva liberdade de evitar esta última.

Esta condição, porém, não será unívoca. Cada designer técnico e, principalmente, cada decisor político – nomeadamente cada eleitor – terá de decidir o nível de contestabilidade que será requerido em geral, ou porventura para cada tecnologia urbana inteligente.

Níveis e cláusulas de liberdade tecnológica

Particularmente em relação aos sistemas com aprendizagem autónoma (i.e. os sistemas que desenvolvem por si próprios os algoritmos que implementarão), podemos graduar a requisição de contestabilidade conforme os 4 níveis apresentados por Paul de Laat na mesma Conferência.

No menor nível de decisão pelo utilizador – posicionamento mais positivo do que negativo no referido espectro da liberdade – admitir-se-ão as decisões do sistema tecnológico urbano sempre que os resultados forem satisfatórios.

Nos quadros da UE, tende-se a exigir mais uma cláusula – numa posição ao lado da anterior no sentido negativo: o modelo de aprendizagem autónoma de cada tecnologia urbana inteligente também tem de ser explicável aos agentes interessados e/ou afetados.
Aumentando ainda o grau de contestabilidade por parte dos utilizadores do sistema, de Laat argumentou que esses processos de decisão, além de satisfatórios e explicáveis, devem ser interpretáveis por pessoas com literacia comum. Por exemplo, mediante balanced scorecards (“indicadores balanceados de desempenho”: definição dos objetivos e medição dos resultados).

Enfim, para a maior preservação possível da liberdade negativa dos habitantes de cidades inteligentes, simplesmente se recusarão sistemas com aprendizagem autónoma, tendo os sistemas que ser sempre programados e operacionalizados por seres humanos, com fiscalização independente.

Pela minha parte, também tendo para o 3º nível (tanto quanto possível). Mas estendendo ainda a cláusula da interpretabilidade ao reconhecimento social dos tipos de impacto ou de efeitos que cada uma dessas tecnologias terá nos seus utilizadores. Por isso procurei salientar esses impactos logo no 1º artigo desta trilogia.

Qualquer que seja o nível requerido de contestabilidade, porém, tanto designers, quanto decisores políticos, quanto cada utilizador das tecnologias, devemos ter em conta os modos como quaisquer destas últimas nos impactam ou nos influenciam – os modos como causam os seus efeitos nos respetivos utilizadores.

Força e visibilidade da influência tecnológica

Uma tecnologia podem apresentar-se aos utilizadores com maior ou menor visibilidade (percetibilidade), e pode influenciar estes últimos com mais ou menos força – v. Nynke Tromp et al. (2001).

Por exemplo, os rails separadores entre os lados de uma autoestrada são muito percetíveis e muito impositivos (fortes). Neste esquema concetual, essa tecnologia diz-se “coerciva”.

Dispõe-se no 1º quadrante de um sistema de eixos ortogonais que represente a articulação daquelas duas dimensões (visibilidade nas abcissas, força nas ordenadas). Na sua utilização, estas tecnologias podem não ser de todo contestáveis. No entanto, a sua visibilidade faculta uma contestabilidade política da respetiva implementação.

Quando as tecnologias igualmente forçam os utilizadores, mas implícita ou impercetivelmente, esses autores designam-nas “decisivas”. Dispõem-se no 2º quadrante deste sistema de eixos. Nas cidades inteligentes, será o caso de sistemas de reconhecimento facial em espaços públicos, com suposta interpretação de emoções, e consequente classificação social, económica ou política dos transeuntes e utilizadores – p. ex. o sistema chinês de “crédito social”. Só uma sua visibilização, por transparência das instituições públicas e por uma literacia sociotécnica dos cidadãos que lhes permita acompanhar e avaliar os sistemas tecnológicos, facultará alguma sua contestabilidade ao menos política.

As tecnologias dispostas no 3º quadrante – “sedutoras” – são mais contestáveis do que as anteriores, dada a fraca força com que se apresentam aos utilizadores. Todavia, por serem pouco percetíveis, podem furtar-se à sua avaliação por esses últimos.

O aumento da literacia sociotécnica poderá, entretanto, deslocar essas tecnologias para o 4º quadrante: o das tecnologias “persuasivas”. Onde se dispõem aquelas cuja força é insuficiente para impedir o seu evitamento pelo utilizador, e a sua visibilidade é suficiente para que este se aperceba delas – p. ex. o risco contínuo pintado entre duas faixas de uma estrada.

Em tempo de pré-campanha autárquica, assim saibamos desenhar e avaliar quaisquer tecnologias urbanas, em particular as ditas “inteligentes”, conforme as respetivas visibilidade e força de impacto sobre os utilizadores satisfaçam o nível de contestabilidade que, democrática e participadamente, estabeleçamos como padrão.

Artigos relacionados

Smart cities: Impactos sobre os habitantesSmart cities: Os enviesamentos da IA e uma preocupação liberal

* Autor do blogue ‘Tecnologia, ser humano e mundo – Aberturas’.

Publicidade, Serviços & Donativos

Para conhecer e ativar campanhas em NoticiasdeAveiro.pt, assim como conhecer / requisitar outros serviços e fazer donativos, utilize a nossa plataforma online.