“Nas mãos erradas, a IA pode causar mais danos do que outras tecnologias anteriores”
9 de setembro de 2024
imagem: Pexels
texto: IHU
Ayona Datta é geógrafa e professora da University College London. Ela cresceu em Delhi, na Índia, e queria entender como o desenho das cidades condiciona a experiência que as mulheres têm delas. Ele agora reside em Londres, mas seu trabalho de campo acontece nos arredores de cidades do México, Quênia e Índia. O seu campo de investigação gira em torno de dois binómios “cidade inteligente” e “inteligência artificial”, embora questione ambos os conceitos como ponto de partida.
Em sua apresentação no curso Inteligência Artificial para Inovação Social? (AI4SI), incluída no programa de verão da Universidade do País Basco, falou sobre o seu trabalho em cidades inteligentes. Em sua apresentação não houve imagens de arranha-céus ou pessoas com smartphones de última geração dirigindo Teslas.
A entrevista é de Patrícia Reguero Rios, publicada por El Salto, 04-09-2024.
Eis a entrevista.
Quando se pensa em uma cidade inteligente, o imaginário social reproduz o que aparece em uma busca no Google. Grandes edifícios, avenidas largas, iluminação de baixo consumo e celulares de última geração. Mas, qual é a imagem que você tem de uma cidade inteligente, de acordo com sua pesquisa?
Minha pesquisa desde o início consistiu em questionar esse imaginário, um imaginário fantástico que quase parece um filme de ficção científica. Comecei a pesquisar cidades inteligentes porque estava interessado em ver que outras versões existem, o que realmente significa ser inteligente. As imagens de “cidades inteligentes”, especialmente na forma como são produzidas e divulgadas no Sul global, assemelham-se muito à ficção científica, e penso que isso se deve ao facto de surgirem da compreensão de que a tecnologia resolverá tudo. Passamos por isso nos anos 40, nos anos 70, nos anos 2000.
Queria ver que inteligência realmente existe, como a vida se desenvolve nas ruas através da tecnologia, ou sem ela. E descobri várias versões de ser “inteligente”, algo que começou quando comecei a trabalhar com comunidades, perguntando-lhes o que significa ser “inteligente”.
Existem muitas versões de ser inteligente porque inteligente em si não é uma palavra carregada de tecnologia. Inteligente significa apenas ser sábio na forma como utiliza os recursos, na forma como pode utilizá-los para fazer mais com menos. E é isso que as comunidades nos dizem. Então, eu queria trabalhar com essa definição de inteligente, uma definição que pudesse ser usada.
Quando se começa a pensar na relação entre a cidade inteligente e a tecnologia, ela é muito forte, devido às narrativas que são transmitidas de cima para baixo pelos governos e por todas as empresas globais. Mas se formos ao nível da rua, há uma grande utilização da tecnologia porque, claro, nos últimos 20 anos, as zonas urbanas pobres do Sul global têm sido as maiores receptoras de tecnologia, e hoje cada pessoa tem um celular.
Isso não significa que eles saibam como usá-lo para extrair as informações corretas, mas quando falamos sobre ser inteligente, quero falar sobre o uso de tecnologias frugais e de baixo custo e como as pessoas no local sobrevivem usando esses tipos de tecnologias.
Este tipo de luta existe há gerações, mas agora existe uma camada de tecnologia. É assim que entendo a inteligência, de uma forma muito mais diversificada.
Você acabou de falar sobre o que você considera “inteligente”. Em sua apresentação ele também explicou o que entende por IA, Inteligência Artificial, e como a IA está presente no uso do WhatsApp ou de aplicativos simples. O que é essa tecnologia?
Não vejo muita diferença entre IA e smart. Acredito que a IA é um continuum de inovações e tecnologias anteriores. A inteligência é recente, enquanto a IA é ainda mais recente. Questiono o rótulo “inteligência artificial”, porque a inteligência não pode ser artificial. Para que a IA funcione, precisamos de mais intervenção humana.
No início dos anos 2000, também usamos tipos específicos de codificações e algoritmos. Por exemplo, se você quiser criar um sensor de fumaça, ou se quiser criar um sistema inteligente de resíduos ou um sistema de reconhecimento facial instalado em todas as câmeras CCTV em uma sala de controle de tráfego da cidade, essa também será uma cidade inteligente. Tem sido impossível fazer esse tipo de tecnologia nos últimos anos sem algoritmos e codificação. Ou seja, o conceito “inteligência artificial” é inadequado porque necessita realmente da inteligência humana para funcionar, não possui o tipo de agência mostrado.
Dito isto, há também o outro lado, que é a IA generativa mais recente, que parece ter vida própria, como o ChatGPT, por exemplo, ou os deepfakes. Mesmo isso precisa de intervenção humana. A IA generativa está se tornando cada vez mais popular, mas acho que também estamos ficando cada vez mais inteligentes na compreensão de que realmente não podemos permitir que ela domine o mundo.
Portanto, sou um pouco cético em relação a essas visões de que a IA assumirá o controle de tudo. IA é, para mim, o mesmo que tecnologia inteligente e, nesse sentido, é uma tecnologia menor, especialmente na vida das pessoas na rua. Se você for conversar com jovens que moram em assentamentos, em comunidades da classe trabalhadora e perguntar e perguntar se elas usam inteligência artificial, elas vão pensar: “De que mundo você vem? Tento pagar minhas contas e comprar comida”.
Mas é claro que estou preocupado com o tipo de mineração de dados que a IA é capaz de realizar. Tal como acontece com outras tecnologias, há coisas positivas a dizer e alguns aspectos problemáticos, tal como acontece com outras tecnologias. Embora eu ache que nas mãos erradas pode causar muito mais danos do que as tecnologias anteriores poderiam ter causado.
É por isso que precisamos de uma regulamentação forte. Mas, como disse, penso que de uma forma ou de outra a IA sempre esteve lá, embora neste momento o seu impacto no dia-a-dia, na vida quotidiana das pessoas, seja menor, embora esteja a assumir grande parte da governação.
O IAS é-nos apresentado como um novo deus, mas falamos dele como uma tecnologia menor…
Há dez anos, a IA foi proposta como a próxima grande novidade. E agora vejam onde estamos, é como se houvesse peças fragmentadas e irregulares em diferentes cidades do norte e do sul do mundo. Sinto que sempre há pressa em ficar animado com algo novo, e não estou dizendo que não seja algo com que se preocupar. É, pode ser usado para desinformar. Mas nunca substituirá os humanos, porque exigirá sempre uma enorme quantidade de trabalho humano. O tipo de trabalho humano mudará, sim. Mas a IA precisa de uma enorme intervenção humana e de reconhecimento humano para funcionar como está. O ChatGPT nunca substituirá os humanos.
Durante sua apresentação, ela mostrou um vídeo de um grupo de meninas de uma cidade periférica da Índia, onde uma delas diz que “a cidade inteligente é uma falácia”. Você concorda com ela?
Concordo que é uma falácia para algumas pessoas, dependendo do lado da cidade em que se encontram. Os princípios básicos de uma cidade inteligente são que as tecnologias inteligentes devem ser colocadas em camadas sobre a infraestrutura existente. E então penso que para muitas destas pessoas da classe trabalhadora, as cidades inteligentes são uma falácia porque não têm infraestruturas que funcionem bem. No vídeo você pode ver montanhas de lixo e pode ver que não tem nem eletricidade, não tem luz. Então num bairro onde não há energia elétrica não se pode colocar luzes com sensores porque não há infraestrutura de iluminação. Não é possível criar um sistema de resíduos inteligente se não houver um sistema de saneamento integrado e as pessoas vão para os campos defecar.
Para as classes desfavorecidas, a cidade inteligente é uma falácia porque as tecnologias inteligentes só são possíveis quando já existe um determinado tipo de infraestrutura física. A forma como as tecnologias inteligentes estão a ser implementadas em partes do Sul global é principalmente nos centros das cidades, nos distritos empresariais e nos bairros de classe média, porque é onde há muita infraestrutura.
Depois, há as pessoas que nem sequer conseguem chegar à cidade porque não há transportes públicos e para quem a cidade inteligente é certamente uma falácia, mas de quem, sem o seu conhecimento, a IA está a recolher dados, os seus dados são continuamente minados.
Ela já trabalhou anteriormente em infraestrutura e gênero. A IA também tem preconceitos de gênero?
Bem, trabalhei na forma como as cidades inteligentes são tendenciosas em termos de género e parte do meu trabalho vem daí. Não trabalhei em como a IA tem preconceitos de gênero, mas pelo que entendi até agora, é que esse preconceito vem das capacidades de mineração de dados da IA ??e também da codificação da IA, então os códigos são realmente direcionados determinados tipos de parâmetros que podem prejudicar não só as mulheres, mas também as minorias.
O que considero realmente problemático é a forma como a IA é tão íntima em nossas vidas. Temos essa visão de que isso vai tornar a nossa vida mais fácil e simples, e por isso te seduz a dar mais informações. E então não sabemos o que está sendo feito com esta informação ou como isso pode realmente afetar nossas vidas. Isto ocorre num contexto em que outros dados por vezes não estão disponíveis. Por exemplo, durante a pandemia, na Índia, subitamente surgiram muitos trabalhadores migrantes que necessitaram de regressar a casa. O Estado não sabia que eles existiam, não sabia como ajudá-los. Mas todos eles usaram telefones celulares.
Como a IA e a perspectiva decolonial estão interligadas?
Estou muito interessado em ver como as desigualdades se acumulam de geração em geração. É por isso que é importante ver como as tecnologias vêm e vão, mas também se complementam, eu acho. Então se você pensar na lógica colonial, na cartografia do território, a construção de infraestrutura, por exemplo no Canadá ou na Índia, sempre teve como foco a movimentação de mercadorias, a movimentação de pessoas dos portos para a cidade, porque isso também faz parte da expansão capitalista das colônias. Mais tarde, quando chegaram a rádio, os telegramas, a eletricidade... estas infraestruturas seguiram esse caminho. A colonialidade tem uma geografia que se transmite de geração em geração.
Os desenvolvimentos pós-coloniais também seguiram essa linha. Então os corredores industriais, os corredores econômicos, seguiram as linhas ferroviárias que o governo colonial criou, porque essas rotas já tinham sido criadas. E agora, se realmente sobrepormos a infraestrutura digital, vemos uma forte correlação entre o que existia antes do ponto de vista geográfico e o tipo de rede móvel que existe. Porque quando você começa a construir uma infraestrutura, você a enxerta em outra. Nesse sentido, você pode ver uma genealogia, uma historicidade dessas tecnologias.
Mas, é claro, as novas tecnologias também trazem consigo novas desigualdades e novas marginalizações. Então, sim, estou muito interessado em analisar as tecnologias e as discriminações das tecnologias e as desigualdades das tecnologias no momento atual.
Precisamos ver o que está acontecendo agora em relação ao que aconteceu antes. Eu sei que você vê isso com comunidades específicas, comunidades que historicamente foram deixadas para trás: as classes trabalhadoras, as mulheres, eu acho que as minorias, as populações negras... elas foram historicamente deixadas para trás e agora também se tornaram as fronteiras de novas experiências com tecnologias digitais, novas experiências com IA. Vejo uma espécie de continuidade histórica.
O título do curso em que tem participado nestes dias é “Inteligência Artificial para Inovação Social? (AI4SI)”. Você está otimista sobre como a IA pode contribuir para a mudança social? Você não acha que a IA é feita para classes privilegiadas, principalmente homens cis-héteros?
É verdade que existe um preconceito, mas também existem suis globais dentro do Norte e há nortes dentro do Sul global. Portanto, penso que a discriminação e a desvantagem são contextuais, não se trata de homens brancos heterossexuais contra mulheres negras, mas precisamos realmente de compreender como as tecnologias se desenvolvem in situ no seu contexto e que tipo de novas desigualdades causam.
Devemos adotar uma abordagem crítica em relação à IA. E sim, com certeza, pode proporcionar justiça social, quando utilizada de forma ética, colaborativa e democrática, tal como qualquer outra tecnologia.
Como você se interessou por esta área de trabalho?
Claro. Bem, eu sou arquiteta. Trabalhei como arquiteta e depois estudei geografia urbana. Tenho muito interesse por cidades. E entrei na tecnologia por acidente, porque acompanhava as transformações urbanas no Sul global. E de repente comecei a ver, tal como você, todas aquelas imagens fascinantes de ficção científica, a perguntar-me porque é que a tecnologia se tornou tão importante. Penso que quem estuda planeamento urbano não pode afastar-se do digital, porque a tecnologia está a mudar enormemente as cidades e as cidades também estão a moldar as tecnologias.
E se me interessei por gênero é porque cresci em Deli, onde há muitas agressões sexuais contra mulheres. Isso se tornou muito consciente e crítico em relação à forma como as cidades são criadas e produzidas. Sempre quis compreender porque é que, tradicionalmente, as mulheres têm sido excluídas tanto do design das cidades como da vida urbana. A discriminação de gênero também ocorre em Londres, é simplesmente mais invisível.
Quão inteligente é Londres?
Em muitos aspectos é inteligente... mas depende de onde você vai.
publicação original:
Deixe seu comentário!
Os comentários são de responsabilidade exclusiva de seus autores e não representam a opinião deste site. Envie seu comentário preenchendo os campos abaixo