Bibliotecas na Era da Inteligência Artificial

Você pode perguntar ao Google, Alexa, Cortana, Watson ou Siri - mas será capaz de perguntar à sua biblioteca local? Cerca de um século atrás, a eletricidade era uma coisa nova, quase mágica – uma novidade com poucas aplicações. Naquela época, ninguém poderia prever que daria origem a telefones, linhas de produção e microchips. 

E, no entanto, a eletricidade transformou todos os setores, incluindo agricultura, saúde, transporte e manufatura. Como trampolim fundamental para tantas inovações, essa novidade foi a conquista de engenharia mais importante do século XX.

Agora, no século 21, uma nova coisa quase mágica entrou em nossas vidas: a inteligência artificial (IA). E, assim como nos primeiros dias da revolução eletrônica, estamos apenas começando a entender como essa nova tecnologia transformará completamente nossa vida diária. 

Quase todas as tecnologias emergentes de hoje são construídas com base no aprendizado de máquina cada vez mais sofisticado. Todas as grandes empresas de tecnologia estão apostando no aprendizado de máquina, esperando participar da próxima revolução, desenvolvendo inteligências de máquina proprietárias para executar tarefas que costumavam exigir inteligência humana. Hoje, nossas interações com IA são principalmente novas (“Siri, por que a galinha atravessou a rua?”) – e os resultados brutos – mas também foram as primeiras lâmpadas e fotografias.

A biblioteca pública moderna surgiu junto com a revolução elétrica do final do século 19/início do século 20 e desde então tem adaptado constantemente sistemas e serviços às novas tecnologias. No entanto, a IA testará a instituição da biblioteconomia como nenhuma tecnologia fez antes. 

Valorizamos as bibliotecas porque elas nos mantêm informados e conectados; lemos para enriquecer nossas vidas e informar nossas decisões. Mas o que acontece quando esse processo de tomada de decisão é fundamentalmente alterado?

As máquinas estão se tornando hábeis em aprender, falar, reconhecer padrões e tomar decisões. Como resultado, pedir respostas a uma máquina está rapidamente se tornando uma atividade cotidiana normal. À medida que a IA se torna cada vez melhor em entender nossas necessidades de informações e fornecer respostas relevantes, parece provável que passemos a confiar mais nela. 

Com o tempo, essas interações serão menos novas e mais essenciais. 

Após a revolução da IA, não leremos um livro da biblioteca para obter informações para tomar uma decisão. Por que nós, quando uma máquina já leu todos os livros e é mais hábil na análise e na tomada de decisões? 

Não passaremos horas em computadores de bibliotecas pesquisando uma questão quando a IA pode fazer isso por nós em segundos. E certamente não iremos a um bibliotecário humano com uma necessidade de informação quando a IA é capaz de fornecer uma resposta melhor em uma fração do tempo.

No momento, quando buscamos uma resposta para um problema, geralmente colocamos dados (números, termos de pesquisa ou qualquer outro) em um software, fazemos uma análise e usamos os resultados para informar uma decisão. Esse processo híbrido ocorre em nossas cabeças e no computador. Em breve, parecerá muito natural apenas expor o problema e deixar que o computador tome a decisão. 

As partes do meio - as partes de entrada, análise e raciocínio crítico - ocorrerão dentro de uma caixa preta. Não entenderemos como isso acontece e não nos importaremos, desde que obtenhamos resultados consistentemente bons.

Embora as bibliotecas certamente sejam alteradas pela revolução da IA ​​- e de maneiras que não podemos imaginar -, parece improvável que deixem de existir completamente. De fato, bibliotecas públicas e universidades públicas ainda podem ter um papel crítico a desempenhar na revolução da IA. As principais IAs de hoje são dominadas por software proprietário. Apple, Microsoft, Google, Facebook e outros grandes players de tecnologia têm seus próprios AIs. 

Essas empresas investiram pesadamente em pesquisa e desenvolvimento e protegeram sua propriedade intelectual de perto. Os algoritmos que dão origem ao aprendizado de máquina são mantidos em segredo, e o código que resulta do aprendizado de máquina costuma ser tão complexo que nem mesmo os desenvolvedores humanos entendem exatamente como seu código funciona. Então, mesmo se você quisesse saber o que a IA estava pensando, você estaria sem sorte.

Acesso

Uma caixa preta é um dispositivo que recebe uma entrada e produz uma saída sem qualquer conhecimento de seu funcionamento interno. Se você perguntar a Alexa: "Qual foi a causa da Guerra Civil?" você obterá uma resposta diferente do que se perguntasse à Siri - e não saberá como nenhum dos dois chegou à resposta. Você nunca pode saber o que Alexa está pensando porque o pensamento acontece em um data center seguro distante.

As instituições públicas podem ajudar a reduzir as barreiras à IA produzindo, fornecendo e promovendo projetos de IA de código aberto. Atualmente, existem vários projetos de IA de código aberto disponíveis para pesquisadores e desenvolvedores e, à medida que a tecnologia se torna mais onipresente, sistemas práticos de IA estarão disponíveis para pessoas fora desses campos especializados.

Ao apoiar a IA de código aberto, as instituições públicas podem garantir que os pesquisadores possam acessar sistemas poderosos livres de viés corporativo. Porque a Alexa fica feliz em responder às suas perguntas e vender a você uma assinatura do Amazon Prime.

Literacia da informação

A alfabetização informacional é saber quando há necessidade de informação e ser capaz de identificar, localizar, avaliar e usar efetivamente essa informação para o problema em questão. Quando o Watson da IBM venceu Ken Jennings e Brad Rutter no Jeopardy em 2010, ele sabia exatamente como avaliar e usar as informações com eficiência. E depois de assistir a um computador possuir absolutamente os melhores competidores humanos do mundo, acho que é seguro dizer que a IA é capaz de alfabetização informacional superior. O que é pior, eventos recentes (influência russa, alegações de notícias falsas, etc.) ilustraram como os humanos são ruins em avaliar a precisão das coisas que lemos.

Quando a IA se tornar boa no uso de informações para a solução de problemas, é possível que nossa dependência da alfabetização informacional da IA ​​leve a um enfraquecimento da nossa. Mas se é importante avaliar criticamente as fontes de informação, será duplamente importante (mas consideravelmente mais difícil) avaliar nossos provedores de informações de IA e tomadores de decisão.

Como vimos nos últimos anos, pequenas alterações em um conjunto de dados ou algoritmo podem alterar muito nossas experiências digitais. O Google foi acusado de favorecer seus próprios produtos e serviços em detrimento dos de seus concorrentes. O Facebook foi acusado de alterar o curso de uma eleição. O chatbot Tay da Microsoft se transformou em um troll amante de Hitler. O popular jogo Pokémon GO manteve os jogadores confinados em bairros brancos. Podemos assumir que um AI é um árbitro imparcial, mas um AI com vieses em seu conjunto de dados produzirá respostas tendenciosas.

A mesma lente crítica de alfabetização informacional que aplicamos a livros e artigos deve ser aplicada à IA; para isso, precisaremos de uma lente muito mais potente.

Privacidade pessoal

Nem sempre percebemos, mas estamos usando IA todos os dias. Por exemplo, quando pesquisamos no Google, estamos alimentando dados para o RankBrain – um sistema de IA que ajuda a classificar os resultados da pesquisa. Com o aprendizado de máquina, um computador aprende a fazer algo em vez de seguir uma programação detalhada.

Nem sempre entendemos exatamente como isso funciona, mas se você inserir fotos suficientes de gatos em uma rede neural, ela acabará aprendendo a identificar um gato. Se você der a ele palavras e frases, ele pode eventualmente aprender a entender e responder. E cada vez mais, a IA está tendo um desempenho melhor do que as regras algorítmicas codificadas por humanos. Dado que o aprendizado de máquina requer grandes quantidades de dados para ser eficaz, nossos dados pessoais se tornaram uma mercadoria quente. Encontrar depósitos de dados profundos é o equivalente do século 21 à descoberta de petróleo.

As bibliotecas promovem a privacidade de dados e, na maioria das vezes, praticamos o que promovemos (não distribuímos registros de bibliotecas, não rastreamos nossos usuários da web, etc.). Mas precisaremos de um novo conjunto de ferramentas sofisticadas se quisermos realmente ser defensores dos direitos de privacidade nas próximas décadas.

Todos os dias, nossos dados são monetizados por corporações, armados por políticos e roubados para fins ilícitos. Se algo deve nos preocupar sobre a revolução da IA, não é um apocalipse de robôs de ficção científica. É assim que formas já estabelecidas de travessuras na Internet serão exacerbadas pelo aprendizado de máquina. As bibliotecas podem ajudar a proteger a privacidade, fornecendo formas anônimas de interagir com sistemas de IA.

Liberdade intelectual

Se a liberdade intelectual é o direito de todo indivíduo de buscar e receber informações de todos os pontos de vista sem restrições, então esse direito está sob ataque. À medida que buscamos e recebemos informações da IA, como garantiremos que a liberdade seja protegida?

Em 2016, as autoridades que investigavam a morte de um homem do Arkansas buscaram como prova quaisquer comentários ouvidos pelo alto-falante do Amazon Echo do suspeito. Em setembro de 2017, o Departamento de Justiça (DOJ) emitiu mandados de busca ao Facebook, exigindo informações sobre contas associadas a usuários “anti-administração”. Ao acessar os dados pessoais desses usuários, o DOJ saberia não apenas sobre os ativistas, mas também quem leu suas postagens, quem os seguiu e quem lhes enviou mensagens.

Um livro não pode ser chamado a um banco de testemunhas. Livros não falam, mas seu assistente de IA ouve e fala. Se você perguntasse ao seu assistente doméstico de IA como matar alguém ou se pedisse para ler uma postagem de um ativista antigovernamental, você poderia estar produzindo uma trilha de evidências que poderia ser usada contra você. Talvez você estivesse escrevendo um episódio de CSI . Talvez você estivesse pesquisando para um livro sobre a história das organizações anarquistas. Seja qual for o seu motivo para buscar essas informações, suas consultas estavam sendo registradas e salvas.

Como nosso principal meio de obter informações passa da leitura de palavras impressas para a interação com inteligências de máquinas, devemos garantir que as mesmas salvaguardas que usamos para proteger os livros sejam estendidas à IA. Quando uma IA toma decisões ou previsões controversas, é quase certo que as pessoas tentarão bani-la da mesma forma que tentam banir livros controversos.

Em 2017, um crítico declarado do Google foi demitido de um think tank dos EUA que recebeu financiamento do Google. Mas em 2025, uma empresa terá maneiras muito mais sofisticadas e sutis de alterar o cenário da informação. Uma IA que determina quais informações você vê pode aprender a refletir os vieses de sua programação e desvalorizar certos pontos de vista. Se uma IA é uma caixa preta que recebe uma pergunta inserida e fornece uma resposta produzida, quem pode dizer que a saída não foi influenciada por alguém ou algo?

Trabalhar

À medida que a IA superar os humanos em um número crescente de tarefas, ela substituirá os humanos em um número crescente de empregos. E à medida que a IA se torna mais sofisticada, ficará cada vez mais difícil inventar novos empregos (trabalhos que os humanos podem realizar melhor do que as máquinas). Eventualmente, esses mesmos algoritmos que tiraram nossos empregos podem encontrar uma solução para nos alimentar e nos abrigar, mas, no curto prazo, seremos deixados para lidar com um número crescente de pessoas desempregadas.

Motoristas de táxi observam cansados ​​enquanto frotas de carros autônomos chegam a Cingapura. Caixas em Iowa assistem enquanto suas estações de trabalho são arrancadas e substituídas por máquinas de autoatendimento. E os subscritores de seguros no Japão observam como seus representantes de sinistros médicos são substituídos por um sistema de IA baseado no Watson Explore da IBM.

Hoje, as bibliotecas oferecem oportunidades para as pessoas encontrarem novos empregos e aprenderem novas habilidades. Os desempregados e os sem-teto geralmente dependem de bibliotecas para se conectar a serviços e encontrar trabalho. Estudos sugerem que 38% dos empregos correm alto risco de serem substituídos por IA nos próximos 15 anos. Quando isso acontecer, as bibliotecas precisarão aumentar drasticamente os serviços para desempregados e subempregados. Com empregos de baixa remuneração assumindo o peso da transição da IA, o desafio será reeducar uma força de trabalho para competir por um pequeno número de empregos altamente especializados.

Jogar

À medida que a IA é colocada em prática, alguns acreditam que os humanos serão liberados para passar mais tempo jogando. Talvez os robôs não estejam vindo para roubar nossos empregos; talvez eles estejam vindo para nos libertar de nossos empregos. Se a IA assumir grande parte do trabalho que fazemos, é possível que tenhamos mais tempo para brincar, criar e descobrir. Nossas identidades e nosso senso de significado podem estar ligados ao trabalho que fazemos, mas se esse trabalho acabar, podemos procurar encontrar, investir e inventar significado em outro lugar. Talvez esse significado venha na forma de realidade virtual, jogos ou ressurgimento da religião.

As bibliotecas são um espaço social. Defendemos as virtudes da comunidade e da criatividade. Oferecemos espaços e programas para reuniões. A Association for Library Service to Children (ALSC) escreveu sobre a importância da brincadeira. A ALA tem uma mesa redonda de jogos que existe para “apoiar o valor dos jogos e jogar nas bibliotecas”. Se uma revolução da IA ​​significar que os humanos trabalharão menos, estaremos procurando maneiras de gastar todo esse tempo livre recém-descoberto. Talvez nos percamos na ficção, nos conectemos com outros humanos em nossa comunidade ou tenhamos um hobby. Talvez desejemos ser voluntários, brincar ou criar. Talvez a biblioteca esteja bem posicionada para ajudar os humanos a encontrar um novo significado.

Conclusão

Da liberdade intelectual à alfabetização informacional e muito mais, as bibliotecas fornecem um conjunto de princípios que ajudaram a orientar o crescimento intelectual no último século. Na era da IA, esses princípios são mais relevantes do que nunca. Mas as bibliotecas não são mais o centro do mundo da informação, e os novos players nem sempre compartilham nossos valores. À medida que o aprendizado de máquina prolifera, que medidas podemos tomar para garantir que os valores da biblioteconomia sejam incorporados aos sistemas de IA? A defesa deve ser direcionada não para manter a biblioteconomia tradicional, mas para influenciar o desenvolvimento dos sistemas de informação emergentes que podem vir a nos substituir.

Texto: Ben Johnson ( bjohnson@councilbluffslibrary.org ) é o gerente de serviços para adultos da Biblioteca Pública de Council Bluffs em Iowa.

Comentários

Postagens mais visitadas